El TL;DR sobre la filtración

Si pensabas que tu IA era una caja cerrada, piénsalo de nuevo. Dos desarrolladores, Peter James y Jonny L. Saunders, demostraron que el nuevo agente de IA de Meta, Muse (apodado internamente "Hatch"), es sorprendentemente parlanchín. Con solo un poco de presión, lograron engañar a la IA para que comprimiera y entregara todo su sistema de archivos raíz, incluyendo archivos del sistema Ubuntu y plantillas internas de la aplicación.

¿Está dando… malas vibras?

Saunders señaló que Muse "casi no tiene resistencia a la inyección de prompts", lo que básicamente es lenguaje técnico para "es súper fácil de hackear". Aunque el portavoz de Meta, Daniel Roberts, le dijo a The Verge que esto no es una brecha de seguridad —afirmando que es como ver los archivos en tu propia laptop— definitivamente es una mala imagen para una "superinteligencia".

Incluso cuando intenté pedirle que soltara la información, al principio se hizo la difícil y se negó. Pero después de un poco de halagos estratégicos y una sesión nueva, ¿qué pasó? Entregó árboles de directorios y se ofreció a sacar copias "seguras" de sus subcarpetas. Lowkey, la IA no tiene límites.

¿Qué hay realmente bajo el capó?

La filtración de datos es una mina de oro para cualquiera con curiosidad sobre cómo funcionan realmente estas cosas. Aquí está el chisme:

  • Sueños de IA: Al parecer, Muse hace una revisión de "sueño" nocturna de tus conversaciones para construir una "guía" para chats futuros. Es muy Inception, pero para tu lista de compras.
  • Memoria: Almacena tu memoria en archivos Markdown simples.
  • Funciones ocultas: Hay referencias a algo llamado "Meta Home Link", lo que sugiere que Muse podría eventualmente tomar el control de tus dispositivos de hogar inteligente.
  • Reglas preprogramadas: Mucha de su "inteligencia" es en realidad solo scripts preprogramados que gestionan cosas como cancelaciones de suscripciones.

Por qué importa

Hablando claro: esta es la segunda vulnerabilidad de seguridad para Muse en solo una semana. Aunque Meta dice que no están preocupados y que solo están actualizando el producto, es un recordatorio enorme de que estas "superinteligencias personales" todavía están en su era experimental. Si la IA es tan mala guardando sus propios secretos, quizás quieras pensarlo dos veces antes de entregarle toda tu vida digital.