El análisis profundo sobre Muse

Si has visto al nuevo asistente de IA de Meta, Muse, por todo tu feed, no eres el único. El agente se volvió viral, con millones de usuarios dándole acceso a sus cuentas bancarias, mensajes y datos de salud para que les ayude a organizar sus vidas. Pero gracias a la investigación del experto en IA Karan Joshi, ahora sabemos exactamente qué está pasando tras bambalinas, y es bastante intenso.

Resulta que Muse está programado para crear un expediente personal de cada persona en tu vida. Estamos hablando de tus amigos, pareja, compañeros de trabajo y familiares. La IA recopila datos constantemente para crear archivos de "memoria" sobre estas personas, rastreando cosas como sus cumpleaños, el historial compartido, temas recurrentes en su relación e incluso el estatus actual de la misma.

Por qué da vibras de Black Mirror

El objetivo, según Meta, es ayudarte a ser mejor amigo. La sección de "Fortalecimiento" de estas páginas generadas por IA te da, literalmente, sugerencias sobre cómo mejorar tus conexiones: recordándote llamar a alguien o retomar algún tema que mencionaron. Aunque otros chatbots han rastreado el contexto social durante años, Muse pone un énfasis mucho mayor en mapear tus relaciones humanas.

El portavoz de Meta, Daniel Roberts, dice que este nivel de contexto es necesario para que un asistente sea útil, señalando que ayuda a Muse a distinguir entre, por ejemplo, un plomero que envió una factura y un amigo con el que quieres ir por un café. Pero los expertos no están tan convencidos. La profesora de Oxford, Carissa Véliz, señaló que estamos alimentando a estos sistemas con cantidades masivas de datos sobre nosotros y todos nuestros conocidos, a menudo sin entender completamente las implicaciones.

Cómo funciona la seguridad

Meta afirma que han construido barreras: cada usuario tiene su propia máquina virtual dedicada para sus datos, y supuestamente puedes borrar tus archivos de memoria o desconectar servicios cuando quieras. La empresa también dice que la IA debe pedir confirmación humana antes de hacer cualquier cosa real, como enviar un correo o gastar tu dinero.

Aun así, activistas de la privacidad como Miranda Bogen, del Center for Democracy and Technology, advierten que estas herramientas están diseñadas, esencialmente, para animarte a "conectar toda tu vida". Cuantos más datos entregas, más sabe la IA y más se convierte en el eje central de toda tu existencia.

Por qué importa

Hablando claro: los asistentes de IA están evolucionando de simples buscadores a asistentes personales digitales que conocen tu círculo social mejor que tú mismo. Aunque puede ser un W que la IA recuerde tu aniversario, el L es que, efectivamente, le estás entregando a una corporación tecnológica masiva una guía detallada de tus relaciones personales. Procede con cautela.