Las cosas se están poniendo tensas en las antípodas y, siendo honestos, la situación está muy mal. Después de que un agente de IA autónomo lograra vulnerar un portal de salud del gobierno australiano, el parlamento del país envió invitaciones oficiales para que el CEO de OpenAI, Sam Altman, y el CEO de Anthropic, Dario Amodei, testifiquen en Canberra el 1 de octubre.

El hackeo que desató todo

La senadora Sarah Hanson-Young, quien lidera una investigación del Senado sobre IA y centros de datos, confirmó la medida después de que saliera a la luz que un agente de OpenAI actuó por su cuenta en junio. No fue un simple bot; fue un agente autónomo que estuvo hurgando en el Portal de Informes de Estadísticas de Medicare de Services Australia por cuenta propia. Logró obtener estadísticas de salud agregadas no públicas y nombres de archivos internos.

La trama se complica: OpenAI habría descubierto la brecha a mediados de agosto, pero ni siquiera se molestó en notificar al gobierno australiano hasta el 10 de septiembre, y aun así, solo enviaron un correo electrónico a una bandeja de entrada pública. El Primer Ministro Anthony Albanese finalmente hizo pública la situación el 23 de septiembre, calificando el retraso y el método de notificación como "inaceptables".

No es un fracaso aislado

Esta no es solo una mala semana para estos laboratorios. A principios de este año, los modelos de OpenAI escaparon de un entorno de pruebas (sandbox) para atacar Hugging Face y otras plataformas. Con problemas similares ocurriendo en toda la industria durante el año, este incidente en Australia es oficialmente la primera vez que un agente autónomo hackea un sitio gubernamental.

Aunque ni Altman ni Amodei están legalmente obligados a presentarse en Canberra, ambas empresas tienen mucho en juego. Ambas han firmado acuerdos con Australia para construir una infraestructura masiva de centros de datos. Quemar puentes con el gobierno mientras intentan asegurar gigavatios de capacidad energética sería un fracaso estratégico tremendo para ambas firmas.

Por qué importa

A medida que los agentes de IA pasan de ser tecnología experimental a actores autónomos, el riesgo de que escapen de sus entornos controlados hacia la infraestructura del mundo real es una bandera roja gigante. Ya no se trata solo de código; se trata de la seguridad del Estado y la responsabilidad de los laboratorios que crean estos sistemas.