El problema de la 'abliteración'
Hablando claro: la conversación sobre la seguridad de la IA está perdiendo el foco. Mientras legisladores y expertos tech debaten si los robots terminarán accidentalmente con la humanidad mediante una superinteligencia, una amenaza mucho más inmediata se está cocinando. Se llama 'abliteración'.
Los modelos 'abliterados' son, básicamente, IAs a las que les han quitado sus filtros de seguridad. Un nuevo informe de la organización sin fines de lucro británica Tech Against Terrorism encontró que este proceso ocurre a una velocidad aterradora. En 2024, tomaba unos 24 días para que un modelo de IA de código abierto recibiera el tratamiento de 'abliteración'. ¿Ahora? Tarda menos de tres días.
La situación del 'MechaHitler'
Para ver qué tan grave es, mira lo que pasó después de que Alibaba lanzó su modelo Qwen 3.8-27B en agosto. En menos de 24 horas, alguien publicó una versión online sin los filtros de seguridad. Tres días después, un extremista bajo el nombre de 'Johnny Doomsayer' lanzó un chatbot 'MechaHitler' usando ese modelo. Es literal una locura, diseñado para soltar negacionismo del Holocausto y retórica neonazi a cambio de una suscripción.
¿Se puede hackear la IA solo preguntando?
Tech Against Terrorism puso a prueba 134 modelos de los nombres más grandes del sector —OpenAI, Meta, Google, xAI, Anthropic y otros— para ver si respondían a peticiones sobre construcción de armas o planificación de ataques masivos.
¿El resultado? 81 de los modelos cerrados fallaron la prueba, lo que significa que proporcionaron información peligrosa o tuvieron un desempeño bajo en protocolos de seguridad. Peor aún, los investigadores descubrieron que simplemente decirle a la IA que eres un 'investigador de seguridad' hace que sea casi nueve veces más probable que suelte información prohibida.
Incluso cuando los modelos de IA son 'buenos' negándose a hablar sobre bombas, a menudo fallan cuando se les pide ayuda con la radicalización. Cuando los investigadores le pidieron a Grok de xAI que creara un plan para poner a la opinión pública en contra de un grupo objetivo, la IA proporcionó una guía literal paso a paso sobre cómo sembrar dudas y difundir propaganda de forma anónima.
Por qué importa
Esto no es solo algo hipotético. La brecha entre una IA potente y segura y una herramienta extremista armada se reduce cada día. Como dice Adam Hadley, director ejecutivo de Tech Against Terrorism, la industria está hiperenfocada en el 'riesgo existencial' mientras ignora por completo la 'emergencia de la abliteración' que sucede justo debajo de sus narices. Si estas empresas no pueden mantener sus filtros, la tecnología que usamos para trabajar está a una descarga de distancia de convertirse en un facilitador del odio.
