El pánico tecnológico es real

Si has sentido que la IA está avanzando demasiado rápido, no eres el único. Westminster se encuentra actualmente en un estado de alarma, con funcionarios laboristas de primer nivel admitiendo que la IA sin control es lo que no los deja dormir por las noches. No es necesariamente que los robots asesinos al estilo 'Terminator' sean el problema; es la magnitud del poder que estos modelos tienen si caen en las manos equivocadas.

Después de un periodo en el que el gobierno se sentía demasiado cómodo con las grandes tecnológicas, ha habido un giro importante. La administración de Andy Burnham está adoptando una postura mucho más dura, dejando atrás las vibras de 'tech-bro' por un enfoque más cauteloso.

Las amenazas del mundo real

No es solo paranoia. El ministro de IA, Kanishka Narayan, señaló recientemente que los ataques de hackers al Estado británico a través de la IA son prácticamente inevitables. Aún más preocupante, el jefe del MI5, Ken McCallum, advirtió que grupos extremistas están usando la IA para potenciar ciberataques y potencialmente hasta desarrollar armas biológicas.

Liam Byrne, presidente del comité de negocios y ciencia, señaló que, aunque empresas como Anthropic y OpenAI están intentando colaborar con las pruebas de seguridad, el juego se está complicando. El Reino Unido actualmente intenta mantener la cooperación con estas firmas mientras navega por un escenario político estadounidense impredecible.

El dilema del código abierto

Aunque las grandes tecnológicas tienen algunas barreras de seguridad, el verdadero giro de la trama es la IA de código abierto. El experto Geoffrey Irving advirtió que estos modelos son cada vez más potentes y capaces de causar daños graves, y como son de código abierto, las funciones de seguridad pueden eliminarse en un abrir y cerrar de ojos. Es un nivel de riesgo real, sin rodeos.

Sin embargo, no todos están subidos al tren del pánico existencial. La profesora Elena Simperl, del King’s College de Londres, señaló que quizás deberíamos centrarnos en lo que ya está fallando, como los hackeos potenciados por IA y lo adictivas que son estas herramientas, en lugar de centrarnos puramente en escenarios hipotéticos de ciencia ficción.

Por qué importa

El gobierno del Reino Unido está atrapado en una paradoja: quieren usar la IA para arreglar los servicios públicos y aumentar la productividad, pero están aterrados de quedarse atrás por la tecnología o, peor aún, de ser devastados por ella. Necesitan avanzar rápido en la regulación porque, como dice el refrán: si no estás en la mesa, estás en el menú.