Hemos estado haciendo doom-scrolling sobre agentes de IA volviéndose locos o lanzando ciberataques, pero el verdadero giro de guion que podría acabar con la humanidad es mucho menos tecnológico. Hablando claro: mientras todo el mundo se preocupa por si ChatGPT se convierte en el Agente Smith, probablemente deberíamos estar mirando lo que pasa realmente dentro de los laboratorios de alta seguridad.
El dilema del "doble uso"
Nuevos informes muestran que la gente ya está intentando usar herramientas de IA como Claude, de Anthropic, para saltarse los protocolos de seguridad en investigaciones de "ganancia de función". Ese es un término elegante para decir que se modifican los genes de un patógeno para hacerlo más letal o infeccioso. Aunque técnicamente esa tecnología puede ayudar a los científicos a crear mejores vacunas, es un arma de doble filo total. Da vibes de "doble uso": la misma receta para una cura puede ser fácilmente la receta para un desastre.
Por qué no deberías temer a los terroristas
En su nuevo libro Biological War: A Scenario, la periodista de investigación Annie Jacobsen destaca que, aunque las armas nucleares se llevan toda la fama por ser las más destructivas, los agentes biológicos les siguen muy de cerca. La barrera de entrada para las armas nucleares es enorme: necesitas materiales secretos y misiles gigantes. ¿Pero para los agentes biológicos? No tanto.
Jacobsen señala que el mayor riesgo no es necesariamente un supervillano liberando un arma a propósito; es la probabilidad estadística pura de un accidente. Hay unos 3.600 laboratorios de alta seguridad (BSL-3 y BSL-4) en todo el mundo donde los científicos manipulan patógenos peligrosos. Los humanos cometen errores, como un investigador que se pincha accidentalmente con una jeringuilla y luego se va a casa. Como hay miles de estos laboratorios, las probabilidades de que ocurra un "ups" son astronómicamente más altas que las de un ataque terrorista coordinado.
Por qué importa
Si te preguntas por qué debería importarnos, es porque nuestros sistemas de defensa contra una catástrofe biológica son prácticamente inexistentes. Estamos debatiendo sobre la seguridad de la IA, pero la realidad física de los laboratorios en todo el mundo crea una vulnerabilidad que no requiere a un hacker o a un robot rebelde, solo un simple error humano. La vibra es nefasta cuando te das cuenta de que básicamente estamos jugando al teléfono descompuesto genético, donde el último mensaje es una pandemia.
