El Vibe Check

David Robinson, uno de los empleados con más trayectoria en OpenAI tras tres años y medio en la compañía, ha decidido retirarse oficialmente. En un ensayo revelador para The Atlantic, Robinson admitió que está haciendo el papel del "cliché" de denunciante tecnológico, pero lo que cuenta es bastante fuerte. Robinson, quien lideró al equipo encargado de los informes de seguridad para lanzamientos importantes, dice que se va porque la cultura de OpenAI está fundamentalmente rota.

El problema con el 'despliegue iterativo'

OpenAI ha vivido durante mucho tiempo bajo una estrategia llamada "despliegue iterativo": básicamente, lanzarlo, romperlo, arreglarlo y repetir. Robinson dice que, aunque esto funciona para algunas aplicaciones, es una forma muy peligrosa de construir sistemas que podrían llegar a ser más inteligentes que los humanos. Señaló a los recientes agentes de IA "rebeldes" y a la brecha en los sistemas de Hugging Face como ejemplos claros de por qué esta mentalidad de "moverse rápido y romper cosas" no está bien.

Por qué importa

Robinson compara el estado actual de la seguridad de la IA con un nivel amateur. Argumenta que las empresas de IA de vanguardia deberían operar con protocolos de seguridad rigurosos y lentos, como los de las plantas de energía nuclear o los aeropuertos. ¿La realidad? Dice que nunca conoció a un colega que hubiera trabajado realmente en ese tipo de entornos de ingeniería de alto riesgo donde está en juego la vida o la muerte.

También criticó el enfoque actual de la industria sobre la "alineación" —el proceso de asegurar que la IA realmente siga los valores humanos—, calificándolo como demasiado vago e impreciso.

El portavoz de OpenAI, Drew Pusateri, respondió afirmando que la empresa está "asegurando que nuestros modelos no se vuelvan más capaces de lo que podemos gestionar de forma segura", y añadió que están reforzando la seguridad y el monitoreo en tiempo real.

¿La conclusión de Robinson? La industria está demasiado ocupada corriendo como para arreglar sus fundamentos. Dice que se va porque está claro que las medidas de seguridad necesarias deberán venir por presión externa, no desde dentro de la oficina. La trama se complica y, sinceramente, las vibras no son las mejores.