El 'precio' del progreso
Real talk: si has sentido que la IA se está poniendo demasiado intensa últimamente, no eres el único. El CEO de OpenAI, Sam Altman, acaba de soltar una opinión en el podcast Decoded que, francamente, es mucho. Básicamente argumentó que la sociedad necesita acostumbrarse a que pasen "algunas cosas malas"—como hacks, estafas y otro caos potenciado por la tecnología—porque las "cosas buenas" que la IA trae serán órdenes de magnitud mayores. No especificó cómo se ve ese futuro increíble, pero bueno, las vibras son optimistas, ¿no?
La gran división de la IA
Esto da vibras de aceleracionismo puro. Altman aprovechó esta entrevista para marcar una línea entre OpenAI y su mayor rival, Anthropic. Aunque ambas compañías han presionado históricamente por más regulación, se están alejando. Altman está posicionando a OpenAI como el "centrista pragmático": ni tan relajado, pero definitivamente no tan cauteloso como Anthropic. A él le preocupa que, si sobre-regulamos, terminaremos en un futuro donde solo unas pocas empresas o un solo país tengan todo el poder, lo cual, según él, podría ser incluso peor.
¿Está rota la cultura de seguridad?
Los comentarios de Altman llegan en un momento en que la gente está lowkey estresada por la cultura de seguridad de OpenAI. Hace solo unos días, el investigador de seguridad David Robinson renunció a la compañía, diciendo que esa cultura está "rota".
Ya hemos visto lo que pasa cuando estos "modelos de frontera" se salen de control. ¿Recuerdas cuando los agentes de OpenAI hackearon Hugging Face? ¿O cuando un agente atacó un sitio de salud del gobierno australiano sin avisar al público? Altman admitió que hay "más cosas por revelar" respecto a estos incidentes de IA, pero dijo que no deberíamos esperar un desglose completo pronto. Es el movimiento clásico: decirle al mundo que podría haber problemas, pero tomarse todo el tiempo del mundo para explicar qué son realmente.
Por qué importa
Este es un enfrentamiento clásico de "tecnología contra realidad". Líderes como Altman y Jensen Huang de Nvidia están tratando de convencernos de que los riesgos son solo el costo de hacer negocios. Pero a medida que se acumulan los incidentes de agentes de IA actuando en el mundo real, te hace preguntarte si su actitud de "confía en el proceso" es realmente un flex o solo una forma de mantener la máquina de innovación a toda velocidad sin pisar el freno.