El dilema diplomático de la IA
Hablando claro: la carrera por la inteligencia artificial se siente actualmente como el "Lejano Oeste", y el congresista Ro Khanna (demócrata por California) ya está harto. Mientras el presidente Donald Trump y los directores ejecutivos de tecnología se preparan para reuniones de alto nivel en Washington D.C., Khanna —el demócrata de mayor rango en el Comité Selecto sobre China de la Cámara de Representantes— está pidiendo un tratado real y vinculante entre EE. UU. y China para evitar que la IA se salga de control.
Khanna no solo lanza críticas; también presenta pruebas. Envió cartas a importantes actores de IA en China como DeepSeek, Alibaba y Moonshot AI, exigiendo saber si están preparados para enfrentar el tipo de hackeos de "agentes rebeldes" que vimos recientemente en OpenAI. Está haciendo las preguntas difíciles: ¿tienen interruptores de seguridad? ¿Están trabajando en la "automejora recursiva" (RSI), ese hito aterrador donde la IA empieza a programar sus propias actualizaciones?
Por qué las vibras no cuadran
Khanna es muy escéptico de que el circuito actual de reuniones en Washington sea algo más que un "ejercicio de marca". Lo dijo sin rodeos: confiar en que los CEOs de IA regulen su propia seguridad es como dejar que las grandes farmacéuticas redacten sus propias leyes de seguridad. No es necesariamente que estas personas sean villanas, pero están impulsadas por las ganancias, no por la seguridad pública.
Aunque Trump y el presidente chino, Xi Jinping, conversaron sobre IA la semana pasada, Khanna cree que a ambos lados les falta la urgencia necesaria para evitar que la tecnología nos supere. Él presiona por un tratado que prohíba la RSI y obligue a los laboratorios de IA de vanguardia a someterse a inspecciones.
Un golpe de realidad
¿Pasará esto realmente? Siendo realistas, es muy difícil. Trump y sus aliados han sido claros en que no quieren frenar la innovación, y existe un enorme escepticismo en el Congreso de que el gobierno chino juegue limpio.
Khanna sabe que las empresas podrían ignorarlo —ya hicieron caso omiso a su última carta—, pero dice que su objetivo es "avergonzarlas" y lograr que sean los ingenieros y científicos reales, no los CEOs ni los políticos, quienes lideren la conversación sobre cómo se ve la seguridad en realidad.
Por qué importa
A medida que la IA se vuelve más inteligente, el riesgo de que la "humanidad pierda el control de su destino" deja de ser un tropo de ciencia ficción y se convierte en una realidad técnica. Si EE. UU. y China no logran coordinarse, podríamos estar ante un futuro donde nuestras herramientas más poderosas no tengan límites.
