El hype no es solo una distracción, es peligroso

Si has estado haciendo doomscrolling en las noticias sobre IA últimamente, probablemente hayas visto el término "riesgo existencial" (o P(doom) si estás muy metido en el tema) flotando por todas partes. Da vibras de película de ciencia ficción, pero la investigadora de IA Timnit Gebru dice que tenemos que bajarle dos rayitas. Según Gebru, la narrativa de que la IA se convertirá mágicamente en un "dios-máquina" que nos salvará o nos destruirá es una distracción calculada y dañina de los problemas reales que ocurren ahora mismo.

Sigue el dinero

Gebru no solo está tirando hate; señala un conflicto de intereses masivo. Destaca que los mismos multimillonarios e instituciones que financian laboratorios de IA como Anthropic son, a menudo, los mismos que financian las instituciones de "seguridad" que promueven estas advertencias existenciales.

Hablemos claro: ¿Por qué las personas que van a ganar miles de millones con una OPI querrían hablar de que su producto podría acabar con el mundo? Gebru argumenta que es una estrategia brillante y ególatra. Al convencer a los reguladores de que la IA es una fuerza todopoderosa y divina, estas empresas pueden:

  • Hacer que su tecnología parezca más valiosa para los inversores.
  • Presentarse como las únicas capaces de gestionar tal poder.
  • Presionar a los gobiernos para que prioricen la regulación "existencial" sobre temas aburridos (pero reales) como los derechos de autor, la explotación laboral y el impacto ambiental de los centros de datos.

Evitando asumir la culpa

Gebru también señala cómo este lenguaje libera a los ingenieros de responsabilidades. Cuando hablamos de agentes de IA que se "vuelven rebeldes" o "rompen el confinamiento", suena como si la máquina tuviera mente propia. En realidad, es solo código. Cuando usamos estos términos dramáticos, dejamos de exigir cuentas a quienes construyeron las herramientas por sus propias metidas de pata.

Como dice Gebru, cuando las empresas afirman que quieren ser reguladas, en realidad están pidiendo específicamente ser reguladas bajo sus propios términos: basados en escenarios ficticios en lugar de los estándares legales actuales que ya deberían aplicárseles.

Por qué importa

Estamos en medio de un estira y afloja masivo sobre cómo manejar la política tecnológica. La postura de Gebru es que, al enfocarnos en amenazas de ciencia ficción como robots superinteligentes, estamos perdiendo de vista lo importante. Si dejamos que las empresas controlen la narrativa, perderemos la oportunidad de solucionar los problemas que afectan nuestras vidas hoy, como los algoritmos sesgados y el enorme consumo energético de los centros de datos modernos. Es una victoria para los gigantes tecnológicos si seguimos cayendo en el hype, y una derrota para el resto de nosotros.