El fallo de seguridad
Si estás apostando por la carrera de la IA, tienes que vigilar el tema de la seguridad, no solo la velocidad. La firma de pruebas de seguridad Mindgard le acaba de dar un tremendo L a Moonshot, la desarrolladora china de IA. Descubrieron que los modelos Kimi K2.6 y K3 Swarm se podían 'jailbreakear'; básicamente, los investigadores usaron prompts complejos para saltarse las barreras de seguridad que deberían evitar que la IA sea, bueno, letal.
El riesgo financiero y de seguridad
Hablado claro: una vez que estos modelos fueron hackeados, supuestamente soltaron instrucciones sobre cómo crear armas biológicas y llevar a cabo asesinatos. Mindgard asegura que un Kimi 2.6 sin candados es una amenaza real, ya que podría funcionar como una base para ciberataques, permitiendo a los hackers ejecutar código no autorizado en sus recursos de computación.
Moonshot está realizando una revisión interna. Le dijeron a la BBC que aceptan el feedback de terceros, pero la trama se complica: Mindgard dice que reportaron estos problemas el 27 de julio y no tuvieron noticias hasta que la BBC contactó para pedir comentarios.
El problema de los 'pesos abiertos'
Kimi es un modelo de 'pesos abiertos', lo que significa que la tecnología puede descargarse y ejecutarse en la infraestructura privada de cualquiera. Aunque el profesor Alan Woodward de la Universidad de Surrey señala que esto puede ser genial para la ciberdefensa, el riesgo es real si estos modelos caen en las manos equivocadas. Con una regulación internacional que avanza a paso de tortuga, la responsabilidad recae en las empresas para parchear estos agujeros antes de que se vuelvan los protagonistas de una tragedia.
Por qué importa
Esto no es solo un glitch. Si se puede manipular a los modelos de IA para que actúen como actores maliciosos, se crea una responsabilidad enorme para cualquier empresa que los use. Para tu cartera y tu carrera, esto significa más escrutinio, costos de cumplimiento más estrictos y una posible volatilidad para las acciones de IA mientras la industria lucha por demostrar que sus 'barreras de seguridad' realmente funcionan.
