El vibe check para los robots

Estamos viviendo un hype tremendo por los robots, con compañías tecnológicas tratando de meter IA generativa en máquinas humanoides. Pero la neta es que la IA generativa es súper impredecible, y eso es un problema gigante cuando hablamos de máquinas de metal que se mueven. Si quieres un robot en tu casa, seguramente no quieres que tenga un colapso de 'main character energy' y empiece a soltar golpes.

Llega Safeworld

El Dr. Ding Zhao, quien dirige el laboratorio Safe AI en Carnegie Mellon, se ha unido a Kyle Wong y Simo Rachidi para lanzar Safeworld. Acaban de salir del modo sigilo con 12 millones de dólares en financiamiento semilla de inversionistas como a16z Speedrun y Shine Capital. ¿Su misión? Crear un estándar de seguridad para robots antes de que empiecen a deambular por nuestras casas.

Cómo funciona realmente

Safeworld usa simulaciones para recrear miles de escenarios donde los robots se encuentran con humanos. Piensa en esto como un motor de videojuegos para pruebas de seguridad. Replican entornos específicos —como una fábrica con una esquina ciega— y ven si el robot puede evitar golpear a un humano que podría estar cargando cajas, arrodillado o literal tropezándose y cayéndose.

Como señala el Dr. Zhao, probar esto en el mundo real significaría que alguien tendría que salir y tropezarse a propósito frente a un robot todo el día. Literal, eso no es sostenible. Incluso se están asociando con empresas como Gritt Robotics, que construye robots para la construcción de granjas solares, para asegurarse de que sus máquinas no arrollen por accidente a los compañeros de trabajo humanos en el sitio.

Por qué importa

Es el claro ejemplo de que 'prevenir es mejor que curar'. Ahora mismo, la mayoría de los fabricantes de robots dependen de pruebas internas inconsistentes. Safeworld quiere ser el árbitro externo que verifique que un robot sea realmente seguro antes de que se masifique. Si los robots van a ser parte de nuestra vida diaria, necesitamos saber que pueden manejar la naturaleza caótica y espontánea de los seres humanos sin causar un accidente.