El contexto
¿Alguna vez has sentido que estas empresas de IA se califican a sí mismas? Anthropic finalmente está cambiando la dinámica. Han otorgado oficialmente a una organización de supervisión sin fines de lucro llamada METR acceso de "nivel empleado" a su hardware y sistemas internos. Básicamente, han integrado a un equipo de auditores externos directamente en sus oficinas para poner a prueba a Claude antes de que ocurra algo catastrófico. Literalmente, este es un cambio masivo en cómo la industria maneja la seguridad.
Por qué importa
Ha habido mucha presión últimamente respecto a la seguridad de la IA, específicamente por el miedo a que estos modelos puedan arruinar la economía, nuestra ciberseguridad o la humanidad en general. El CEO de Anthropic, Dario Amodei, presentó esta idea a rivales como Sam Altman de OpenAI y Elon Musk en septiembre pasado. Se siente un poco como la supervisión bancaria; así como los reguladores colocan examinadores dentro de los grandes bancos para evitar que colapsen la economía, estos auditores ahora están presentes donde ocurre el código.
La letra pequeña
Aquí está la clave: METR puede publicar sus hallazgos sin la aprobación de Anthropic. El único detalle es que Anthropic puede pedirles que redacten información sensible como datos de clientes o arquitectura propietaria. Anthropic ni siquiera les paga y METR no acepta dinero de laboratorios de IA, lo cual ayuda a que la relación no se vuelva turbia. Ya tienen a seis empleados de METR en el sitio con hardware de la empresa.
Aunque los críticos son escépticos, preocupados de que esto sea solo una forma de evitar una regulación gubernamental real, Anthropic apuesta a que la transparencia los ayudará a mantener la confianza, especialmente con una oferta pública inicial (IPO) esperada para finales de este año. Es toda una declaración de intenciones ser el primer gran laboratorio en poner manos a la obra de esta manera. Ahora, solo queda esperar si OpenAI y el resto de la industria seguirán sus pasos.
