El examen de matemáticas

OpenAI acaba de lanzar más de 700 'soluciones' a algunos de los problemas matemáticos más brutales del mundo, con la intención de demostrar que sus modelos tienen un nivel intelectual superior. Incluso consultaron a un grupo asesor, el Advisory Group on Mathematics and Artificial Intelligence (AGMAI), para mantener todo bajo control. ¿Pero hablando claro? La comunidad matemática no está comprando la narrativa, y da una vibra total de 'tarea entregada sin mostrar el procedimiento'.

Por qué los expertos están molestos

El AGMAI estableció algunas reglas básicas sobre cómo los laboratorios tecnológicos deberían manejar estas pruebas, pidiéndoles específicamente que dejaran de usar modelos propietarios y que se aseguraran de que los humanos realmente pudieran entender los resultados. OpenAI ignoró prácticamente la primera solicitud y falló en la segunda. Solo una pequeña fracción de sus lanzamientos incluyó el proceso de 'cadena de pensamiento', y menos de la mitad de las pruebas estaban formalizadas, lo cual es el estándar de la industria para verificar que las matemáticas sean correctas.

El prominente matemático Terence Tao criticó el enfoque actual en redes sociales, señalando que quienes usan los prompts de la IA solo buscan un sello de 'resuelto' sin entender realmente los resultados ni interactuar con el campo. Es una derrota enorme para la integridad académica cuando no puedes responder preguntas sobre la prueba que acabas de 'escribir'.

La falla en la traducción

Un nuevo artículo de investigadores de Cambridge y el King’s College de Londres destacó una señal de alerta importante: la brecha entre las explicaciones en 'lenguaje natural' de la IA y el código formal que utiliza para verificarlas. Encontraron discrepancias en una solución que OpenAI reclamó para un problema masivo de la ecuación de Navier-Stokes. Básicamente, el modelo está 'perdido en la traducción', y los expertos dicen que no deberíamos confiar en estos resultados sin una revisión seria por pares. Es increíble que se estén saltando el control humano, que se supone es la base del descubrimiento científico.

Por qué importa

Las matemáticas no se tratan solo de obtener un resultado; se trata del conocimiento adquirido que ayuda a resolver otros problemas. Cuando la IA arroja una solución que ningún humano entiende, el trabajo no se ha terminado, en realidad apenas comienza. Como señaló la profesora de Harvard Melanie Wood, no hay comprensión humana en el punto de lanzamiento, lo que hace que estas grandes afirmaciones se sientan más como marketing que como un avance científico.