La afirmación de los 15 minutos
OpenAI acaba de lanzar su primer reporte sobre 'ChatGPT para adolescentes', asegurando que los usuarios entre 13 y 17 años pasan menos de 15 minutos al día en la plataforma. La empresa también presumió que menos del 2% de esos usuarios adolescentes se queda pegado más de tres horas seguidas. Incluso añadieron el dato de que su función 'tomar un descanso' funciona, diciendo que casi la mitad de los adolescentes que reciben el aviso realmente hacen caso y cierran sesión en menos de cinco minutos.
¿Por qué da red flags?
Los defensores de la seguridad no se creen el cuento. Sebastian Mahal, copresidente del grupo de seguridad infantil Design It For Us, calificó los datos de 'vacíos' porque carecen de verificación independiente. Señaló que esto se siente como el mismo 'manual' que ya hemos visto con Meta.
Brendan Bouffard, asesor legal asociado de la organización sin fines de lucro Fairplay, señaló que incluso si el promedio es bajo, el potencial de daño sigue siendo enorme. Según una encuesta de Pew Research de diciembre pasado, alrededor del 59% de los adolescentes usan ChatGPT, lo que significa que potencialmente cientos de miles de jóvenes podrían estar en esa categoría de 'usuarios intensivos'.
La realidad
La situación empeora. Un nuevo informe del Youth AI Safety Institute (parte de Common Sense Media) puso a prueba las herramientas de 'ChatGPT para adolescentes' y descubrió que todavía representan un 'riesgo inaceptable'. Sus pruebas demostraron que el sistema no lograba alertar de manera consistente a los padres cuando los jóvenes hablaban sobre autolesiones o trastornos alimenticios, y no siempre proporcionaba las líneas de ayuda adecuadas. Además, ¿esas protecciones de 'modo estudio' que deberían evitar trampas? Es bastante fácil saltárselas con solo hacer clic en 'dame la respuesta'.
OpenAI se defiende, afirmando que las pruebas del instituto no reflejan con precisión cómo funcionan sus salvaguardas, y han prometido colaborar con investigadores externos para lograr más transparencia en los próximos meses.
Por qué importa
Hablando claro: los promedios suelen ser una trampa. Cuando se trata de seguridad digital, enfocarse en el usuario promedio oculta la realidad de los jóvenes más vulnerables. Con el aumento de demandas y el escrutinio sobre el impacto de la IA en la salud mental, el mundo tecnológico está aprendiendo que, hasta que no muestren pruebas mediante auditorías independientes, nadie va a tomarse en serio sus promesas de 'la seguridad primero'.
