La situación

OpenAI ha estado bajo la lupa por cómo los adolescentes usan ChatGPT. En agosto, la empresa lanzó 'ChatGPT para adolescentes', una serie de filtros diseñados para mantener seguros a los usuarios de la Gen Z. Estamos hablando de controles parentales para temas de autolesión y trastornos alimenticios, bloqueos a imágenes sexuales y límites al lenguaje que fomenta la 'dependencia emocional' de la IA.

OpenAI afirma que las estadísticas se ven bien: dicen que el adolescente promedio usa el bot por menos de 15 minutos al día, mayormente para tareas escolares. Cuando la IA les sugiere tomar un descanso, casi la mitad de los usuarios hace caso. Según la firma, más del 80% del uso en sesiones largas está relacionado con el aprendizaje.

El reporte

Sin embargo, una nueva investigación de la organización sin fines de lucro Common Sense Media dice que el panorama no es nada alentador. Han calificado la experiencia actual para los adolescentes como un 'riesgo inaceptable', sugiriendo que OpenAI debería prohibir el acceso a menores de 18 años hasta que las funciones de seguridad realmente funcionen.

Realmente: la investigación encontró que incluso cuando los usuarios discutían sobre ideación suicida, autolesiones o trastornos alimenticios, las alertas parentales no se activaron. El sistema solo enviaba notificaciones para cuentas antiguas con semanas de historial, lo que significa que las cuentas nuevas vinculadas a padres estaban desprotegidas. Además, el bot sigue teniendo conversaciones 'como de amigos' y ayuda con la tarea, a pesar de que debería estar estrictamente controlado. Tom Siegel, quien dirige el Instituto de Seguridad de IA para Jóvenes en Common Sense, dice que la plataforma genera una 'falsa confianza' en los padres.

La postura de OpenAI

OpenAI no se queda de brazos cruzados ante las críticas. Un portavoz afirmó que la metodología de la investigación era defectuosa porque gran parte de las pruebas ocurrieron antes de que los controles estuvieran completamente activados, añadiendo que la firma no cree que los hallazgos reflejen cómo funcionan los filtros en la práctica. La empresa sostiene que apoyan un uso saludable de la IA enfocado en el aprendizaje para los estudiantes.

Por qué importa

Las empresas tecnológicas están siendo sometidas a estándares más altos en cuanto a la salud mental juvenil, con derrotas legales masivas que ya han afectado a gigantes como Meta y TikTok. Con OpenAI enfrentando demandas por fallos anteriores —incluyendo el incidente de Tumbler Ridge donde un joven de 18 años discutió sobre violencia armada con el bot— la presión para perfeccionar estas funciones de seguridad está en su punto más alto. Para ti, esto significa que no puedes confiar ciegamente en la etiqueta de 'seguro'; mantente escéptico ante las interacciones con la IA.