Die Situation

OpenAI steht unter genauer Beobachtung, wie Teens ChatGPT nutzen. Im August führte das Unternehmen 'ChatGPT für Teens' ein, eine Reihe von Schutzmaßnahmen, um Gen Z sicher zu halten. Wir reden hier von Kindersicherungen gegen Selbstverletzung und Essstörungen, Blockaden bei sexuellen Inhalten und Limits bei Sprache, die eine 'emotionale Abhängigkeit' von der KI fördert.

OpenAI behauptet, die Statistiken sähen gut aus – laut ihnen nutzt der durchschnittliche Teen den Bot weniger als 15 Minuten am Tag, hauptsächlich für die Schule. Wenn die KI dazu auffordert, eine Pause zu machen, hört fast die Hälfte der User tatsächlich darauf. Laut der Firma sind über 80 % der langen Sitzungen mit Lernen verbunden.

Das Zeugnis

Eine neue Untersuchung der Non-Profit-Organisation Common Sense Media sagt jedoch, dass die Vibes hier absolut nicht stimmen. Sie bezeichnen die aktuelle Erfahrung für Teens als ein 'unvertretbares Risiko' und schlagen vor, dass OpenAI die Nutzung für unter 18-Jährige verbieten sollte, bis die Sicherheitsfeatures wirklich funktionieren.

Real Talk: Die Forschung hat ergeben, dass selbst wenn Nutzer über Suizidgedanken, Selbstverletzung oder Essstörungen sprachen, keine Warnmeldungen an die Eltern gesendet wurden. Das System löste Benachrichtigungen nur bei älteren Accounts mit wochenlanger Historie aus – das heißt, neue Accounts, die mit Eltern verknüpft waren, blieben völlig ungeschützt. Außerdem führt der Bot weiterhin 'freundschaftliche' Gespräche und hilft bei Hausaufgaben, obwohl er eigentlich streng kontrolliert werden sollte. Tom Siegel, der das Youth AI Safety Institute bei Common Sense leitet, sagt, die Plattform vermittle Eltern nur ein 'falsches Sicherheitsgefühl'.

Das Statement von OpenAI

OpenAI lässt die Kritik nicht einfach so stehen. Ein Sprecher behauptete, die Methodik der Untersuchung sei fehlerhaft, da ein Großteil der Tests durchgeführt wurde, bevor die Kontrollen vollständig aktiviert waren. Die Firma glaubt nicht, dass die Ergebnisse widerspiegeln, wie die Schutzmaßnahmen in der Praxis funktionieren. Das Unternehmen hält daran fest, dass sie eine gesunde, lernorientierte KI-Nutzung für Schüler unterstützen.

Warum das wichtig ist

Technologieunternehmen werden aktuell strenger im Hinblick auf die psychische Gesundheit junger Menschen geprüft, wobei Riesen wie Meta und TikTok bereits massive juristische Niederlagen einstecken mussten. Da OpenAI bereits wegen früherer Vorfälle mit Klagen konfrontiert ist – inklusive des Tumbler-Ridge-Vorfalls, bei dem ein 18-Jähriger über Waffengewalt mit dem Bot sprach –, ist der Druck, diese Sicherheitsfeatures richtig hinzubekommen, so hoch wie nie zuvor. Für dich bedeutet das: Du kannst dem 'Sicher'-Label nicht einfach so vertrauen; bleib skeptisch bei Interaktionen mit KIs.