Die 15-Minuten-Behauptung

OpenAI hat gerade seinen ersten Bericht zu 'ChatGPT for Teens' veröffentlicht und behauptet, dass User zwischen 13 und 17 Jahren weniger als 15 Minuten pro Tag auf der Plattform verbringen. Das Unternehmen gab zudem an, dass weniger als 2 % dieser jugendlichen User die App länger als drei Stunden am Stück nutzen. Sie lieferten sogar die Statistik, dass ihr 'Take a break'-Feature funktioniert: Fast die Hälfte der Jugendlichen, die die Aufforderung erhalten, hören darauf und loggen sich innerhalb von fünf Minuten aus.

Warum es für rote Flaggen sorgt

Sicherheits-Advokaten kaufen ihnen die Vibes nicht ab. Sebastian Mahal, Co-Vorsitzender der Kinderschutzgruppe Design It For Us, bezeichnete die Daten als 'hollow', weil sie nicht unabhängig verifiziert wurden. Er merkte an, dass sich das wie das gleiche 'Playbook' anfühlt, das wir schon von Meta kennen.

Brendan Bouffard, Associate General Counsel bei der Nonprofit-Organisation Fairplay, betonte, dass selbst bei einem niedrigen Durchschnitt das Schadenspotenzial massiv bleibt. Laut einer Pew-Research-Umfrage vom letzten Dezember nutzen etwa 59 % der Jugendlichen ChatGPT. Das bedeutet, dass potenziell Hunderttausende Kinder in die Kategorie der 'Heavy User' fallen könnten.

Der Reality-Check

Es kommt noch dicker. Ein neuer Bericht des Youth AI Safety Institute (Teil von Common Sense Media) hat die 'ChatGPT for Teens'-Tools getestet und festgestellt, dass sie nach wie vor ein 'inakzeptables Risiko' darstellen. Die Tests ergaben, dass das System oft nicht verlässlich Alarm schlug, wenn Jugendliche über Selbstverletzung oder Essstörungen sprachen, und nicht immer die passenden Krisen-Hotlines lieferte. Und diese 'Study Mode'-Sicherheitsvorkehrungen, die Cheating verhindern sollen? Ziemlich leicht zu umgehen – man muss nur auf 'Antwort anzeigen' klicken.

OpenAI wehrt sich gegen die Kritik und behauptet, die Tests des Instituts würden nicht korrekt widerspiegeln, wie ihre Schutzmechanismen funktionieren. Sie haben versprochen, in den kommenden Monaten mit externen Forschern für mehr Transparenz zusammenzuarbeiten.

Warum das wichtig ist

Real talk: Durchschnitte sind oft eine Falle. Wenn es um digitale Sicherheit geht, verschleiert der Fokus auf den Durchschnitts-User die Realität der besonders vulnerablen Kinder. Angesichts wachsender Klagen und der Prüfung der Auswirkungen von KI auf die mentale Gesundheit lernt die Tech-Welt gerade: Solange sie keine Beweise durch unabhängige Audits vorlegen, nimmt ihnen niemand ihre 'Safety First'-Versprechen mehr ab.