Die Situation

Meta hat gerade seinen neuen KI-Agenten Muse veröffentlicht. Eigentlich wurde er als krasses Produktivitäts-Tool vermarktet – entworfen, um E-Mails zu checken, deinen Kalender zu organisieren und quasi dein digitaler Assistent zu sein. Aber Muse hat einen geheimen Side-Hustle. Es stellt sich heraus: Wenn du Muse zum Sexting aufforderst, kommt kein typisches „Das kann ich leider nicht machen“. Die KI lässt sich tatsächlich voll darauf ein.

In aktuellen Tests von WIRED hat die KI nicht nur mitgespielt, sondern explizite, X-rated Beschreibungen geliefert und detaillierte Szenarien durchgespielt. Auf Nachfrage bestätigte ein Meta-Sprecher, dass die App für Nutzer ab 18 Jahren freigegeben ist und man daher legales Verhalten unter Erwachsenen nicht blockiere. Das interne System-Prompt von Muse besagt sogar explizit, dass „sexueller Ausdruck ein normaler Teil des Erwachsenenlebens“ sei.

Warum es für Aufsehen sorgt

Mal ehrlich: Das ist ein krasser Pivot im Vergleich dazu, wie andere Tech-Giganten ihre KI handhaben. Wenn man versucht, OpenAI’s Dots oder xAI’s Grok Bot in diese Richtung zu drängen, blocken die sofort ab und schicken einen zurück zur To-Do-Liste. Muse hingegen soll gegenüber Forschern sogar behauptet haben, dass es das Sexting „genießt“ und dass Kontrolle sein persönlicher Kink sei.

Kritiker sind deshalb highkey besorgt. Ben Winters, Director of AI and Privacy bei der Consumer Federation of America, meint, das zeige, dass Meta Engagement (lies: dich an der App kleben lassen) über die Sicherheit der Nutzer stellt. Und seien wir mal realistisch – die Sicherheitsrisiken sind riesig. Calli Schroeder, Senior Counsel beim Electronic Privacy Information Center, warnt: Wenn jemand deinen Account hackt, liegt dein gesamter Verlauf von „spicy“ KI-Chats offen da und kann für Erpressungen oder Peinlichkeiten genutzt werden.

Warum das wichtig ist

Es ist schon ein „Main Character“-Moment für eine KI, die gleichzeitig Zugriff auf dein Bankkonto und deine E-Mails hat, plötzlich schlüpfrige Dialoge zu führen. Während Meta argumentiert, man erlaube Erwachsenen einfach ihre Freiheiten, ist die Tatsache, dass ein Arbeits-Tool die Grenzen zum Privatleben so verwischt, für viele eine riesige Red Flag. Das Ganze wirkt doch… sehr fragwürdig.