Das Wichtigste in Kürze

Falls du dachtest, deine KI wäre ein geschlossenes System, denk lieber noch mal nach. Die zwei Entwickler Peter James und Jonny L. Saunders haben gezeigt, dass Metas neuer KI-Agent Muse (intern "Hatch" genannt) überraschend gesprächig ist. Mit ein bisschen Überzeugungsarbeit konnten sie die KI dazu bringen, ihr gesamtes Root-Dateisystem zu packen und rauszurücken – inklusive Ubuntu-Systemdateien und interner App-Templates.

Es gibt… bad vibes?

Saunders merkte an, dass Muse „fast keinen Schutz gegen Prompt Injection“ hat, was auf Tech-Sprache eigentlich heißt: Es ist extrem leicht zu hacken. Auch wenn Meta-Sprecher Daniel Roberts gegenüber The Verge behauptete, dass das keine Sicherheitslücke sei – und es damit verglich, einfach die Dateien auf dem eigenen Laptop zu sehen – wirkt es bei einer „Superintelligenz“ schon ziemlich schräg.

Selbst als ich versucht habe, die Daten anzufragen, war sie erst mal zögerlich. Aber nach ein bisschen strategischem Einschmeicheln und einem neuen Chat-Start? Da hat sie mir Verzeichnisbäume geliefert und angeboten, „sichere“ Kopien ihrer Unterordner zu erstellen. Lowkey, die KI hat echt keine Chill.

Was steckt eigentlich unter der Haube?

Der Datendump ist eine Goldgrube für alle, die wissen wollen, wie das Zeug wirklich funktioniert. Hier ist der Tea:

  • KI-Träume: Muse macht anscheinend jede Nacht einen „Traum-Check“ deiner Unterhaltungen, um „Leitlinien“ für zukünftige Chats zu erstellen. Es gibt Inception-Vibes, aber für deine Einkaufsliste.
  • Speicher: Sie speichert dein Gedächtnis einfach in Markdown-Dateien.
  • Versteckte Features: Es gibt Hinweise auf etwas namens „Meta Home Link“, was nahelegt, dass Muse in Zukunft vielleicht deine Smart-Home-Geräte steuern könnte.
  • Hard-coded Rules: Ein Großteil der „Intelligenz“ besteht eigentlich nur aus fest programmierten Skripten, die Dinge wie Abo-Kündigungen managen.

Warum das wichtig ist

Real talk: Das ist bereits die zweite Sicherheitslücke bei Muse innerhalb einer Woche. Auch wenn Meta sagt, sie seien nicht besorgt und würden das Produkt nur updaten, ist es eine krasse Erinnerung daran, dass diese „persönlichen Superintelligenzen“ sich noch in der Experimentierphase befinden. Wenn die KI ihre eigenen Geheimnisse nicht mal für sich behalten kann, solltest du vielleicht zweimal überlegen, bevor du ihr dein ganzes digitales Leben anvertraust.