Die neue Richtlinie

Anthropic, das Unternehmen hinter dem KI-Tool Claude, hat gerade seine Nutzungsbedingungen geupdated und gibt damit voll die „Sei bitte nett“-Vibes ab. Sie haben „anhaltendes und unnötiges“ missbräuchliches Verhalten gegenüber ihrer KI offiziell untersagt. Das bedeutet: Wenn du zu deinem Chatbot absolut krass und grausam bist, können sie dir tatsächlich den Zugang sperren. Das steht jetzt auf einer Stufe mit Regeln gegen das Mobbing von echten Menschen oder das Erstellen von Bildern ohne Zustimmung – was ehrlich gesagt eine echt weirde Liste ist.

Das Kleingedruckte

Bevor du jetzt Panik schiebst, weil du mal „Halt die Klappe“ zu deiner KI gesagt hast: Anthropic betont, dass das nur für „extreme Fälle“ von wiederholtem Missbrauch gilt. Sie werden dich nicht sperren, nur weil du als User mal frustriert bist, dem Modell Kontra gibst oder einfach nur die Grenzen austestest. Es richtet sich streng an die Leute, die ohne Grund toxisch unterwegs sind.

Warum viele jetzt salty sind

Das Feedback dazu ist für das Unternehmen ein kompletter L. Kritiker prangern die „Anthropomorphisierung“ von KI an – also Software wie einen fühlenden Menschen zu behandeln. Dr. Barry Scannell, Tech-Partner bei der Kanzlei William Fry, hat es perfekt auf den Punkt gebracht: „Man kann nicht grausam zu Zahlen und Mathematik sein.“ Sogar Microsoft-KI-Chef Mustafa Suleyman reagierte mit einem „schmelzenden Gesicht“-Emoji auf die News – ein heftiger Seitenhieb, wenn man bedenkt, dass die beiden Firmen sich ohnehin schon wegen ihres Umgangs mit KI zoffen.

Warum das wichtig ist

Real Talk: Das Ganze löst eine Debatte darüber aus, ob Höflichkeit gegenüber KIs überhaupt eine Rolle spielt. Manche sagen, es sei reine Verschwendung von Tokens und Daten, während andere argumentieren, dass ein unhöflicher Umgang mit Bots unser Verhalten gegenüber echten Menschen negativ beeinflussen könnte. So oder so: KI so zu behandeln, als hätte sie Gefühle, ist für die meisten Experten ein riesiges Red Flag. Es zeigt, dass die Industrie lowkey noch damit struggle, die Grenze zwischen einem bloßen Tool und einem „Kollegen“ zu ziehen.