Stell dir vor, du chillst zu Hause, passt auf die Kinder der Nachbarn auf und plötzlich starrst du in einen Gewehrlauf. Genau das war die Realität für Angela Lipps, eine 50-jährige Großmutter aus Elizabethton, Tennessee, im Juli 2025. Sie war keine Kriminelle, aber die Cops hielten sie für eine Bankräuberin aus North Dakota.

Real talk: Sie war nicht einmal im Bundesstaat, als die Verbrechen passierten. Lipps verklagt nun die Stadt Fargo und deren Polizei. Sie wirft ihnen vor, ein absolut sketchy KI-Ergebnis der Gesichtserkennung wie die absolute Wahrheit behandelt zu haben. Laut der in diesem Monat eingereichten Klage nahmen die Ermittler ein Foto eines gefälschten Ausweises, den eine Bankräuberin benutzt hatte, jagten es durch Clearview AI und entschieden, es sei ein perfekter Match.

Obwohl Clearview AI eigentlich nur als bloßer Hinweis dienen soll, behauptet die Klage, dass die Polizei von Fargo das Ergebnis ohne jegliche Überprüfung als Identifizierung gewertet hat. Währenddessen soll die Polizei von West Fargo die gleiche Technik geprüft, gemerkt haben, dass die Vibes überhaupt nicht stimmen, und den Ansatz verworfen haben.

Lipps saß 108 Tage in einem Gefängnis in Tennessee fest und wartete auf Gerechtigkeit. Sie verlor ihr Zuhause, ihr Auto und ihren Besitz, während sie hinter Gittern war. Erst an Heiligabend 2025 ließ die Staatsanwaltschaft die Anklage fallen, nachdem sie mit Bankbelegen beweisen konnte, dass sie während der Raubüberfälle Hunderte Kilometer entfernt war. Überwachungsaufnahmen zeigten sogar, dass die echte Verdächtige eine völlig andere Statur hatte und kein Nackentattoo besaß, das Lipps deutlich hat.

Das große Ganze

Das ist nicht einfach nur ein einmaliges L. Experten sagen, dies sei das 16. bekannte Mal, dass jemand aufgrund von KI-gestützter Polizeiarbeit zu Unrecht verhaftet wurde. Clare Garvie vom Policing Project und Nate Freed-Wessler von der ACLU warnten beide, dass das Risiko, dass mehr unschuldige Menschen ins Kreuzfeuer geraten, hoch ist, da Behörden diese Tools ohne richtige Leitplanken überhastet einsetzen. Die Führung von Fargo hat inzwischen „Ermittlungsfehler“ eingeräumt, aber für Lipps ist der Schaden längst angerichtet.

Warum das wichtig ist

Dieser Fall ist ein krasser Weckruf dafür, wie die Polizei Technik einsetzt. Wenn Strafverfolgungsbehörden sich mehr auf Algorithmen als auf echte Beweise verlassen, kann das Leben normaler Menschen in einer Sekunde auf den Kopf gestellt werden. Es ist ein Paradebeispiel dafür, warum wir ernsthafte Regeln für KI brauchen, bevor sie noch mehr Schaden anrichtet.