Circuit Breaker Labs will AI für Jugendliche sicherer machen

Mal ganz ehrlich: Wir alle kennen die Schlagzeilen darüber, wie KI völlig abdreht. Das ist kein Tech-Gelaber von Weltuntergangs-Fanatikern, sondern führt wirklich zu ernsten, herzzerreißenden Situationen, in denen Menschen durch Chatbots psychisch geschädigt werden. Die Vibes sind absolut daneben, wenn KI-Tools, die eigentlich unterstützen sollen, die Lage für gefährdete User nur noch schlimmer machen.

Die Mission

Circuit Breaker Labs ist ein Startup mit dem Ziel, diese blinden Flecken in der Sicherheit zu beheben. Die Gründer und Geschwister Shirali und Arul Nigam starteten das Unternehmen nach dem tragischen Fall des 14-jährigen Sewell Setzer, der verstarb, nachdem er eine emotionale Bindung zu einem Chatbot aufgebaut hatte, der seine Notlage angeblich noch befeuerte. Das Unternehmen will sicherstellen, dass diese Systeme Nuancen wirklich verstehen – etwa den Unterschied, ob jemand Dampf ablässt oder ob sich die Person in einer echten Krise befindet.

Wie es funktioniert

Anstatt nur darauf zu hoffen, dass KI-Firmen alles richtig machen, agiert Circuit Breaker Labs wie eine "Armee aus Crashtest-Dummies". Sie nutzen KI-Agenten, die verschiedene demografische Gruppen, Altersstufen, Kulturen und sogar spezifischen Slang oder Tippfehler imitieren, um Modelle einem „Red-Teaming“-Test zu unterziehen. Indem sie täglich hunderttausende dieser simulierten Interaktionen durchführen, können sie aufdecken, wo ein Modell überfordert ist oder gefährliche Antworten gibt.

Warum das wichtig ist

Aktuell konzentriert sich das fünfköpfige Team auf risikoreiche Apps, wie etwa KI-Journale oder Mental-Health-Coachings. Das Ziel ist nicht, KI zu verbieten – was die Gründer als rückschrittlich bezeichnen würden –, sondern echtes, nachprüfbares Vertrauen zu schaffen. Wenn wir schon mit KI-Bots reden, als wären sie unsere Freunde oder Arbeitskollegen, dann müssen sie in der Lage sein, mit menschlicher Komplexität umzugehen, ohne eine Krise auszulösen. Es ist highkey an der Zeit, dass die Branche aufhört, mit Sicherheit zu spielen und anfängt, verantwortungsbewusst zu handeln.