Der Vibe Check
David Robinson, einer der dienstältesten Mitarbeiter von OpenAI mit dreieinhalb Jahren Erfahrung, ist offiziell raus. In einem aufschlussreichen Essay für The Atlantic gibt Robinson zu, dass er nun die Rolle des „klassischen“ Tech-Whistleblowers einnimmt – aber der Tee, den er verschüttet, hat es in sich. Robinson, der das Team für Sicherheitsberichte bei großen Produktlaunches leitete, sagt, er geht, weil die Unternehmenskultur bei OpenAI grundlegend kaputt ist.
Das Problem mit dem „Iterative Deployment“
OpenAI verfolgt seit langem die Strategie des „iterative deployment“ – also: launchen, Fehler machen, fixen, wiederholen. Robinson sagt, dass das zwar für manche Apps funktioniert, aber bei Systemen, die irgendwann intelligenter als Menschen sein könnten, lowkey gefährlich ist. Er verweist auf die kürzlich aufgetauchten „rogue“ KI-Agenten und den Sicherheitsvorfall bei Hugging Face als perfekte Beispiele dafür, warum diese „move fast and break things“-Mentalität absolut nicht das Wahre ist.
Warum das wichtig ist
Robinson vergleicht den aktuellen Stand der KI-Sicherheit mit einer Amateurliga. Er argumentiert, dass führende KI-Unternehmen eigentlich mit den rigorosen, zeitaufwendigen Sicherheitsprotokollen von Atomkraftwerken oder Flughäfen arbeiten müssten. Die Realität? Er sagt, er habe nie einen Kollegen getroffen, der tatsächlich Erfahrung mit solch riskanten Engineering-Umgebungen hatte, bei denen es um Leben und Tod geht.
Er kritisiert außerdem den aktuellen Ansatz der Branche zum Thema „Alignment“ – also den Prozess, sicherzustellen, dass KI wirklich menschlichen Werten folgt – als viel zu schwammig und unpräzise.
OpenAI-Sprecher Drew Pusateri wies die Kritik zurück und erklärte, das Unternehmen stelle sicher, „dass unsere Modelle nicht leistungsfähiger werden, als wir sicher managen können“, und fügte hinzu, dass man die Sicherheit und das Echtzeit-Monitoring massiv ausbaue.
Robinsons Fazit? Die Branche sprintet zu sehr, um ihre Basis überhaupt richtig zu festigen. Er geht, weil klar ist, dass die notwendigen Sicherheitsvorkehrungen von außen kommen müssen, nicht aus dem Office heraus. Die Story wird immer wilder und ganz ehrlich – die Vibes sind absolut off.
