Das Setup
Hast du dich auch schon mal gefragt, ob KI-Unternehmen ihre Hausaufgaben einfach selbst benoten? Anthropic ändert jetzt endlich die Vibes. Sie haben der Non-Profit-Organisation METR offiziell einen Zugriff auf ihre interne Hardware und Systeme gewährt, der dem eines Mitarbeiters gleicht. Kurz gesagt: Sie haben ein Team externer Auditoren direkt in ihr Büro geholt, um Claude auf Herz und Nieren zu testen, bevor es zu einem katastrophalen Fail kommt. No cap, das ist ein massiver Shift in der Art und Weise, wie die Industrie mit Sicherheit umgeht.
Warum das wichtig ist
In letzter Zeit gab es ordentlich Heat rund um das Thema KI-Sicherheit – vor allem die Angst, dass diese Modelle unsere Wirtschaft, die Cybersicherheit oder gleich die ganze Menschheit crashen könnten. Anthropic-CEO Dario Amodei hat diese Idee bereits im September bei Konkurrenten wie Sam Altman von OpenAI und Elon Musk gepitcht. Es ist lowkey wie eine Bankenaufsicht: Genau wie Regulierungsbehörden Prüfer in Großbanken schicken, damit diese nicht die Wirtschaft ruinieren, sitzen diese Auditoren jetzt direkt dort, wo der Code entsteht.
Das Kleingedruckte
Hier ist der Tea: METR kann ihre Ergebnisse ohne das Go von Anthropic veröffentlichen. Der einzige Haken ist, dass Anthropic sie bitten kann, sensible Informationen wie Kundendaten oder proprietäre Architektur zu schwärzen. Anthropic bezahlt sie nicht einmal und METR nimmt kein Geld von KI-Labs an, was hilft, die Beziehung nicht unsauber zu machen. Sie haben bereits sechs METR-Mitarbeiter vor Ort mit eigener Firmen-Hardware.
Während Kritiker skeptisch sind und fürchten, dass dies nur eine Taktik ist, um echter staatlicher Regulierung auszuweichen, setzt Anthropic darauf, dass Transparenz ihnen hilft, Vertrauen aufzubauen – besonders mit Blick auf den erwarteten Börsengang später in diesem Jahr. Es hat echt Main-Character-Energie, das erste große Lab zu sein, das so konsequent durchgreift. Jetzt warten wir nur noch darauf, ob OpenAI und der Rest der Industrie nachziehen.
