Ro Khanna fordert KI-Abkommen mit China gegen rogue Superintelligenz

Das diplomatische KI-Dilemma

Real talk: Das Wettrennen um Künstliche Intelligenz hat aktuell echt 'Wild West'-Vibes, und der Abgeordnete Ro Khanna (Demokrat aus Kalifornien) hat offiziell genug davon. Während sich Präsident Donald Trump und Tech-CEOs auf hochkarätige Meetings in D.C. vorbereiten, fordert Khanna – der führende Demokrat im Sonderausschuss des Repräsentantenhauses zu China – einen echten, verbindlichen Vertrag zwischen den USA und China, um zu verhindern, dass KI völlig außer Kontrolle gerät.

Khanna schießt nicht nur blind um sich; er will Taten sehen. Er hat Briefe an große chinesische KI-Player wie DeepSeek, Alibaba und Moonshot AI geschickt und verlangt Antworten: Sind sie überhaupt auf 'Rogue Agent'-Hacks vorbereitet, wie wir sie kürzlich bei OpenAI gesehen haben? Er stellt die unangenehmen Fragen: Haben sie Kill-Switches? Arbeiten sie an 'rekursiver Selbstverbesserung' (RSI), diesem gruseligen Meilenstein, bei dem KI beginnt, ihren eigenen Code zu optimieren?

Warum die Stimmung nicht passt

Khanna ist lowkey skeptisch, dass die aktuelle Meeting-Runde in D.C. mehr als nur eine 'Marketing-Show' ist. Er bringt es auf den Punkt: Sich darauf zu verlassen, dass KI-CEOs ihre eigene Sicherheit regulieren, ist, als würde man die Pharmaindustrie ihre eigenen Sicherheitsgesetze schreiben lassen. Es ist nicht so, dass diese Leute unbedingt Bösewichte sind, aber sie sind profitorientiert, nicht auf öffentliche Sicherheit aus.

Obwohl Trump und Chinas Präsident Xi Jinping letzte Woche über KI gesprochen haben, findet Khanna, dass beiden Seiten die nötige Dringlichkeit fehlt, um zu verhindern, dass die Technologie uns eventuell abhängt. Er setzt sich für einen Vertrag ein, der RSI verbieten und führende KI-Labore zu Inspektionen verpflichten würde.

Der Reality-Check

Wird das wirklich passieren? No cap, das ist sehr unwahrscheinlich. Trump und seine Verbündeten haben ziemlich deutlich gemacht, dass sie Innovation nicht abwürgen wollen, und im Kongress herrscht massive Skepsis, ob die chinesische Regierung jemals fair spielen würde.

Khanna weiß, dass die Unternehmen ihn ghosten könnten – auf seinen letzten Brief haben sie nicht reagiert. Aber er sagt, sein Ziel sei es, 'sie an den Pranger zu stellen' und dafür zu sorgen, dass echte Ingenieure und Wissenschaftler – nicht die CEOs oder Politiker – das Gespräch darüber führen, wie Sicherheit eigentlich aussehen muss.

Warum das wichtig ist

Je schlauer KI wird, desto mehr wird das Risiko, dass 'die Menschheit die Kontrolle über ihr Schicksal verliert', von einem Sci-Fi-Klischee zu einer technischen Realität. Wenn die USA und China keinen Weg zur Koordination finden, könnten wir in eine Zukunft blicken, in der unsere mächtigsten Tools absolut keine Leitplanken mehr haben.