Wir alle doom-scrollen uns durch Horrorszenarien, in denen KI-Agenten Amok laufen oder Cyberangriffe starten, aber der eigentliche Plot-Twist, der die Menschheit auslöschen könnte, ist wohl deutlich low-tech. Real talk: Während alle Angst haben, dass ChatGPT zum Agent Smith mutiert, sollten wir uns vielleicht lieber ansehen, was in Hochsicherheitslaboren abgeht.

Das Dilemma der „Dual-Use“-Forschung

Neue Berichte zeigen, dass Leute bereits KI-Tools wie Anthropics Claude nutzen, um Sicherheitsbarrieren bei der sogenannten „Gain-of-Function“-Forschung zu umgehen. Das ist ein fancy Begriff dafür, Gene von Krankheitserregern so zu tunen, dass sie tödlicher oder ansteckender werden. Auch wenn diese Technik theoretisch hilft, bessere Impfstoffe zu entwickeln, ist sie ein zweischneidiges Schwert. Es gibt absolute „Dual-Use“-Vibes – dasselbe Rezept für ein Heilmittel kann easy zum Rezept für eine Katastrophe werden.

Warum man sich nicht vor Terroristen fürchten muss

In ihrem neuen Buch Biological War: A Scenario unterstreicht die investigative Journalistin Annie Jacobsen, dass Nuklearwaffen zwar den ganzen Hype als zerstörerischste Waffen bekommen, biologische Kampfstoffe aber dicht dahinter liegen. Die Hürde für Nuklearwaffen ist riesig – du brauchst geheime Materialien und gigantische Raketen. Aber für Bio-Waffen? Nicht wirklich.

Jacobsen weist darauf hin, dass das größte Risiko nicht unbedingt ein Superbösewicht ist, der absichtlich eine Waffe freisetzt; es ist die reine statistische Wahrscheinlichkeit eines Unfalls. Es gibt weltweit etwa 3.600 Hochsicherheitslabore (BSL-3 und BSL-4), in denen an gefährlichen Erregern geforscht wird. Menschen machen Fehler – wie ein Forscher, der sich versehentlich mit einer Spritze sticht und dann nach Hause geht. Weil es tausende solcher Labore gibt, ist die Wahrscheinlichkeit eines „Whoops“-Moments astronomisch höher als bei einem koordinierten Terrorangriff.

Warum das wichtig ist

Falls du dich fragst, warum uns das jucken sollte: Unsere Verteidigungssysteme gegen eine biologische Katastrophe sind quasi nicht existent. Wir debattieren hier über KI-Sicherheit, aber die physische Realität in Laboren weltweit schafft eine Schwachstelle, die weder einen Hacker noch einen durchgeknallten Roboter braucht – nur einen simplen menschlichen Fehler. Die Stimmung ist offiziell im Eimer, wenn man realisiert, dass wir im Grunde eine Runde genetisches Stille-Post spielen, bei der die letzte Nachricht eine Pandemie ist.