Der Vibe-Check für Roboter

Wir befinden uns gerade in einem riesigen Roboter-Hype, bei dem Tech-Firmen überall versuchen, generative KI in humanoide Maschinen zu stopfen. Aber hier ist der Tea: Generative KI ist bekanntermaßen unberechenbar – und das ist ein riesiges Problem, wenn man über buchstäblich sich bewegende Metallmaschinen spricht. Wenn du einen Roboter bei dir zu Hause willst, möchtest du wahrscheinlich nicht, dass er einen Nervenzusammenbruch mit ‚Main Character Energy‘ bekommt und anfängt, wild um sich zu schlagen.

Safeworld betritt die Bühne

Dr. Ding Zhao, der das Safe AI Lab an der Carnegie Mellon leitet, hat sich mit Kyle Wong und Simo Rachidi zusammengetan, um Safeworld zu gründen. Sie haben gerade ihren Stealth-Modus mit 12 Millionen Dollar Seed-Finanzierung von Investoren wie a16z Speedrun und Shine Capital verlassen. Ihre Mission? Einen Sicherheitsstandard für Roboter zu etablieren, bevor diese anfangen, in unseren Häusern herumzulaufen.

Wie es eigentlich funktioniert

Safeworld nutzt Simulationen, um Tausende Szenarien durchzuspielen, in denen Roboter auf Menschen treffen. Stell es dir wie eine Videospiel-Engine für Sicherheitstests vor. Sie bilden spezifische Umgebungen nach – wie eine Fabrik mit einer unübersichtlichen Ecke – und testen, ob der Roboter es schafft, nicht mit einem Menschen zu kollidieren, der vielleicht Kisten trägt, kniet oder einfach stolpert und hinfällt.

Wie Dr. Zhao anmerkt, würde es in der echten Welt bedeuten, dass jemand den ganzen Tag rausgehen und absichtlich vor einem Roboter hinfallen müsste. No cap, das ist absolut nicht nachhaltig. Sie arbeiten sogar mit Firmen wie Gritt Robotics zusammen, die Roboter für den Bau von Solarparks herstellen, um sicherzustellen, dass ihre Maschinen nicht versehentlich die menschlichen Kollegen vor Ort verletzen.

Warum das wichtig ist

Es ist im Grunde: Vorsorge ist besser als Nachsorge. Im Moment müssen sich die meisten Roboterbauer auf interne, inkonsistente Tests verlassen. Safeworld will der unabhängige Schiedsrichter sein, der verifiziert, dass ein Roboter wirklich sicher ist, bevor er skaliert. Wenn Roboter Teil unseres täglichen Lebens werden sollen, müssen wir wissen, dass sie mit der chaotischen, unvorhersehbaren Natur von Menschen klarkommen, ohne Unfälle zu verursachen.