Der Weckruf
Stell dir vor, du bekommst einen Anruf von deinem Bruder, der behauptet, er sei entführt worden und braucht sofort Lösegeld. Du zahlst – nur um später zu checken, dass er völlig okay war und die ganze Sache eine High-Tech-Lüge war. Genau das ist dem Großvater von Tarini Padmanabhuni vor zwei Jahren passiert. Der Übeltäter? Ein KI-generierter Deepfake der Stimme seines Bruders. Es ging nicht nur um das Geld; das eigentliche Problem war, dass ihr Großvater absolut keine Chance hatte zu erkennen, ob er mit einem Menschen oder einem Roboter spricht.
Die Tech im Detail
Padmanabhuni hat das in San Francisco ansässige Startup DetectifAI gegründet, damit dir genau das nicht passiert. Während andere Firmen versuchen, das Problem in der Cloud zu lösen, macht DetectifAI es anders. Statt sich auf große Server zu verlassen, die Handy-Hersteller nicht einfach integrieren können, entwickeln sie super kompakte KI-Modelle, die direkt im Betriebssystem deines Smartphones laufen.
Stell es dir so vor: Aktuelle Erkennungssysteme sind wie der Versuch, die Echtheit eines Briefes zu prüfen, indem man ihn erst an eine zentrale Stelle schickt. DetectifAI baut den Scanner direkt in dein Handy ein, damit Deepfakes sofort während Anrufen oder Sprachnachrichten erkannt werden, ohne dass Audiodaten irgendwohin geschickt werden. Das gibt absolute Privacy-First-Vibes.
Warum das wichtig ist
Scams werden highkey gefährlich – laut FBI haben Amerikaner letztes Jahr fast 900 Millionen Dollar durch KI-Betrug verloren, ein Anstieg von 24 % gegenüber 2024. Besonders ältere Menschen sind krass betroffen. DetectifAI verkauft seine Software aktuell an Handy-Hersteller mit dem Ziel, Deepfake-Erkennung zum Standard-Feature zu machen, so wie die Kamera-Auflösung. Sie verarbeiten bereits über 100.000 Anrufe pro Monat für Finanzinstitute in Indien, um Sprecher zu verifizieren. Lowkey ist das ein riesiger W für die Sicherheit in einer Zeit, in der man seinen eigenen Ohren nicht mehr trauen kann.
