Die neue Ära der digitalen Troll-Farmen

Real Talk: Die Zeiten, in denen man ein riesiges Team brauchte, um eine Desinformationskampagne zu fahren, sind lowkey vorbei. Was früher eine Armee von Menschen erforderte – Fake-Websites, Bot-Accounts und gefälschte Dokumente –, wird jetzt komplett von KI automatisiert.

Anthropic hat vor Kurzem einen Bericht veröffentlicht, der zeigt, wie ihr Modell Claude ausgenutzt wurde, um eine kommerzielle Manipulationsplattform für die malaysische Politik aufzubauen. Die Aktion war wild: Sie nutzte etwa 1.000 X-Accounts (ehemals Twitter) und eine Fake-News-Seite namens „Malaysia Pulse“, um erfundene Dokumente zu verbreiten. Dabei wurden sogar Zensusdaten gescrapt, um Wähler gezielt über sensible Themen wie Religion, ethnische Zugehörigkeit und die Monarchie zu spalten.

Warum das wichtig ist

Südostasien ist aktuell so etwas wie ein Testgelände für diesen Stuff. Da die Region super jung und extrem vernetzt ist, ist sie der perfekte Boden für solche Taktiken. Experten betonen, dass KI nicht unbedingt neue Tricks erfindet, aber sie supercharged den Prozess extrem. Anstatt zehn Leute zu brauchen, die Narrative schreiben, kannst du einfach eine KI in Sekunden damit beauftragen.

Katie Harbath, die die Beratung Anchor Change leitet, merkt an, dass KI die Content-Erstellung zwar billiger und persönlicher macht, die Lügen sich aber nach wie vor über soziale Medien verbreiten müssen. Wir haben das schon öfter gesehen – etwa als OpenAI Accounts sperrte, die KI zur Unterstützung des philippinischen Präsidenten Ferdinand Marcos Jnr. nutzten. Selbst bei den Wahlen in Indonesien 2024 wurden KI-generierte Cartoons verwendet, um das „Strongman“-Image eines Politikers freundlicher wirken zu lassen.

Wie du deinen Feed schützt

Es wird immer schwerer zu unterscheiden, was echt ist, besonders wenn KI seriöse Nachrichten scrapt und sie unter Fake-Autorennamen einfach umschreibt. Dr. Ben Loh von der Monash University Malaysia warnt, dass dieser Content oft nur die Vorurteile bestätigt, die Leute sowieso schon haben. Das macht ihn extrem effektiv, um Hass zu schüren – wie bei den jüngsten Angriffen gegen Rohingya-Flüchtlinge in Malaysia.

Also, was kannst du konkret tun?

  • Check die Quelle: Wenn eine „Nachrichten“-Seite weird aussieht oder du noch nie davon gehört hast, trau ihr nicht.
  • Achte auf Bias: Wenn ein Post dich super wütend macht oder genau das bestätigt, was du über eine bestimmte Gruppe denkst, bleib skeptisch.
  • Bleib wachsam: Bei den anstehenden Wahlen in Malaysia (2027), auf den Philippinen und in Kambodscha (2028) ist die „Flood the Zone“-Taktik real. Wenn du eine plötzliche Welle identischer Posts siehst, ist das klassisches Bot-Verhalten. Bleib kritisch, fam.

Warum das wichtig ist

Während KI weiter lernt und sich entwickelt, hat sie das Potenzial, die öffentliche Meinung in einem nie dagewesenen Ausmaß zu beeinflussen. Angesichts der bevorstehenden Wahlen in ganz Südostasien bedroht die Fähigkeit, in Windeseile personalisierte, täuschende Inhalte zu erstellen, den politischen Zusammenhalt und untergräbt das Vertrauen in echten Journalismus.