La nueva era de las granjas de trolls digitales

Hablando claro: los días en los que necesitabas un equipo masivo de personas para gestionar una campaña de desinformación son, literal, historia. Lo que antes requería un ejército de humanos para gestionar (sitios web falsos, cuentas bot y documentos forjados) ahora está siendo automatizado por la IA.

Anthropic publicó recientemente un informe que muestra cómo su modelo, Claude, fue explotado para construir una plataforma de manipulación comercial en la política de Malasia. La operación fue una locura: utilizó cerca de 1,000 cuentas de X (antes Twitter) y un sitio de noticias falsas llamado “Malaysia Pulse” para difundir documentos fabricados. Incluso extrajeron datos del censo para atacar específicamente a los votantes aprovechando grietas sensibles sobre religión, raza y la monarquía.

Por qué importa ahora mismo

El sudeste asiático es básicamente un campo de pruebas para esto. Debido a que la región es súper joven e hiperconectada, es el escenario perfecto para estas tácticas. Los expertos señalan que la IA no está inventando trucos nuevos necesariamente, pero está potenciando el proceso a un nivel tremendo. En lugar de necesitar a 10 personas para escribir narrativas, simplemente puedes darle un prompt a una IA para que lo haga en segundos.

Katie Harbath, quien lidera la consultora Anchor Change, señala que, aunque la IA hace que la creación de contenido sea más barata y personalizada, todavía depende de las redes sociales para propagar las mentiras. Ya hemos visto esto antes, como cuando OpenAI bloqueó cuentas que usaban IA para apoyar al presidente de Filipinas, Ferdinand Marcos Jnr. Incluso en las elecciones de 2024 en Indonesia, se usaron imágenes de dibujos animados generadas por IA para transformar la imagen de un político de “hombre fuerte” a algo mucho más amigable.

Cómo proteger tu feed

Cada vez es más difícil distinguir qué es real, especialmente cuando la IA toma noticias legítimas y las reescribe bajo firmas falsas. El Dr. Ben Loh de la Universidad Monash de Malasia advierte que este contenido a menudo solo confirma los sesgos que la gente ya tiene, lo que lo hace extra efectivo para incitar al odio, como los ataques recientes contra los refugiados rohinyá en Malasia.

Entonces, ¿qué puedes hacer tú?

  • Verifica la fuente: Si un sitio de "noticias" se ve raro o nunca has oído hablar de él, no confíes.
  • Busca sesgos: Si una publicación te hace sentir súper enojado o refuerza exactamente lo que ya piensas sobre un grupo de personas, mantente escéptico.
  • Mantente alerta: Con las próximas elecciones importantes en Malasia (2027), Filipinas y Camboya (2028), la táctica de "inundar la zona" es real. Si ves una ola repentina de publicaciones idénticas, es comportamiento bot total. Mantente alerta, fam.

Por qué importa

A medida que la IA sigue aprendiendo y evolucionando, tiene el potencial de manipular la opinión pública a una escala sin precedentes. Con las próximas elecciones en todo el sudeste asiático, la capacidad de producir rápidamente contenido engañoso y personalizado amenaza con profundizar las fracturas políticas y erosionar la confianza en el periodismo real.