En septiembre de 2023, los investigadores que analizaban una campaña de desinformación rusa observaron un cambio repentino en un sitio web de noticias falsas que estaban siguiendo. El medio, DCWeekly.org, normalmente copiaba artículos completos de fuentes como Fox News, cambiando el nombre del periodista y muy poco más. Las noticias reales servían como cobertura para que Rusia lanzara ocasionalmente una historia falsa, cuidadosamente elaborada, como un artículo de ataque contra el presidente ucraniano Volodímir Zelenski, una técnica conocida como lavado narrativo. “Están construyendo un bosque para poder esconder un árbol concreto ahí dentro”, dice Morgan Wack, investigador de comunicación política en la Universidad de Zúrich. |
Pero de la noche a la mañana, Wack y sus colegas se dieron cuenta de que ya no podían identificar de dónde obtenía el sitio sus noticias diarias. “Se vio un estilo de escritura totalmente distinto, y había más artículos”, explica. Los investigadores sospecharon que la operación había pasado a utilizar inteligencia artificial generativa, sospecha que se confirmó después de encontrar restos de instrucciones (prompts) de IA en algunos textos, como uno que decía: “Tenga en cuenta: el tono del artículo es crítico con la posición de EE. UU. de apoyo a la guerra en Ucrania y adopta un tono cínico al hablar del gobierno estadounidense, la OTAN o los políticos estadounidenses”. |
Fue una oportunidad poco común para que el equipo de Wack estudiara cómo la IA está moldeando el mundo de la desinformación. El volumen de producción del sitio aumentó drásticamente, según los investigadores. En experimentos, las personas no encontraron la propaganda generada por IA más persuasiva que los textos anteriores escritos por humanos, pero el cambio a IA seguía siendo una victoria para los propagandistas, afirma Wack. “No perdieron credibilidad y pudieron aumentar mucho más el contenido”. La IA les había permitido, en esencia, construir un bosque más grande y mejor para ocultar sus árboles. |
DCWeekly.org no es el único que ha adoptado la IA generativa: esta tecnología se está integrando en campañas de desinformación en todo el mundo. (La misinformación se refiere a información incorrecta o engañosa en general; si se difunde con la intención de engañar, se denomina desinformación). Según un informe de la Unión Europea publicado en marzo, el 27 % de los intentos de potencias extranjeras de manipular información global en 2025 implicaron el uso de IA, casi el triple que en 2024. “Es una herramienta poderosa, y definitivamente está en manos de quienes tienen interés en manipular opiniones, ya sea por dinero o por razones geopolíticas”, afirma Filippo Menczer, científico informático de la Universidad de Indiana Bloomington. |
A medida que crece la influencia de la IA, el campo de investigación sobre desinformación se enfrenta a cómo estudiar sus efectos. Los modelos de lenguaje grande (LLM) que sustentan chatbots como ChatGPT hacen que el contenido falso sea cada vez más difícil de detectar y pueden difundir mensajes con apariencia humana a una escala sin precedentes. Además, la IA evoluciona tan rápidamente que investigaciones que hoy parecen sólidas podrían dejar de ser relevantes en pocos meses. “Ni siquiera el polvo ha empezado a asentarse, y es difícil separar lo que esperamos que ocurra a medida que la IA se vuelve ubicua de lo que realmente está ocurriendo”, afirma Kate Starbird, investigadora de desinformación de la Universidad de Washington. |
Pero aunque ha complicado el problema, la IA generativa también ha proporcionado a los investigadores una herramienta poderosa para estudiarlo y probar intervenciones. Incluso mientras las herramientas de IA transforman la desinformación, dice Jennifer Allen, científica social computacional de la Universidad de Nueva York, “creo que también han transformado el campo”. |
|
No hay comentarios:
Publicar un comentario