DE
DE

Elections
Artificial Intelligence and Electoral Disinformation

What was the role of Generative AI in Latin American Elections
2.8 Minutes
Candidate talking on Artificial inteligence

Candidate talking on Artificial inteligence

© FNF Latam

Why is this relevant?

Because GAI technologies are rapidly transforming how political narratives are created and disseminated, posing new challenges to democracy, electoral integrity, and voter trust in Latin America.

Why should someone read it?

This paper provides critical insights into how Generative AI is used to manipulate elections, offering real-world examples, evidence-based analysis, and policy recommendations to mitigate risks. It's essential reading for policymakers, journalists, civil society organizations, and anyone interested in protecting democracy in the digital age.

Who is this relevant for?

  • Policymakers and Electoral Authorities – To understand the evolving threats posed by Generative AI and design timely regulations, oversight mechanisms, and safeguards to protect electoral integrity.

  • Journalists and Media Professionals – To recognize the signs of AI-generated disinformation, improve fact-checking strategies, and report more effectively on the digital manipulation of political narratives.

  • Civil Society Organizations and NGOs – To raise awareness, educate the public, and advocate for responsible AI use in democratic processes, especially in vulnerable regions like Latin America.

  • Academics and Researchers – To explore an emerging field of study intersecting technology, democracy, and disinformation, and contribute to policy and societal debates with evidence-based research.

  • Technology and AI Developers – To consider the ethical implications of their tools, participate in co-regulation discussions, and build mechanisms to prevent misuse of their platforms.

  • Voters and the General Public – To better understand how AI can influence opinions and choices during elections, fostering media literacy and resilience against manipulation.

El rol de la Inteligencia Artificial Generativa en la desinformación electoral

El rol de la Inteligencia Artificial Generativa en la desinformación electoral

Este policy paper, escrito por Martín Pablo Villar para la Fundación Friedrich Naumann, examina el uso de la inteligencia artificial generativa (IAG) como una nueva herramienta para difundir desinformación durante los procesos electorales en América Latina. Basado en evidencia empírica y estudios de caso de 2023 y 2024, el documento identifica momentos clave en los que se utilizó IAG para manipular la opinión pública: durante las campañas, el día de las elecciones y después del cierre de las urnas. Presenta ejemplos de videos, audios e imágenes manipulados con el objetivo de desacreditar a candidatos en países como México, Venezuela, Argentina y Panamá. El informe también analiza los tipos de IAG utilizados, incluyendo clonación de voz, generación de contenido visual falso y mensajes personalizados de desinformación. Además, detalla las respuestas institucionales a este fenómeno, como la resolución del Tribunal Superior Electoral de Brasil y los acuerdos globales firmados por empresas tecnológicas para detectar y mitigar contenido manipulado generado por IA. A pesar de estos avances tecnológicos, el análisis concluye que la IAG aún no es capaz de alterar los resultados electorales por sí sola. Sin embargo, representa un riesgo significativo para la confianza pública en las instituciones democráticas. El documento propone varias recomendaciones dirigidas a autoridades electorales, gobiernos, medios de comunicación y ciudadanos, incluyendo campañas de alfabetización digital, certificación de contenido, colaboración con verificadores de hechos y el desarrollo de marcos legales para el uso de IAG. Finalmente, el autor advierte sobre los peligros de enfocar excesivamente en la tecnología mientras se ignoran los problemas estructurales que continúan amenazando la democracia en la región, como la corrupción, la exclusión de votantes, la manipulación judicial y la falta de transparencia electoral.

More