DE
DE

Elecciones
Inteligencia artificial y desinformación electoral

¿Cuál fue el papel de la IA generativa en las elecciones latinoamericanas?
3.0 Minutos
Candidate talking on Artificial inteligence

Candidate talking on Artificial inteligence

© FNF Latam

¿Por qué es relevante?

Porque las tecnologías GAI están transformando rápidamente la forma en que se crean y difunden los discursos políticos, lo que plantea nuevos retos para la democracia, la integridad electoral y la confianza de los votantes en América Latina.

¿Por qué debería leerlo alguien?

Este documento ofrece información crítica sobre cómo se utiliza la IA generativa para manipular las elecciones, con ejemplos reales, análisis basados en pruebas y recomendaciones políticas para mitigar los riesgos. Es una lectura imprescindible para responsables políticos, periodistas, organizaciones de la sociedad civil y cualquier persona interesada en proteger la democracia en la era digital.

¿A quiénes es relevante?

  • Responsables políticos y autoridades electorales: comprender las amenazas cambiantes que plantea la IA generativa y diseñar regulaciones, mecanismos de supervisión y salvaguardias oportunos para proteger la integridad electoral.
  • Periodistas y profesionales de los medios de comunicación: reconocer los indicios de desinformación generada por la IA, mejorar las estrategias de verificación de datos e informar de manera más eficaz sobre la manipulación digital de los discursos políticos.
  • Organizaciones de la sociedad civil y ONG: sensibilizar, educar al público y promover el uso responsable de la IA en los procesos democráticos, especialmente en regiones vulnerables como América Latina.
  • Académicos e investigadores: explorar un campo de estudio emergente que intersecta la tecnología, la democracia y la desinformación, y contribuir a los debates políticos y sociales con investigaciones basadas en datos empíricos.
  • Desarrolladores de tecnología e IA: considerar las implicaciones éticas de sus herramientas, participar en debates sobre corregulación y crear mecanismos para prevenir el uso indebido de sus plataformas.
  • Votantes y público en general: comprender mejor cómo la IA puede influir en las opiniones y las decisiones durante las elecciones, fomentando la alfabetización mediática y la resiliencia frente a la manipulación.
El rol de la Inteligencia Artificial Generativa en la desinformación electoral

El rol de la Inteligencia Artificial Generativa en la desinformación electoral

Este policy paper, escrito por Martín Pablo Villar para la Fundación Friedrich Naumann, examina el uso de la inteligencia artificial generativa (IAG) como una nueva herramienta para difundir desinformación durante los procesos electorales en América Latina. Basado en evidencia empírica y estudios de caso de 2023 y 2024, el documento identifica momentos clave en los que se utilizó IAG para manipular la opinión pública: durante las campañas, el día de las elecciones y después del cierre de las urnas. Presenta ejemplos de videos, audios e imágenes manipulados con el objetivo de desacreditar a candidatos en países como México, Venezuela, Argentina y Panamá. El informe también analiza los tipos de IAG utilizados, incluyendo clonación de voz, generación de contenido visual falso y mensajes personalizados de desinformación. Además, detalla las respuestas institucionales a este fenómeno, como la resolución del Tribunal Superior Electoral de Brasil y los acuerdos globales firmados por empresas tecnológicas para detectar y mitigar contenido manipulado generado por IA. A pesar de estos avances tecnológicos, el análisis concluye que la IAG aún no es capaz de alterar los resultados electorales por sí sola. Sin embargo, representa un riesgo significativo para la confianza pública en las instituciones democráticas. El documento propone varias recomendaciones dirigidas a autoridades electorales, gobiernos, medios de comunicación y ciudadanos, incluyendo campañas de alfabetización digital, certificación de contenido, colaboración con verificadores de hechos y el desarrollo de marcos legales para el uso de IAG. Finalmente, el autor advierte sobre los peligros de enfocar excesivamente en la tecnología mientras se ignoran los problemas estructurales que continúan amenazando la democracia en la región, como la corrupción, la exclusión de votantes, la manipulación judicial y la falta de transparencia electoral.

Mehr