El algoritmo se mete en las urnas: IA y el futuro de la democracia en América Latina.
La IA ya se ha integrado en las campañas políticas de América Latina, pero su uso plantea serios desafíos éticos y democráticos. Es fundamental reflexionar sobre sus riesgos y cómo regular esta tecnología para proteger la integridad de los procesos electorales.
El uso de la Inteligencia Artificial (IA) en campañas políticas ya es una realidad en América Latina. Países como Brasil, México y Argentina han sido testigos de cómo la IA se ha empleado para microsegmentar votantes, analizar datos y crear contenido automatizado. Sin embargo, lejos de fortalecer los procesos democráticos, la implementación de estas tecnologías ha generado serios riesgos para la transparencia electoral y la confianza ciudadana.
Un caso particularmente relevante es el de las elecciones presidenciales de Brasil en 2018, donde se emplearon masivamente redes de bots y tecnologías de IA para difundir noticias falsas a través de WhatsApp y redes sociales. Durante la campaña de Jair Bolsonaro, se utilizó esta tecnología para polarizar la opinión pública y manipular las emociones de los votantes. La IA permitió que las campañas de desinformación se propagaran rápidamente, creando una atmósfera de confusión y desconfianza. La falta de regulación clara sobre el uso de estas tecnologías agravó la situación, ya que no había herramientas efectivas para controlar la circulación de estos contenidos falsos. Este caso puso en evidencia cómo la IA puede ser usada para distorsionar los procesos electorales.
Otro aspecto clave es la microsegmentación, una técnica que utiliza la IA para dividir al electorado en grupos muy específicos, basándose en datos personales como intereses, comportamiento online o características demográficas. Aunque esta segmentación permite a las campañas enviar mensajes personalizados, también puede fragmentar el debate político: los votantes reciben información que se adapta exclusivamente a sus creencias o preferencias, lo que refuerza sus puntos de vista sin exponerlos a diferentes opiniones. Esto crea “burbujas informativas”, limitando el acceso a un debate público más amplio y plural, y favoreciendo la polarización social.
La reproducción de sesgos es otro desafío importante. Los algoritmos de IA, al ser entrenados con datos históricos, pueden heredar y amplificar prejuicios existentes en la sociedad, como los relacionados con la raza, el género o el nivel socioeconómico. Esto significa que la IA podría priorizar ciertos segmentos de la población, dejando a otros marginados o ignorados en la comunicación política. En un contexto electoral, esto profundiza las disparidades, dirigiendo los recursos de campaña hacia los votantes “preferidos” por los algoritmos y excluyendo del debate político a aquellos que no encajan en los patrones de interés del sistema. Este tipo de discriminación algorítmica agrava la desigualdad y socava la representatividad.
Es fundamental poner en discusión el rol que la IA está ejerciendo en las campañas políticas. Desde el Instituto CiudadanIA, creemos que el debate debe centrarse en cómo regular estas tecnologías de manera adecuada, asegurando que su uso sea responsable y proteja tanto la integridad de los procesos electorales como el derecho ciudadano a participar de la toma de decisiones de su país y el derecho a acceder a información completa y chequeada, entre otros. Solo a través de un uso ético y responsable de la IA podremos garantizar que ésta contribuya a la construcción de una ciudadanía inteligente y al fortalecimiento de la democracia en América Latina y el resto del mundo.
