Inteligencia Artificial y campañas electorales algorítmicas
El diseño de la tecnología es también el diseño de la sociedad. La aceleración tecnológica, el auge de las redes sociales, la minería de datos, el aumento de la capacidad de almacenamiento, la mejora exponencial de la capacidad del procesamiento de información y la automatización de procesos creativos en diferentes soportes, conduce a la progresiva virtualización de la realidad. Estos cambios afectan no sólo a la política, a través de la “digitalización de las conversaciones públicas”, sino también a la sociedad, transformándola y provocando la acelerada virtualización de tareas y procesos sociales sensibles.
Las amenazas tecnológicas a la democracia llevan años en la agenda pública. Si se depositaron inicialmente grandes esperanzas en la capacidad renovadora de las tecnologías digitales, ahora se experimenta una decepción a la que acompañan señales de alarma. Mientras tratamos de averiguar los efectos que tiene sobre el comportamiento político, la posverdad va transformando el ecosistema democrático y su interacción social de manera considerable. Por eso resulta imprescindible seleccionar momentos claves del debate político, como las campañas electorales, para tratar de aislar el problema y poder estudiarlo con detalle.
La tecnología electoral y su uso en campaña
La campaña electoral es un periodo concreto dentro del proceso electoral en el que se persigue una difusión masiva de información. Este acto de comunicación responde a un doble fin: la búsqueda del voto partidista y la integración de la ciudadanía en la formación de la voluntad general mediante su intervención en los debates sobre el bien común. En ocasiones ambos pueden resultar incompatibles. Aunque la promoción del voto no debería hacerse a costa de la integración ciudadana, cada vez es más frecuente que sea así, cuando la movilización del afín y la desmovilización del no partidario entran en competencia para obtener los sufragios de los ciudadanos, superando la visión tradicional que concibe las campañas electorales como un enorme y simbólico diálogo entre electores y elegibles, entre representados y representantes.
Los tiempos en los que se elabora y distribuye la información se han reducido considerablemente. El espacio de las campañas se ha desplazado a las redes y han aparecido nuevos sujetos con capacidad de influencia en el proceso electoral
Ocurre, no obstante, que la revolución operada en los medios de comunicación determina que ese impresionante diálogo colectivo sufra una conmoción notable, en la medida en que acaba haciendo, como recordaba Pedro de Vega, “sucumbir a los principios inspiradores de la conducta del homo sapiens ante los requerimientos y urgencias del homo videns”. Como consecuencia de esta evolución, las campañas electorales han sido percibidas, y por tanto diseñadas normativamente, como periodos de alta intensidad en la utilización de técnicas de comunicación persuasiva y disuasiva.
De ahí que, en el proceso de acceso al poder instrumentalizado a través de las elecciones periódicas, observamos cómo incluso las reglas del juego han cambiado en favor de esta idea. La propaganda fagocita el debate público, todo apela a los sentimientos, a las emociones, al componente irracional de la política. Los tiempos en los que se elabora y distribuye la información se han reducido considerablemente. El espacio de las campañas se ha desplazado a las redes y han aparecido nuevos sujetos con capacidad de influencia en el proceso electoral, distintos de los tradicionales partidos y medios de comunicación.
Uso de la IA en las campañas electorales
En este contexto, la irrupción de la IA ha dado lugar a una nueva fase en la evolución de las campañas electorales, las campañas algorítmicas, que amenaza con la progresiva automatización de las campañas electorales. La IA se está consolidando como una herramienta que condiciona el ejercicio efectivo de los derechos políticos pasivos, ya que infrautilizar su potencial disolverá las posibilidades de éxito en las contiendas electorales. En un futuro muy próximo, las campañas que no utilicen estas técnicas serán cada vez más caras y menos eficaces, ya que la comunicación generalista parece cada vez menos capaz de movilizar a los votantes. El uso de estas técnicas, como cualquier tecnología que irrumpe en campaña, generaría un efecto imitación, que provocaría en un breve espacio de tiempo su generalización y un riesgo de convertir la campaña en una guerra entre tecnologías, en la que triunfaría la más efectiva, lo que supondría en la práctica el fin de las campañas electorales tal y como las conocemos, pese a la aparente continuidad de las mismas, al mantenerse los elementos propios de un proceso electoral como discursos, anuncios, mensajes, votación y recuento.
Ya podemos encontrar, en la práctica, usos que, sin alterar esta lógica democrática, aumentan la capacidad de persuasión de partidos y candidatos. Se trata de usos que mejoran la capacidad de dar a conocer las propuestas, su llegada y su accesibilidad, promueven el diálogo. En este sentido, las técnicas de IA brindan oportunidades para una comprensión diferenciada de los escenarios, para el desarrollo de estrategias sofisticadas y para optimizar la comunicación entre los líderes políticos y la población, además de permitir aumentar las capacidades institucionales de los organismos electorales, por ejemplo, en el ámbito de la mejora de las relaciones con la sociedad, la organización electoral, la identificación de votantes, la actualización de registros o la lucha contra la desinformación, tanto en la detección de contenidos objetables, a través del monitoreo y la escucha social, como en la comunicación frente a esta, con la difusión de aclaraciones, utilizando el “contradiscurso” como “táctica de combate” contra el mal de la desinformación.
Pero si proyectamos hasta dentro de unos años las potencialidades de la IA, el escenario futuro genera cierta inquietud. Los sistemas de IA reconfiguran la esfera pública, que pasa a ser fragmentada, inducida, irreal y falsificada, disminuyendo su racionalidad y su naturaleza libre e informada. Resucitan deformaciones y desigualdades, afectando al modo en que la información circula y es accedida por el cuerpo social. El papel decisivo de los algoritmos opacos y sesgados de los sistemas de recomendación fagocita el núcleo de la agenda política, creando cámaras de eco que alimentan burbujas identitarias. Esto genera que se intensifique el sectarismo y la intolerancia ideológica y favorece la normalización de campañas negativas, discursos de odio. Así, se crea un terreno fértil para la radicalización y los ataques de grupos que pretenden desestabilizar la sociedad, y se crean las condiciones perfectas para movimientos antidemocráticos que utilizan como pretexto fraudes inexistentes. Sin embargo, el riesgo más grave parece ser la erosión de la confianza: en la era de la IA, el consenso fiduciario se ve socavado por falacias de alto rendimiento, y el tejido social se deshilacha en un entorno de sospecha permanente. La desconfianza y la división se unen para elevar las hostilidades, el odio, la inseguridad y la polarización, revelando un mundo en el que la inestabilidad trata de imponerse como la nueva normalidad y envenenando el proyecto democrático, que está ligado a la condición del pluralismo.
El decisivo avance de la inteligencia artificial (IA) anuncia una nueva, inminente e inevitable transformación en la dinámica de los procesos electorales. Se inaugura, así una época de “elecciones de alto riesgo” que afrontamos en ausencia de una regulación específica, eficaz y completa. El modelo emergente puede afectar a aspectos centrales de la legitimidad democrática. Las elecciones integras y legítimas sólo prosperan cuando prevalecen los valores democráticos, lo que exige —de la sociedad en su conjunto— una mayor atención a las externalidades de la normalización del uso de estos medios tecnológicos desde una perspectiva social.
De ahí que el uso de la IA en los actuales procesos electorales esté suscitando distintos temores. Así se ha demostrado en elecciones, finalizadas o en curso, en países como Eslovaquia donde el uso de deepfakes irrumpió a pocas horas de la celebración de la primera vuelta de las elecciones presidenciales de 2023, con la filtración de un deepfake donde el líder del partido progresista decía haber comprado votos a una minoría étnica; Argentina donde se utilizó IA en la elaboración de carteles electorales en la campaña de Sergio Massa; México donde se cruzaron las acusaciones sobre si determinadas declaraciones e imágenes se habían realizado con IA o habían ocurrido en realidad; Estados Unidos donde aparecieron deepfakes de voz desanimando a los demócratas de votar en las primarias o imágenes que mostraban a Donald Trump junto a votantes negros, y que se demostraron generadas por IA en un esfuerzo por atraer ese segmento de votantes; en India se simuló un mensaje de una estrella de Bollywood en contra del BJP indio, criticando al primer ministro Modi; en Pakistán se distribuyó también un video generado por IA de Trump prometiendo su apoyo al ex-primer ministro Imran Khan, en Sudáfrica simularon al mundialmente conocido Eminem apoyando al partido opositor EFF; en Indonesia, también se distribuyó un audio falso fingiendo la discusión entre dos líderes de un mismo partido político. Por si existía alguna duda de que la automatización de algunos procesos, a través de los algoritmos, y especialmente a través de sistemas de inteligencia artificial en la maquinaria electoral está transformando la dinámica de las elecciones.
En un horizonte no muy lejano se vislumbran las siguientes amenazas estructurales a la integridad electoral:
Infoxicación y distorsión de la realidad
- Polarización, desestabilización e incitación al conflicto.
- Ruptura de la equidad comunicativa.
- Acoso y discriminación.
- Hackeo cognitivo y condicionamiento de la autonomía de la voluntad al ejercer el voto.
- Ausencia de mecanismos de control.
En resumen, el conjunto de cambios provocados por la generalización del uso de técnicas de IA en campaña, además de cambiar el entorno informativo, puede afectar directamente a la “arquitectura de decisión” del votante, propiciando una opinión cada vez más personalizada basada en segmentación y microsegmentación a gran escala; alterando la realidad, a través de la generación de contenido con IAG que desdibuja la distinción entre no ficción y ficción, y permiten formas más sofisticadas de engaño y manipulación, especialmente con el uso de deepfakes; y la difusión y redifusión de éstos, a través de mecanismos automatizados. Aunque estas amenazas ya existían antes de la Inteligencia Artificial, la utilización de estas tecnologías automatizan, amplifican y sofistican estos procesos, provocando su generalización y aumentando su eficacia y su potencial dañino, lo que lleva estas amenazas a una nueva dimensión.
Una respuesta global y estratégica
En resumen, el desarrollo de la democracia digital —con la IA en su núcleo— cambia el comportamiento social, establece un nuevo entorno para la comunicación política y reconfigura las condiciones competitivas de la arena electoral. Implica un nuevo conjunto de retos sistémicos para las instituciones electorales y el conjunto de la sociedad y, en consecuencia, señala la necesidad de revisar los marcos jurídicos existentes, con la vista puesta en salvaguardar los supuestos de libertad, igualdad, integridad, transparencia y justicia. Comprender y desmitificar las amenazas, identificar y abordar las vulnerabilidades son pasos esenciales para mantener la soberanía a salvo de un nuevo marco de fraude, trampa y manipulación.
Para ofrecer una respuesta eficaz es necesario establecer un marco legal claro y sólido sobre el uso de la IA en campaña, sin delegarlo en las empresas del sector. Un marco que adopte una posición sobre: la protección de la privacidad; la responsabilidad del contenido producido con IA; los modelos de publicidad donde la IA desempeña un papel fundamental, para evitar que afecte a la libertad de decisión, aumentando la transparencia (con bibliotecas de anuncios políticos de acceso abierto) y posicionándose con claridad sobre el uso del microtargeting estableciendo limitaciones a su utilización o incluso planteando la prohibición al uso de estas técnicas en procesos electorales; el respeto a las garantías del debido proceso cuando se deje en manos de la IA las medidas de moderación y eliminación de contenido así como el uso de esta tecnología para luchar contra la desinformación (para garantizar que sea realmente independiente); el nivel de transparencia exigible (con medidas como las que evitan que los bots se presenten como personas identificando el contenido generado por máquinas); así como la rendición de cuentas, facilitando el acceso de investigadores, las iniciativas de verificación de datos y las organizaciones de la sociedad civil para evaluar el impacto de la IA en las campañas políticas en línea.
______________________
Rafael Rubio es Catedrático Derecho Constitucional.