Desinformar con inteligencia artificial: ¿el futuro de la política?

“Es importante que guardes tu voto para noviembre. Votar este martes solo beneficia a los republicanos en su intento de volver a elegir a Donald Trump”, ese era el llamado que recibieron miles de votantes de los estados de New Hampshire y Nueva Inglaterra en Estados Unidos.

Parecía la voz del presidente Joe Biden pidiéndole a los simpatizantes del partido Demócrata que se quedaran en su casa y no vayan a votar en las primarias. Pero era su voz clonada en un intento de desinformar y desalentar a sus votantes para que no vayan a las urnas.

Ocurrió en enero de este año y propició un cambio legal: a partir de este hecho está prohibido en Estados Unidos que las llamadas automáticas usen voces sintéticas.

En México, en plena campaña presidencial, se viralizó un video donde se podía ver a la ahora presidente electa, Claudia Sheinbaum, enseñando a hacer una estafa piramidal. También había sido generado con inteligencia artificial.

Capitulo 8

La forma en que consumimos información cambió drásticamente con Internet y las redes sociales, y seguirá cambiando de maneras que aún no conocemos. En épocas de elecciones y en este 2024, que tenemos el récord de que el 49% de la población global irá a votar, un fantasma importante recorre los algoritmos y tiene que ver con las elecciones.

En época electoral, cuando más necesitamos informarnos, estamos saturados de información y también rodeados de noticias falsas que complican nuestra capacidad de discernir. ¿Y si la inteligencia artificial es también una aliada para combatir la desinformación?

De todo esto conversamos en un nuevo episodio de Fantasmas en los Algoritmos con Laura Zommer. Laura es la creadora de Chequeado y fue su directora ejecutiva. Hoy es cofundadora y CEO de Fact Chequeado que, junto a Maldita.es de España, tiene como misión ayudar a la comunidad latina en Estados Unidos a combatir la desinformación.

En lo que va de este 2024 en elecciones en geografías tan distintas como la India, México o la Unión Europea se registraron casos de uso de inteligencia artificial en las campañas electorales. Todavía sabemos poco sobre la magnitud de los impactos. Pero sí tenemos algunas certezas: que la inteligencia artificial hace más fácil y más barato distribuir información falsa, que la información falsa se viraliza más rápido que la información fidedigna y que lo más peligroso son los audios falsos (como el caso de la voz clonada del presidente Biden), porque en la imagen al menos existe más contexto para darnos cuenta si algo es real.

¿Cuánto nos dice lo que estamos viendo en estas elecciones del futuro de la política? Como dijo Marcelo Santos, un especialista brasileño en tecnología y democracia: “La tecnología en las elecciones es como la Fórmula 1: allí se estrena lo último de la industria automotriz que después va llegando fuera de las elecciones a la comunicación y persuasión política”.

Aprendamos de los que desinforman

¿Por qué la información falsa se viraliza más que la fidedigna? “La información falsa suele ser más amarilla, más emocional. Sabemos que nuestro cerebro elige lo emocional frente a la razón y somos seres humanos emocionales y emotivos que nos gustan las historias. Y ahí viene la parte de autocrítica a aquellos que trabajamos con evidencia desde el periodismo, desde la política, los gobiernos, la academia: los desinformantes usan mejor algunas estrategias que aquellos que informamos”, dice Laura Zommer.

También destaca que la inteligencia artificial puede ayudarnos a combatir la desinformación. “La IA puede ser una aliada poderosísima para aquellos que producimos evidencia para llegar a más gente, más rápido, a menos costo. La inteligencia artificial puede ser una herramienta, pero hay que empezar ayer. Hasta ahora vienen ganando en el uso de la tecnología los que desinforman, pero quizás este salto de democratización de acceso a la inteligencia artificial podría dar lugar a nuevos desarrollos, de flujos de trabajo, de distintas maneras de pensar. Necesitamos escala, necesitamos ser más rápidos”, explica.

¿Qué papel juegan las plataformas de redes sociales y las empresas de tecnología en la lucha contra la desinformación?

En febrero de este año, las empresas de tecnología más importantes firmaron un acuerdo en Munich, Alemania, para implementar acciones en la lucha contra la desinformación. Y de hecho, en los últimos meses las plataformas fueron introduciendo cambios. Por ejemplo, Instagram te avisa cuando un contenido fue creado por IA.

Laura sostiene que hay mucho trabajo por hacer por parte de las plataformas, por ejemplo, invertir en conocer más sobre los efectos y en ayudar a campañas para educar a la gente. “Cuando todos nosotros éramos chicos, nos enseñaban cómo leer críticamente los medios. ¿Quién nos enseña ahora qué son los algoritmos? ¿Cómo funcionan? ¿Quién te enseña que aquel contenido que te gusta compartir puede ser desinformación? Porque aún los más educados que creen ‘no eso a mí no me pasa’ con la jactancia del saber comparten desinformación de manera regular”.

¿Querés conocer más sobre el uso de la inteligencia artificial en elecciones y cómo combatir la desinformación?

Chequeado (2023). Guía para contrarrestar la desinformación Herramientas para detectar posibles contenidos falsos en redes sociales. Disponible en esta web

IPSOS (2023) Encuesta global en 29 países sobre la IA y la desinformación. Disponible aquí

Episodios

No te pierdas los episodios anteriores de Fantasmas en los Algoritmos, donde conversamos sobre qué es la IA, sobre su impacto en el trabajo y la educación, cómo podemos tomar mejores decisiones usando la IA y sus sesgos. Podés acceder desde aquí: Fantasmas en los algoritmos