Vestido de Mr. Monopoly y brincando mientras pasa por varias propiedades de “Monopoly Roux”, así se ve una caricatura de Rómulo Roux, candidato a la presidencia de Panamá por la alianza de Cambio Democrático y el Partido Panameñista, en un video publicado en Instagram. La publicación presenta falsedades alrededor de las propuestas de Roux y, según un experto consultado por esta investigación, tiene indicios de haber sido creado con inteligencia artificial.
“Paso por la mina, cobro $200 [dólares]”, dice el muñeco de Roux en un video publicado el 19 de febrero por una red de siete perfiles de Instagram que republican noticias y videos atacando a algunos de los ocho aspirantes a la presidencia de Panamá. “Caja de Seguro Social. ¡Hipotecada! Canal de Panamá. ¡Lo pongo a la venta a lo que me den!”. El país elegirá a su próximo presidente este domingo, 5 de mayo. En su programa de gobierno, Roux no ha propuesto vender ni privatizar el Canal, ni llevar a cabo alguna operación financiera con la Caja de Seguro Social.
Otro video que pudo haber sido alterado con inteligencia artificial fue publicado por una cuenta de Instagram que hace parte de la misma red. “Decidí romper mi familia y logré que Yira rompiera la suya, para que juntos tomemos otro camino”, dice una voz parecida a la del candidato Ricardo Lombana, por el Movimiento Otro Camino. Lombana se divorció de Aileen Adames, con quien tiene dos hijos, y anunció su compromiso con Yira Gorrichátegui a principios de este año.
De fondo, suena una música trágica mientras que se muestran dos fotos: En una de ellas, Lombana aparece con Adames y sus hijos, y en otra se ve a Gorrichátegui con su exesposo. El video fue publicado el pasado 14 de febrero, Día de San Valentín.
Estos son solo dos de los 217 videos publicados por esta red de perfiles de Instagram y Facebook, en una operación coordinada para desprestigiar a varios aspirantes a la Presidencia del Panamá, principalmente a Roux y a Lombana. Los videos han sido reproducidos más de 6.5 millones de veces, más del doble del número de personas habilitadas para votar en la elección. Algunos de ellos aparecieron como publicidad paga a Meta, y la plataforma no los dio de baja a pesar de que el Tribunal Electoral (TE) le informó, como parte de una alianza que tiene con esta multinacional, que la publicación infringía normas electorales.
El Tribunal Electoral de Panamá ya había denunciado algunos de estos videos a Meta, ordenando “la suspensión de las publicaciones” porque “podrían calificar dentro de las prohibiciones de propaganda electoral”. Pero a la fecha de publicación de esta nota, los videos siguen disponibles y la operación sigue activa a dos días de las elecciones.
Estos son los principales hallazgos de una investigación de la alianza periodística transfronteriza Los Ilusionistas, coordinada por el Centro Latinoamericano de Investigación Periodística (CLIP), que busca desentrañar, junto con otros 15 medios y organizaciones —entre las que están La Prensa y Foco Panamá— la desinformación política coordinada en el “súper año electoral” de 2024 en América Latina.
Unos videos son solo sátiras de las campañas. Otros buscan resaltar hechos o conexiones cuestionables del pasado de los candidatos.
“Ahí hay una tensión complicada”, dijo el abogado Carlos Cortés, director de la organización colombiana Linterna Verde y experto en libertad de expresión en internet. “Por ejemplo, ¿usted por qué va a dar de baja una parodia? En las elecciones y en la campaña política, de acuerdo con el Sistema Interamericano, el margen de expresión y crítica, incluso de contenidos que pueden llegar a ser difamatorios o injuriosos contra un candidato, es mucho más amplio”.
No obstante, algunas de las piezas difundidas por esta operación coordinada van más allá, y falsifican las voces de candidatos con herramientas de inteligencia artificial, confundiendo a la audiencia, pues pone a los aspirantes a decir cosas que no han dicho o a admitir haber hecho cosas que no han sucedido.
“Los videos tienen irregularidades y latencias, pero un ojo desprevenido, como un ciudadano sin entrenamiento, no lo va a notar”, dijo Camilo Vega, profesor de periodismo e inteligencia artificial en la Universidad del Rosario, en Colombia, tras ver una muestra del material.
Además, en algunos videos los acentos suenan falsos: “En los audios hay un problema, y es que estos modelos no pueden replicar el ritmo al que habla una persona; se aprecia que hay unos ritmos extraños, se hace más lento y por eso se nota que no son reales”, explica Vega.
Además de las 6.5 millones de reproducciones que ha conseguido la red, a la fecha de esta publicación, las páginas han logrado que más de 18,000 usuarios las sigan en Facebook y casi 95,000 en Instagram, y han conseguido que los usuarios les den “me gusta” a los videos en más de 107,000 ocasiones.
De los 217 videos publicados a la fecha en estas siete páginas, 57 son anuncios en Facebook e Instagram, por los que se pagaron un total de 3,381 dólares, según está consignado en la Biblioteca de Anuncios de Meta, una plataforma que registra cuánto dinero de pautas publicitarias ha recibido la empresa.
La evidencia de la coordinación entre las siete páginas abunda. Primero, dos de ellas aparecen como financiadoras de la publicidad de las otras cinco. Segundo, muchos de los videos fueron publicados simultáneamente por varias de las páginas. Tercero, todas ellas fueron creadas en un período muy corto, entre el 14 de enero y el 9 de febrero de 2024 (la campaña electoral inició oficialmente el 3 de febrero). Y cuarto, todas las páginas de Facebook de la red tienen dos administradores, uno mexicano y el otro panameño.
El Tribunal Electoral le advierte a Meta sobre videos de campaña sucia
Entre febrero y abril, el Tribunal Electoral de Panamá emitió al menos nueve resoluciones ordenándole a cinco de las siete cuentas de Facebook e Instagram identificadas por esta investigación retirar 15 de sus videos publicados.
De acuerdo al TE, estas publicaciones violan las normas que regulan la campaña y propaganda electoral en medios digitales, donde se prohíbe atacar a candidatos por medio de “insultos, incursiones contra la vida privada, discriminación y aseveraciones de conductas ilegales que no se hayan dictaminado por las autoridades competentes”.
Según contó a esta alianza periodística Leopoldo Alfaro, director del Centro de Estudios y Monitoreo Digital (CEMD) del Tribunal Electoral, en un principio el Tribunal ordenó a los administradores de las páginas infractoras dar de baja el contenido. Como eso no sucedió, el TE informó por escrito a Meta de estos contenidos, como parte de un proceso de colaboración entre las dos entidades en el que, según Alfaro, “se establecieron canales formales de comunicación con el equipo de políticas públicas de Meta”.
Sin embargo, hasta la fecha de esta publicación –y a dos días de las elecciones– Meta todavía no había bajado ninguno de estos contenidos de sus plataformas digitales.
Preguntado al respecto, un portavoz de Meta dijo a reporteros de esta alianza que la compañía “trabaja con la autoridad electoral en Panamá en diversos frentes, incluyendo la identificación de contenidos que puedan infringir nuestras políticas”. Pero no respondió por qué no han bajado los cuestionados videos de su plataforma a pesar de que habían sido reportados por la autoridad electoral desde hace varias semanas. Argumentó que la empresa no puede referirse a casos específicos.
Tampoco informó si Meta ha acordado protocolos sobre cómo resolver las diferencias cuando esta u otras autoridades electorales no coinciden con la empresa sobre si un contenido debe o no ser dado de baja.
Ataques de varios frentes
A Roux y a Lombana se les ataca con diferentes tácticas en los videos.
Al primero se le resaltan insistentemente sus vínculos con la firma de abogados Morgan & Morgan, donde es socio. El bufete defendió en tribunales el contrato entre Minera Panamá y el Estado que estuvo en el centro de protestas masivas a finales de 2023.
Además, en algunos videos –con una voz aparentemente creada por un algoritmo inteligente que intenta imitar la voz del candidato–se escucha decir que su “primer decreto” será ordenar el regreso de la mina, cosa que no ha dicho públicamente, hasta donde pudo constatar esta alianza. También se le ataca por su origen aristocrático llamándolo “rabiblanco”, una palabra de la jerga panameña para referirse despectivamente a las personas de clase alta.
Roux arremetió contra el Tribunal Electoral al ser consultado por esta alianza sobre los videos de campaña sucia.
“Ellos no van a ordenar nada,” dijo Roux, refiriéndose al Tribunal Electoral. “Yo se los dije desde el principio del Pacto Ético Electoral (un acuerdo que firmaron los candidatos con el Tribunal Electoral donde se comprometieron, entre otras cosas, a evitar el uso de campañas sucias). Eso es para los que queremos cumplirlo y para los demás no cuenta. Yo sigo con mi campaña y que ellos hagan toda la campaña sucia que quieran.”
Esta alianza periodística pudo corroborar, con fuentes cercanas al proceso, que, en efecto, como lo dijo oficialmente, el Tribunal Electoral le envió a Meta varios correos en los que le ordena sacar estos videos de campaña sucia lo más pronto posible.
Los videos critican a Lombana por, supuestamente, apoyar el matrimonio igualitario y tener el respaldo de la comunidad LGBTI, lo cual describen como algo negativo. Lombana dijo que él no está de acuerdo con el matrimonio igualitario. Los videos también acusan a una de las aliadas políticas de Lombana de haber asistido a “fiestas del pecado”, pero sobre esto no se pronunció el candidato.
Al ser consultado al respecto, Lombana dijo que estas campañas sucias en su contra ya no le sorprenden.
“Estamos acostumbrados,” dijo Lombana. “Este tipo de campañas son las que ellos saben hacer: mienten a sabiendas de que están mintiendo y para peor, lo hacen sin dar la cara”.
Según el profesor Vega, la razón por la que las campañas sucias que usan inteligencia artificial son tan populares es que son muy asequibles y fáciles de implementar. “Uno ya puede tener la voz de quien quiera con solo cinco segundos de audio de esa persona. Y los políticos tienen ese riesgo, de que tienen muchas muestras de voz por ahí circulando”.
Además, Vega explica que el software necesario para hacer videos falsificados con IA “cuesta menos que un practicante (pasante) con salario mínimo. Es muy barato”.
Además del daño que le pueda hacer este tipo de campañas a la democracia porque confunden y mezclan verdad con mentira, queda sobre el tapete una cuestión más de fondo, que ya está despertando debate en el continente: hasta dónde las plataformas tecnológicas pueden solo aplicar sus normas y criterios para decidir qué contenido es válido en una elección, incluso cuándo estas contradicen las normas de los países donde opera.
(Con la autoría de José Luis Peñarredonda (CLIP), Pablo Medina (CLIP), Aldo Salgado (Laboratorio Ciudadano) y Daniel Lopera (Foco Panamá).
