A menos de tres semanas de que se inicien las campañas electorales, los ciudadanos y los candidatos que contenderán por más de 20 mil cargos en el país se encuentran en el desamparo, ante el uso de la Inteligencia Artificial (IA) para generar deepfakes.
Con casos que ya se han registrado en los que han utilizado la IA para transmitir mensajes falsos en redes sociales utilizando las imágenes o voces de Claudia Sheinbaum, Martí Batres, Samuel García y Luis Donaldo Colosio, entre otros, especialistas y consejeros electorales reconocieron que el problema por la falta de legislación no es exclusivo de México, sino que leyes en la materia, y particularmente enfocadas al rubro electoral, son prácticamente inexistentes a nivel global.
De hecho, desde el Tribunal Electoral del Poder Judicial de la Federación (TEPJF), sus integrantes manifestaron su preocupación porque la realidad sobre el uso de las nuevas tecnologías para generar contenido falso y manipulador haya rebasado la legislación.
Estaremos atendiendo en caso de que se den asuntos que tengan que ver con alguna situación que se haya provocado con IA, que hasta el día de hoy no hemos resueltoMónica Soto, Presidenta del TEPJF
El magistrado Felipe Fuentes dijo que por ello ya tomaron precauciones, para que el máximo órgano jurisdiccional en materia electoral cuente con las herramientas para revisar casos de propaganda generada con IA, que hasta el momento no han recibido.
Consultado sobre el tema, expuso que buscarán un mecanismo respaldado por expertos “que nos guíen sobre el tema de la IA traído a la política y cómo influye en la decisión final de los votantes”.
La misma magistrada presidenta, Mónica Soto, subrayó que ante los vacíos legales en México y la realidad del uso de la Inteligencia Artificial en temas electorales, ellos estarán preparados, aun cuando hasta el momento las autoridades electorales no han recibido casos relacionados con el uso de IA.
“Es un reto para el mundo, para el tribunal en el proceso electoral, y estaremos atendiendo en caso de que se den asuntos que tengan que ver con alguna situación que se haya provocado con Inteligencia Artificial, que hasta el día de hoy no hemos resuelto”, expresó.
Al INE se le quiere responsabilizar de todo en las elecciones, también las deepfakes (...) El debate no es si usar peritos o no, sino que no se puede concentrar en todas estas actividadesLuis Carlos Ugalde, Exconsejero del IFE
La Unión Europea es pionera en la legislación formal para regular el uso de la Inteligencia Artificial, mientras que en Estados Unidos el presidente Joe Biden firmó un decreto que busca mitigar los riesgos de un desarrollo sin control de la IA. De hecho, en el vecino país del norte se prohibió, desde la Comisión Federal de Comunicaciones, el uso de la IA para llamadas robot con voces generadas por este tipo de mecanismos, con el fin de evitar su uso en el engaño de votantes.
El consejero electoral Arturo Castillo comentó que al trabajo que actualmente realiza el Instituto Nacional Electoral (INE) se le suma el desafío que representaría identificar las denominadas deepfakes. Explicó que a nivel global se han presentado casos, como en España, donde incluso fue necesario recurrir a peritos, por el nivel de especialización, para identificar si se trataba de imágenes falsas, manipuladas a través de Inteligencia Artificial, o si era real.
Los especialistas señalaron que con el uso de deepfakes y sus variantes anteriores, como las shallowfakes o cheapfakes —con las que se etiquetaban imágenes, videos o audios fuera del contexto correcto y se atribuían a un momento diferente—, las campañas se caracterizarán por un incremento en la generación de videos y audios creados a través de la Inteligencia Artificial, con algún fin de manipulación.
Por cada contenido que, en caso de ser calumnioso, se pedirá a las redes sociales bajarlo, pero al mismo tiempo ya se estarán generando otras que no permitirán una verificación constanteRaúl Trejo Delarbre, Periodista y escritor
El exconsejero Luis Carlos Ugalde descartó que la tarea de verificar si el contenido que se sube a redes sociales se trata de deepfakes deba caer sobre la autoridad electoral, porque el compromiso debe iniciar en los mismos partidos y equipos de campaña. “Al INE se le quiere responsabilizar de todo en las elecciones, ahora también de las deepfakes. ¿Cuál es el trabajo que esto representaría? El debate no es si usar peritos o no, sino que el instituto no se puede concentrar en todas estas actividades, no es responsable”, subrayó.
El compromiso, consideran en el INE, debe venir por parte de los mismos actores políticos, que podrían establecer, junto con la autoridad electoral, un acuerdo para evitar el uso de las deepfakes para estas campañas.
A decir del también exconsejero electoral Francisco Guerrero, se debe considerar a las mismas redes sociales, como Meta o X, en cualquier convenio de este tipo, porque consideró que los alcances de las deepfakes, a través de la vertiginosa distribución que se hace por estos medios, es incuantificable.
Sin opinar específicamente sobre los resultados que podrían generar en México, mencionó que ya hay casos en otros países en los que se ha “insinuado” que, gracias a las deepfakes, se puede inclinar la balanza, como comienzan a observarlo en las elecciones en Estados Unidos.
Hay que hacer modificaciones y adecuaciones por sector, pero por lo pronto hay que asumir que estas elecciones no alcanzarán cambios legales sobre el uso de la IAAlejandra Lagunes, Senadora del PVEM
En México, coincidieron los expertos consultados, no es la primera ocasión que se habla de deepfakes, pero la presencia en los actuales procesos puede generar un mayor efecto en caso de contiendas cerradas.
Para Raúl Trejo Delarbre, quien incluso publicó un libro sobre el tema, el uso de la IA en los procesos electorales puede ser poco favorable; señaló que este tipo de herramientas, en sí mismo, representa una alerta.
“La legislación electoral está orientada en este tema a la revisión de los contenidos en radio y televisión, por lo que será lo que en un momento podrán revisar las autoridades electorales, pero la revisión se hará con retraso por cada contenido que, en caso de ser calumnioso, se pedirá a las redes sociales bajarlo, pero al mismo tiempo ya se estarán generando otras que no permitirán una verificación constante, lo que evidentemente generará problemas”, expuso.
En el Congreso apenas han comenzado a abordar la legislación necesaria para regular la IA, como en una iniciativa presentada por el diputado federal de Morena Miguel Torruco, la cual en realidad no contempla aspectos electorales, pese a que plantea penas hasta de ocho años de prisión a quien altere contenidos con IA.
La senadora del PVEM Alejandra Lagunes, que en el Gobierno de Enrique Peña encabezó la estrategia digital y ahora es integrante de la nueva Comisión de Derechos Digitales del Senado, explicó que, ante la falta de una legislación específica sobre IA, lo que se podría hacer en México para avanzar en la legislación pendiente es hacer modificaciones por rubro, para incluir un blindaje en este tema. “Hay que hacer modificaciones y adecuaciones por sector, pero por lo pronto hay que asumir que estas elecciones no alcanzarán cambios legales sobre el uso de la IA; entonces, entre todos debemos revisar las alternativas”, dijo.
