Las herramientas para generar contenidos con Inteligencia Artificial cada vez son más sofisticadas y plantean nuevos retos para los moderadores de información, los gobiernos y la sociedad en general.
La empresa estadounidense OpenAI, dedicada a la investigación y aplicación de las tecnologías que usan Inteligencia Artificial, acaba de lanzar Sora, un generador de videos para creadores de contenido audiovisual.
La herramienta que se abrió para el público en general que tenga acceso a una cuenta de ChatGPT Plus puede crear videos a través de indicaciones de texto. Una revolución digital que puede cambiar la manera en que se crean contenidos audiovisuales.
Murat y la 4T, el mundo al revés
Este primer lanzamiento de la plataforma Sora es un vistazo al futuro y ya genera polémica entre los usuarios por la calidad de los videos hechos con Inteligencia Artificial.
La herramienta cuenta con ciertas restricciones para evitar contenidos violentos o explícitos; sin embargo, es cuestión de tiempo para que aparezcan este tipo de contenidos que pueden ser utilizados de manera negativa.
Éste fue el caso de las imágenes creadas con Inteligencia Artificial por medio de la nueva herramienta de la red social X, propiedad del magnate Elon Musk. Con Grok se pueden crear imágenes hiperrealistas y en sólo unas horas el sitio de microblogging se llenó de contenidos racistas, misóginos, homófobos y xenófobos a falta de restricciones para la generación de contenidos.
Cobijados por la supuesta libertad de expresión que promueve Musk en su red social y por el anonimato de una cuenta digital, los usuarios crearon contenidos negativos; por ejemplo, en contra de jugadores de futbol como Vinicius Jr., la joven estrella del futbol español Lamine Yamil y su compañero de selección Nico Williams.
La falta de restricciones para generar contenidos promueve la creación de imágenes y videos violentos, obscenos y en contra de las minorías. Y esto sólo ha sido en un par de pruebas que han realizado estas plataformas digitales; sin duda, estamos en la antesala de un nuevo paradigma en la generación de contenidos audiovisuales.
Los videos y las imágenes creadas con Inteligencia Artificial son cada vez más realistas y peligrosamente se pueden utilizar en un futuro para incrementar la desinformación, el odio y los mensajes negativos en Internet.
Otro dilema que plantean las nuevas tecnologías impulsadas con Inteligencia Artificial es la falta de normativas para resguardar los derechos de autor.
Un estudio realizado recientemente a una base de datos de audios generados con Inteligencia Artificial reveló una gran cantidad de contenidos que violan los derechos de autor. También se encontraron contenidos violentos y ofensivos en dichos audios.
Este tipos de información negativa se reproduce sesgadamente con la tecnología de IA y se puede encontrar tanto en formato de texto como en video y audio.
La Inteligencia Artificial, sin duda, va a generar un cambio de paradigma en la llamada era digital, pero da la impresión que su avance tecnológico va más rápido que las herramientas para vigilar el uso cuidadoso de este tipo de tecnologías.
