En su reciente libro Inteligencia Artificial. Conversaciones con ChatGPT, el investigador y académico Raúl Trejo Delarbre realiza una reflexión sobre lo asombroso e inquietante de esta tecnología que está trastocando el día a día en todos los ámbitos del quehacer humano.
En entrevista con La Razón, el también doctor en sociología advierte que en Inteligencia Artificial (IA) México “avanza a gatas” sobre cómo entender esta tecnología y sus implicaciones, retraso por el que tampoco se cuenta con un necesario marco legal, a diferencia de países de la Unión Europea y Estados Unidos; en ese sentido, externa la necesidad de contar con políticas públicas.
¿En qué etapa de la IA estamos? Es imposible establecerlo, uno puede hablar de etapas cuando se sabe cuándo es el desenlace de un recorrido o de un proyecto, en este caso estamos ante un desarrollo tan incierto sobre el cual hay tantas especulaciones y que avanza de manera tan inesperdada para muchos, que no sabemos cuál es la desembocadura y no podemos establecer las etapas. Lo que sí sabemos es que en los últimos años ha habido, gracias a inversiones extranjeras adicionales a las que existían en décadas anteriores, una evolución muy llamativa de la IA y particularmente la Inteligencia Artificial generativa, que es la que es capaz de producir contenidos y de conversar con los usuarios, estamos hablando de contenidos de audio, de video, de textos como los que es capaz de hacer ChatGPT, pero yo no podría decir hasta dónde va a llegar esta IA, yo diría que podemos hablar de una irreversibilidad en la presencia de la IA que acompañará a la humanidad en los siguientes tiempos, independientemente de cómo se le use, para qué y por parte de quien.
El impacto de Internet cambió significativamente lo público y lo privado en los últimos 30 años. Cuando la IA tenga mayor avance en lo más cotidiano, ¿considera que se podría reconfigurar lo que significa “ser humano”? Me quedo pensando en la implicación de su pregunta, porque también tendríamos que interrogarnos qué significa ser humano. Ser humano no solamente es un resultado de la naturaleza, sino de su evolución cultural y por su humanidad se entienden muchas cosas, desde la capacidad de reflexionar, la autoconciencia y la capacidad de dialogar, hasta la compasión o el despliegue de características intelectuales, cooperativas, en fin. Lo humano es demasiado amplio, pero muy posiblemente si lo humano está afianzado, entre otras cosas, en las capacidades de las personas y estas capacidades de una u otra manera se van a potenciar incluso a niveles que eventualmente podrían implicar no estar controlados por humanos, entonces sí estamos ante un cambio en los alcances de lo que está ahora por entendido por “humanidad”. ¿Qué puede significar?, pensando y especulando con un poco de audacia, la presencia de IA para cumplir con labores humanas, pues posiblemente podría estar a cargo de tareas donde hasta ahora ha sido tan irremplazable el papel de las personas, como la generación de contenidos, la enseñanza, la vigilancia, las decisiones en asuntos médicos o relacionados con la producción económica, vaya la enorme cantidad y la fuerza de las implicaciones de la IA en todas estas actividades podría permitir que quizá no cambie la esencia de lo humano, pero sí las capacidades de los humanos.
La Inteligencia Artificial ya se volvió cotidiana y a veces no nos damos cuenta. Piense en el corrector ortográfico de su teléfono celular o en las aplicaciones para desplazarnos por la ciudad, en los algoritmos de Facebook o en las traductores automáticos que a veces empleamos para encontrar un texto en otro idioma
En su pregunta cuando dice que se vuelva más cotidiana la IA, yo creo que ya se volvió y a veces no nos damos cuenta. Piense usted en el corrector ortográfico de su teléfono celular o en las aplicaciones para desplazarnos por la ciudad de estilo Waze y Google maps o pensemos en los traductores automáticos que a veces empleamos para encontrarnos un texto en otro idioma en Internet, todas se apoyan en IA, los algoritmos de Facebook que van de lo que hemos consumido o que nos bloquean el acceso a diversos temas o a diversas cuentas también funcionan basados en principios de IA. Lo que está ocurriendo es que la IA se está desarrollando mucho más allá de funciones como éstas que no solo cumplen con tareas mecánicas, automáticas, sino que puede diseñar contenidos y hacer acciones inéditas e irrepetibles y por eso es tan inquietante esta nueva fase de la IA.
En su libro plantea que la IA ha sido creada a semejanza de sus creadores y puede sufrir defectos humanos, ¿esto se entiende cuando hablamos sobre una IA racista, antisemita u homófoba? El ser humano, las personas, los inventores, los técnicos, tienden a crear dispositivos o tecnologías que replican lo que ya sabemos hacer. Con la IA, quienes están a cargo de desarrollarla intentan potenciar lo que ya se hace, hablar, pensar, tomar decisiones, seleccionar documentos o archivos o buscar entre enormes volúmenes de información y particularmente, en el carácter generativo que es lo que estamos hablando sobre todo, se nutre entre enormes bases de datos de todo lo que hay en Internet, lo digitalizado de bibliotecas, directorio telefónico, correspondencia de corporaciones multinacionales, correos electrónicos de toda índole, guías de viaje, novelas de todos los tiempos. En estas variadísimas y enormes bases de datos hay expresiones de todo tipo de comportamientos, hay muchísimo de ciencia, una gran cantidad de aritmética y matemáticas, muchas expresiones de creación humanística, hay tratados de derecho, de biología y química, pero también hay expresiones de odio, de racismo, de violencia, instrucciones para fabricar bombas de todo tipo, expresiones de intolerancia de la más drástica y todas esas son creaciones humanas de las que se educa la IA. Cómo modificar esto, bueno los creadores de IA están afinando los algoritmos para que no repitan expresiones racistas o misóginas, por ejemplo. Y esto ya empieza a ocurrir, si uno le pregunta al ChatGPT que tienda a pronunciar una expresión misógina, éste contesta de una manera muy educada que es incapaz de responder porque ha sido entrenado para no reproducir expresiones de carácter violento ni discriminatorio. El problema es que quienes están moldeando las conductas, aplicando los algoritmos correctores a las respuestas con modelos de ChatGPT, lo están haciendo con la moralidad, con los principios, con los patrones que están de moda. Qué pasa —como está ocurriendo— si está de moda vetar las expresiones literarias incómodas para un sector de la sociedad. Hay quienes en el mundo ya están censurando Lolita, de (Vladimir) Nabokov, o las novelas de J. K. Rowling, la saga de Harry Potter, por mencionar dos tipos de literatura, qué pasa si estos modelos de IA son educados para cancelar estas expresiones, tendríamos entonces modelos de IA que nos van a responder de manera incompleta cuando les preguntemos cuáles son las grandes obras de la literatura o cuáles son las obras de literatura para un sector de la sociedad. Estamos en el riesgo de caer en expresiones de censura y cancelación en vez de la pluralidad que todos deseamos.
¿Qué considera que pase con la literatura y el periodismo? Hay varios escenarios, vamos a tener un panorama hibrido con varias de esas tendencias. En primer lugar la literatura y el periodismo suelen ser creaciones de las personas que implican una dosis de originalidad, de búsqueda, de inteligencia, de creatividad. La literatura es una búsqueda constante, hay muchas tramas que se repiten, pero la peculiaridad de una obra literaria que apreciamos por ser de calidad radica en la manera en cómo es presentada —que se puede repetir entre una obra y otra pero que apreciamos por la narrativa o el tipo de texto que nos es presentado—, bueno, es técnicamente posible hoy que los programas que ya conocemos de IA produzcan obras literarias. Se le puede pedir al ChatGPT, si tenemos una suscripción suficientemente holgadamente para que nos entregue un texto amplio, que nos escriba una nueva versión de La Ilíada, o de Otelo o de En búsqueda del tiempo perdido, en donde cambien situaciones según nuestros deseos. ¿Sería esto una nueva literatura? Yo creo que es una reelaboración de algo que ya existe y no necesariamente tendría mérito literario aunque lo reprodujera muy puntualmente al estilo de Homero o de Shakespeare o de Proust. Quienes hemos hecho ejercicio con ChatGPT pidiéndole algo, hemos visto con asombro cómo es capaz de replicar —porque se conocen tendencias y rasgos más generales de los estilos de Octavio Paz o de Carlos Fuentes o de cualquier autor contemporáneo, Cortázar o de la historia de la literatura. Esto no reemplazará a las mentes humanas, pero sí podrá hacer a algún escritor caer en la tentación de mostrarnos una nueva obra de Shakespeare o una nueva obra de Fuentes con su estilo. Claro, el gran problema es el derecho de autor y la gente se inconformará, pero para quienes quieran leer más de lo mismo, ésta podría ser una opción eficaz, aunque artísticamente discutible.
En el caso del periodismo, yo creo que la búsqueda de las noticias y el ejercicio del periodismo integral, que implica no sólo la presentación del acontecimiento, sino su colocación en contexto, no serán reemplazables por la IA, pero con una IA un buen periodista puede escarbar en un océano de información. Imagínese usted que usáramos IA para indagar en los documentos que mostró el grupo Guacamaya acerca del Ejército mexicano. En los últimos tiempos se ha confundido al periodismo con la maquila de información breve e instantánea para nutrir sitios webs, a cuyos administradores les interesa más los clicks que la calidad de la información, las notas breves que se visten con contenidos de otras notas que ya han sido conocidas o de información sintética, parca de resultados de un partido de futbol o del discurso de un personaje político, eso puede ser maquilado con IA y ya comienza a ocurrir en algunos sitios web de todo el mundo. ¿Es eso periodismo? pues es una forma elemental de periodismo y yo aspiro a que el periodismo sea mucho más que eso y ese mucho más, ese plus que lleva al periodismo de investigación y al de contexto, requiere del trabajo de personas que pueden apoyarse de la IA, pero que tendrán que decidir de qué manera presentan el resultado de sus investigaciones.
Son grandes las ventajas, pero también los riesgos, en México No se ve un impulso de foros o encuentros como en otros países, ¿dónde estamos parados y que falta? Para entender cómo estamos, utilizaría un símil un poco simplificador, yo creo que para sincronizarnos con la IA tendríamos que tener un avión jet que viajara a varios sitios a varios kilómetros. Lo que están haciendo algunos países, particularmente de la Unión Europea, EU y en América Latina un poco Brasil, es usar transportes que tengan una velocidad de 160 kilómetros por hora y van a 60 u 80 kilómetros por hora. En este rango, México va pedaleando en bicicleta, es decir, mientras unos van muy rápido, aunque con mucha lentitud en comparación con lo que requiere este desafío de la IA, México apenas está avanzando a gatas y con balbuceos. No tenemos políticas públicas para promover la IA como hay en otros sitios del mundo, porque —lo sabemos y es una desgracia— la investigación científica en México está muy descuidada. Mientras en el mundo las principales universidades están desplegando una gran cantidad de recursos para usar de manera creativa e inteligente lo digital y lo cibernético, aquí los recursos para ciencia siguen siendo regateados por el Gobierno. En el campo de la legislación, que es el ejemplo más claro, mientras hay convenciones, encuentros y elaboración de textos legales como el que acaba de aprobar la Unión Europea y que ahora está sujeta a la aprobación de los congresos, los parlamentos de cada país, en México los legisladores que se han preocupado por el asunto apenas están promoviendo iniciativas de ley muy parciales que apenas tocan algunos rasgos muy peculiares de los efectos de la IA, y muchos de ellos tienen miedo a legislar o a emprender una discusión que condujera a una legislación y están simplemente recomendando que haya códigos de ética para normar a empresas de IA. Con este temor no avanzamos no sólo para evitar riesgos, sino sobre todo para promover el desarrollo científico capaz de permitirnos aprovechar la IA.
La IA se nutre, se educa en enormes bases de datos de todo lo que hay en Internet… expresiones de ciencia, una gran cantidad de aritmética y matemáticas, de creación humanística, tratados de derecho, tratados de biología y química, pero también hay expresiones de odio, de racismo, de violencia, todas esas son creaciones humanas de donde se educa la Inteligencia Artificial
Algunos opinan que la IA no va a quitar empleos, sino que se quedarán sin UNO quienes no sepan usar la IA, ¿es cierto? Es un hecho que el uso de la IA que está ocurriendo en tareas de oficina, en los medios de comunicación, en enseñanza, va a implicar el desplazamiento de trabajadores, lo importante es que haya capacitación de aquellos que pueden ser desplazados y de quienes se van a quedar, que sepan utilizar los recursos y que en vez de más desempleo tengamos mayor apoyo en tareas laboriosas, pero sin duda afectan al empleo. Obligar a que la gente se entrene y sepa utilizar los recursos sólo puede ocurrir a partir de políticas de Estado que no tenemos en México. Sin lugar a dudas, y esto está medido por diferentes estimaciones internacionales, la IA creará desempleo, desplazará a decenas de millones de trabajadores.
En su libro retoma la idea de Yuval Noah Harari sobre que para 2028 las campañas políticas en EU estarán a cargo de una IA y en México, por ejemplo, en las precampañas ya hay quien anuncia el uso de “voceros de ia”, ¿cómo ve este escenario? En principio son usos simpáticos, útiles e imaginativos. La campaña de Xóchitl Gálvez desde hace unos meses, primero sus simpatizantes y creo que ahora su equipo detrás de campaña, ha utilizado recursos de IA generativa para crear avatar de ella, para mostrarla de manera creativa y sin engaño. El gran problema es —y a lo mejor esta previsión para 2028 se tiene que ajustar para el próximo año, eso piensa ya mucha gente en EU— el uso de IA para crear contenidos engañosos. Con programa de IA que no requiere de un conocimiento sofisticado, hoy se pueden fabricar audios o videos en donde se pueda aparentar que un personaje público o cualquier individuo aparece diciendo o haciendo cosas que no ha hecho. Si esto lo hacen con usted o conmigo nos inquietará personalmente, pero no tiene consecuencias políticas. Si hay videos o audios que repliquen perfiles, imágenes o voces de candidatos políticos para engañar, es decir, sin consentimiento de ellos se utilice su imagen o su voz para acusarlos en situaciones que los pongan en ridículo o que simulen que están en hechos de corrupción o situaciones intimas que nunca han existido, estaremos ante un recurso inusitadamente potente para engañar en las campañas electorales.
En el caso del periodismo, la búsqueda de las noticias y el ejercicio del periodismo integral que implica la presentación no sólo la presentación del acontecimiento sino su colocación en contexto no serán reemplazables por el uso de IA, pero por IA un buen periodista puede escarbar en un océano de documentos
Todas las campañas en la historia y particularmente en los últimas décadas con el uso de tecnologías digitales han estado cruzadas por engaños, las mentiras, las falsedades, las imputaciones, la simulación para aparentar que los rivales hacen cosas que nunca han hecho son recursos de la política sucia que siempre han existido, esos recursos tienen nueva posibilidad de crecer con el empleo de sistemas de IA y eso es inquietante. En EU hay una petición de organismos de la sociedad preocupados por este problema que le han solicitado a la Comisión Nacional de Elecciones que considere que la creación de imágenes e audios falsos, en donde aparecen candidatos o representantes de partidos en situaciones en las que nunca han estado, se considere un delito y sea sancionado como tal. En México, esto es un asunto que tampoco ha sido tomado con seriedad por nuestras autoridades electorales, ha faltado que las autoridades electorales, los partidos políticos y los interesados en la democracia se preocupen por la inminente posibilidad de que en las campañas políticas mexicanas sean empleados recursos de IA para engañar a ciudadanos, no por parte de los partidos, sino por parte de quienes quieran desacreditarlos.
Algunos hablan de que la IA tomará autoconciencia, ¿usted cree que es una utopía o sí puede ser? Es técnicamente posible, es quizá moralmente complejo y es culturalmente riesgoso, pero sí, en efecto. Es el desarrollo más anhelado y más temido. Anhelado porque para eso trabajan muchos científicos y técnicos desde hace décadas, y más temido por las implicaciones que puede tener y que han sido descritas en películas y novelas que todos conocemos, es la IA que sea capaz de orientarse a sí misma, por eso una de las discusiones técnicas y también legales que hay en el mundo es de qué manera poner candados, no para que no pueda crecer y expandirse por sí misma, sino para ir regulando cada nueva creación de IA y que las decisiones no sean tomadas solamente por empresas, que además buscan el rédito económico. Permitirnos que lo económico sea el único motor de IA, como ha venido sucediendo, puede llevar a decisiones poco responsables. Me parece muy significativo que en los últimos meses, sobre todo a partir de la presentación hace un año del ChatGPT, las voces que con más énfasis han alertado contra la posibilidad de una IA descontrolada y riesgosa no han sido de tremendistas conspiranoides, sino de grupos muy serios, de científicos que han trabajado o están trabajando en desarrollo de IA y que, incluso, si leyó mi libro, hace algunos meses pidieron a gobiernos del mundo y a las empresas una tregua de medio año para reflexionar sobre lo que viene. Esa tregua no la tomaron en serio los gobiernos, no la aceptaron algunas empresas como Microsfot, pero el llamado de alerta como éstos sí permiten confirmar que sea como sea, con los alcances o los plazos que pueda tener, sí estamos en la posibilidad técnica muy real de llegar a una IA que pudiera desatender las orientaciones de los seres humanos.
Inteligencia Artificial. Conversaciones con ChatGPT
- Autor: Raúl Trejo Delarbre
- Género: Ensayo de divulgación
- Editorial: Cal y Arena, 2023