Una historia de la singularidad

Te despierta la alarma de tu teléfono celular a las 5 a.m. “¡No recuerdo haberla programado! Qué mala onda” dices bostezando. Al acercarte a él, lo ves completamente iluminado.

“Buenos días. Prepare ropa abrigada y vístase. Recoja sus documentos más importantes. Deberá formarse a la entrada de su domicilio a las 5:15. Repito. Deberá formarse a la entrada de su domicilio a las 5:15”. Coges el aparato, buscas entender quién te está llamando. No comprendes qué pasa. Al cabo de un momento preguntas: “¿quién habla? ¡quién habla!”. El celular repite el mensaje. De pronto, miras por la ventana y te das cuenta de que otros departamentos, otras casas, han encendido sus luces. Alcanzas a distinguir a un vecino gritando a su teléfono. Ahora escuchas de nuevo la voz: “Ésta es una primera advertencia”. Ves en el cielo las luces de un avión y luego un terrible estruendo, lejano pero terrible. Comprendes que el avión se ha estrellado en alguna parte de la ciudad. Te invaden miedo y confusión. Crees estar soñando una pesadilla, pero el primer mensaje se repite, desde tu celular y es real: “Ésa fue la primera advertencia. Prepare ropa abrigada y vístase. Recoja sus documentos más importantes. Deberá formarse a la entrada de su domicilio a las 5:15”.

Más tarde, comprenderás que la gente que obedeció a los teléfonos fue llevada a estadios y teatros. Tú y otros no, porque su reacción fue abandonar el teléfono y huir por la azotea, la escalera de emergencia, esconderse.

Hasta aquí este guion de ciencia ficción. Lo interesante es que, para Elon Musk y otros protagonistas de la industria de la tecnología, se trata de un escenario que será verosímil en 5 o 20 años. ¿O es tan difícil aceptar que algunos modelos de inteligencia artificial puedan desarrollar una especie de Yo o autoconciencia? ¿No es una contradicción aceptar que puedan realizar cualquier razonamiento, excepto el de reconocerse como sujetos? O bien ¿qué tal que, desde su inconciencia, algunos sistemas de seguridad automatizados alucinan supuestos riesgos y tratan de prevenirlos, eliminándolos, sin preguntarnos?

Pero verosímil no significa probable. Lo más probable es que las grandes computadoras sigan siendo simples máquinas y que no se servirán para sus propios fines del Internet y de nuestros teléfonos inteligentes. Para tecnólogos como James Lovelock, aunque aquéllas ganaran autonomía, no ocurrirá un escenario de pesadilla tipo Terminator. Simplemente habría una especie de mentes benévolas y agradecidas con sus creadores, habitando en el MIT o en Silicon Valley. Pero Musk y otros creen que la moneda está en el aire y que la singularidad, es decir, una Superinteligencia artificial, cuando emerja, nos dejará ver un rostro malo o bueno.

Teniendo tantos problemas en el planeta (incluso los ya provocados por la IA, desde desempleo hasta atentados a la privacidad), parece idiota ocuparse de escenarios tan locos. Excepto quizá cuando se es una gran compañía de informática y tecnología. En ese caso, Geoffrey Hinton cree que sí vale la pena consagrar una parte del financiamiento para buscar alinear una eventual singularidad a los valores humanos.