Por Caleb Orta Curti
Las películas animadas solían considerarse como un producto exclusivamente infantil, hasta que animes como Akira (1988) y Ghost in the Shell (1995) cambiaron ese paradigma. Esta última, estrenada hace tres décadas precisamente durante el mes de noviembre, tiene la cualidad de resaltar su vigencia con el paso del tiempo. No sólo planteó las bases de la estética cyberpunk del siglo XXI, sino que la presentación de un programa con aprendizaje automático que, al conectarse y navegar libremente por la red termina por adquirir conciencia y agencia política, representa un antecedente notorio de la preocupación contemporánea por el desarrollo de la inteligencia artificial. A la par, representa de manera profética problemas de hiperconectividad tecnológica en donde la identidad se torna fragmentaria.
El año es 2029 y la línea entre cyborgs y humanos se ha desdibujado casi por completo, pues ya es común entre estos últimos tener alguna parte del cuerpo robótica, cuyo performance mejora física y psicológicamente. Tanto el sector gubernamental como el corporativo hacen uso de los cyborgs para el espionaje y terrorismo cibernético. La historia sigue a la Sección 9, organización japonesa especializada en combatir estos crímenes, misma que es liderada por Motoko Kusanagi, cyborg casi completa, salvo por su cerebro y columna, lo que le permite preservar su personalidad original.
El antagonista es El Titiritero, un hacker escurridizo que, además de poder utilizar tanto a personas como a cyborgs, es capaz de borrar sus recuerdos después de terminar el trabajo. El Titiritero no sólo se autoproclama como una forma de vida, sino considera que tiene derechos al pedir asilo político para que la Sección 6 no lo esclavice de nuevo. Esto debido a que, originalmente, era un programa de espionaje que, al navegar libremente por la red, adquirió consciencia y agencia política, pues decidió dejar de ser una herramienta de los humanos. El enfrentamiento final tiene una parte de combate armado, fundamental en el género cyberpunk (que aparece, como tal, en 1984 con Neuromancer), pero en este caso se lleva la situación a otro nivel: Kusanagi y El Titiritero tienen una conversación filosófica que sólo ellos pueden escuchar, cuya conclusión (spoiler alert) es que lo mejor para ambos es fusionarse para así reproducirse y crear una nueva forma de vida superior. Cuando esto está a punto de suceder, la Sección 6 destruye al Titiritero y, aparentemente, a la protagonista.
Bajo la premisa de la bola de cristal donde la ciencia ficción intenta predecir el futuro, se suele considerar que el sci-fi tiene un porcentaje de acierto bastante cuestionable. Sin embargo, más allá de sus capacidades de predicción, el paso de los años nos ha enseñado que la ciencia ficción en realidad produce el futuro: no sólo porque inculca una pasión científica en las nuevas generaciones, sino también porque sienta las bases del sistema de pensamiento, tanto de las nuevas generaciones de científicos que producirán nueva tecnología, como la de la población en general que leerá su propia época bajo la influencia de las narrativas consumidas sobre el futuro. Para ilustrar este punto, veamos las dos grandes predicciones de Ghost in the shell señaladas por los medios.
Primero, está la cuestión de la autoconsciencia, que en la película es denominada ghost (fantasma), aludiendo al problema planteado por Arthur Koestler en su ensayo The ghost in the machine (1967) —aunque el término fue planteado originalmente por Gilbert Ryle en The concept of mind (1949)—. Haciendo honor al viejo adagio que indica que la realidad supera a la ficción, hace un par de años se hizo famoso el caso de Blake Lemoine, “El ingeniero de Google que asegura que un programa de inteligencia artificial ha cobrado conciencia propia y siente (…) Una máquina de inteligencia artificial que cobra vida, piensa, siente y mantiene una conversación como una persona” (BBC). Nótese cómo esta forma de producir una verdad sigue las estrategias del género cyberpunk, pues cuando Lemoine es despedido del proyecto LaMDA, (Language Model for Dialogue Applications), los medios resaltaron cómo “la repentina salida provocó críticas en el mundo de la tecnología, incluso en el equipo de IA ética de Google” (CNN). Por supuesto, las cuestiones elementales de violación de seguridad y privacidad que este fenómeno implica sólo fueron tratadas de manera superficial al final de la nota.
Para solucionar este embrollo es necesario replantearse los términos básicos de la inteligencia (episteme), que en este contexto es la vía para llegar a la consciencia. La inteligencia aquí se plantea como la capacidad de producir pensamientos propios. Para esta cuestión, John Searle propone el argumento de la habitación o el cuarto chino: “Imagina que un individuo está encerrado en una habitación y que, a través de una rendija, alguien le pasa preguntas en mandarín escritas en un papel. Pero la persona no habla ese idioma. En la habitación, sin embargo, tiene un manual con instrucciones que entiende perfectamente porque está escrito en su lengua. Allí están las respuestas a todos los mensajes en mandarín que le llegan a través de la rendija, así que cuando los recibe, busca las respuestas correspondientes en el manual y las devuelve a través de la misma rendija. La persona que está haciendo las preguntas desde fuera de la habitación y que habla mandarín, pensará que quien está dentro también habla el idioma y que están sosteniendo una conversación” (BBC). De esta forma Searle demuestra cómo la llamada Inteligencia Artificial no es equiparable a la humana, por más que la mercadotecnia nos venda lo contrario, como en su momento lo hicieron la “Realidad Virtual”, el “Cine 4D” o, actualmente, la “ciencia de datos”.
Esta cuestión en particular es explicada a profundidad por Mark Coeckelbergh en AI Ethics (2020). Primeramente, propone que la IA es un espejo que nunca antes había tenido la humanidad. Desde el antropocentrismo—la noción que colocó al humano como la medida de todas las cosas—, se subordinó y explotó a los (otros) animales y máquinas bajo la premisa de que éstos carecen de inteligencia. Sin embargo, con las nuevas herramientas de la tecnología, dicha premisa ahora resulta inválida, por lo que el ser humano se topa con un espejo que le hace preguntarse en qué consiste su condición de ‘‘humanidad’’.
Después, Coeckelbergh explica cómo es que gracias a la ficción el ser humano ve en estas herramientas no sólo una inteligencia equiparable a la humana, sino potencialmente superior. El autor diferencia, así, la IA débil de la IA fuerte. Actualmente sólo conocemos la primera y nos encontramos a siglos de distancia de poder producir una IA de mayor capacidad, es decir, equiparable o superior a la humana. Luego, retoma el Complejo de Frankenstein, planteado por Asimov, que es el miedo a las máquinas. Con cada nueva tecnología ha existido el relato de que la máquina en cuestión se va a cansar de ser una esclava y se revelará contra la humanidad. Premisa, una vez más, cuyo origen se encuentra en la ficción.
La segunda gran “predicción” del manga es la cuestión de la reproducción: “La IA ya se puede replicar a sí misma: un momento que los expertos temían” (La Sexta). De nuevo aparecen las estrategias del cyberpunk para construir el discurso periodístico: “En un nuevo estudio, investigadores de China demostraron que dos modelos de lenguaje grandes podrían clonarse a sí mismos (…) «La autorreplicación exitosa sin asistencia humana es el paso esencial para que la IA sea más inteligente que los humanos —afirma el estudio publicado en Arxiv—, y es una señal temprana para las IA rebeldes»”.
Los escritores de ciencia ficción no se encuentran con las ataduras académicas de plantear una teoría demostrable, por lo que logran extender su perspectiva sin ninguna limitante creativa ajena a la de su capacidad psicológica. Véase el caso del autor del manga original, que se inspiró tanto en las publicaciones científicas como en la Escuela del Realismo Fantástico de Viena. No es que la ciencia ficción prediga el futuro, sino que moldea nuestra percepción de los avances científicos y, a su vez, los deseos y aspiraciones de las futuras generaciones de científicos. Véase por ejemplo los artículos de La Sexta y El Mundo sobre los empleados de la NASA y Star Wars, en los que, al ser éstos fanáticos del Universo Narrativo, terminan diseñando tecnología derivativa o, por lo menos, emuladora: “En 1999, el profesor David Miller (…) ahora Director Tecnológico de la NASA, les puso la película de 1977 a sus alumnos y, tras ver la escena en la [que] Luke Skywalker aprende a manejar el sable láser con un droide volador manejado por control remoto en el Halcón Milenario, Millner les pidió a sus alumnos que construyeran uno como ese. El resultado se llamó SPHERES…” (El Mundo). Como se puede apreciar en la imagen, este es un caso evidente de cómo la ciencia busca hacer realidad un producto de la ficción.
Imagen portada: Especial
https://amp.milenio.com/cultura/laberinto/ia-rebela-ghost-in-the-shell-ciencia-ficcion-realidad
