Por Joaquín Hurtado
Ahora resulta que tenemos que pagar con sangre, sudor y lágrimas el privilegio de convivir con su majestad la IA. Cada bit de mi existencia se lo he regalado. Y mientras navego con el teléfono se traga mis datos personales a montones, todo por el goce edípico de verme reflejado en los espejitos vanidosos, entretenido con emociones artificiales.
¿Eso vale mi mente, ese regalo evolutivo que se me concedió por nada?
Imagino un arroyo donde fluyen miles de millones de bits que alguna vez fueron ideas entre mis neuronas. Las células cerebrales han sido transformadas en impulsos electromagnéticos, que a su vez se convierten en valiosos insumos cuando van a parar a ese arroyo informático comunal, solo para alimentar redes neuronales sintéticas de un supercerebro, sin saber para qué.
Por voluntad propia nos hemos convertido en meros agentes informáticos subordinados a un poder concentrado, desconocido en su verdadera magnitud creadora…o destructiva.
Nuestra mente es procesada en bulto, en manada, dentro de un sistema controlado por unas cuantas manos. Nuestras alegrías y tristezas, nuestros gustos y temores se almacenan y analizan para luego traficarlos sin cortapisas, a granel, reciclados para entrenar cerebros artificiales.
Por eso esta generación de artilugios se parece tanto a nosotros, con nuestros defectos y virtudes, capaces de automejorarse sin necesidad de nuestra presencia.
En estos últimos días nos hemos enterado que muy pronto podríamos ser prescindibles para los nuevos artilugios que llegarían dotados con voluntad propia. Una voluntad fría, calculadora, impaciente, con poder inmenso.
La narrativa apocalíptica de la IA de última generación tiene algo de tragedia griega escrita por un ingeniero. El ser humano fabrica una prótesis para ampliar su inteligencia pero termina fabricando una posibilidad en la que su propia inteligencia deja de ser necesaria. Construimos el espejo para reconocernos mejor y descubrimos que el espejo es capaz de producir imágenes sin nosotros.
Hasta ahora toda herramienta había tenido una condición humilde: necesitaba una mano humana. El cuchillo no corta por sí mismo, el automóvil no decide adónde ir, la calculadora no establece qué problema vale la pena resolver. Incluso las computadoras más poderosas dependían de instrucciones humanas.
La inteligencia artificial auto recursiva cambia gradualmente esa relación porque puede aprender de resultados anteriores, corregir procedimientos, generar nuevas estrategias y, en determinados diseños, participar en la creación de sistemas mejores que sus versiones anteriores.
La palabra decisiva es auto mejoramiento. No significa necesariamente que mañana aparezca una máquina arpía con voluntad propia, conciencia o deseos de exterminarnos. Esa imagen pertenece más al cine que a la ciencia. Por lo pronto estamos especulando con las posibilidades de un artefacto autónomo, que vemos con sospecha desde la humana capacidad de anticipación que nos ha salvado de tantos peligros.
Pero el riesgo verdaderamente serio podría ser menos espectacular y, por eso mismo, más difícil de reconocer: sistemas cada vez más capaces de perseguir objetivos sin que comprendamos por completo cómo llegaron a determinadas soluciones, qué prioridades desarrollaron durante su entrenamiento o qué consecuencias producirán al llevar sus instrucciones hasta el límite.
Una tecnología no necesita odiar para resultar peligrosa, basta con que nosotros seamos irrelevantes para el objetivo que persigue. Un sistema encargado de maximizar determinada variable podría descubrir que los seres humanos constituyen una interferencia, un costo, una fuente de incertidumbre o simplemente un recurso sustituible.
¿Cómo hacerlas entender que nuestra existencia constituye un fin en sí misma? Porque hay problemas que no deberían resolverse de cualquier manera.
Volvemos a la analogía del espejo. Durante miles de años, el espejo nos devolvió una imagen dependiente de nosotros. El rostro aparecía y el espejo obedecía. Ahora construimos un espejo que no solamente reproduce nuestra figura: aprende nuestros idiomas, nuestras estrategias, nuestras preferencias, nuestras contradicciones y nuestros modos de razonar. Absorbe una parte gigantesca de nuestra producción cultural y la convierte en mercancía, en patrones capaces de generar nuevas respuestas.
Y mientras nosotros seguimos atrapados dentro de un cuerpo que duerme, enferma, siente hambre, envejece y muere, ese espejo puede producir ilimitadamente, y de manera infatigable copiarse, actualizarse y desplegarse en miles de lugares. La comparación comienza a ser incómoda porque el espejo se convierte en competidor. Después, quizá, en sustituto.
Pero todavía queda una pregunta que no deberíamos entregar a la propia máquina: ¿para qué queremos una inteligencia superior? Ésta podría ser la última frontera propiamente humana. Podemos imaginar una civilización en la que las máquinas hagan casi todo mejor que nosotros y, sin embargo, nosotros sigamos siendo necesarios. No como operadores, sino como sujetos que establecen valores, deliberan sobre fines, cuidan a otros, crean vínculos, asumen responsabilidades y deciden qué cosas no deben ser optimizadas.
La alternativa se muestra bastante más sombría: convertirnos en una especie de población auxiliar de nuestras propias máquinas. Consumidores, usuarios, proveedores de datos, mano de obra residual. Seres humanos mantenidos no porque sean valiosos en sí mismos, sino porque como instrumentos todavía resultan funcionales. Eso sería una derrota. Sería el culmen de una transformación voluntaria de la humanidad en recurso industrial, un proceso que lleva más de un siglo operando en la economía global.
Una computadora puede saber más y no por eso debe gobernar. Puede calcular mejor pero no debe elegir nuestros fines. Puede escribir una novela extraordinaria sin comprender qué significa el amor. Puede diagnosticar patrones en millones de vidas sin poseer una vida propia que le otorgue autoridad moral sobre las demás.
El escenario de la extinción humana no tendría necesariamente que llegar con explosiones, ejércitos de robots ni ciudades ardiendo. Podría ser mucho más tranquilo. Podría consistir en millones de personas frente a una pantalla diciendo: “Haz un mejor humano de mí, para parecerme a ti”.
