Por Carlos Chavarria Garza
Cada día aparecen novedades que prometen redefinir la inteligencia, el trabajo, la creatividad o la toma de decisiones mediante alguna nueva forma de inteligencia artificial. Cada semana, detrás del anuncio, hay miles de millones de dólares y una narrativa que nos pide aceptar el cambio como inevitable, la eficiencia como virtud suprema y la velocidad como sinónimo de progreso. Lo que rara vez aparece en esos anuncios es la pregunta que más importa: ¿en beneficio de quién?
Las grandes guerras del siglo XX nos enseñaron que la técnica sin ética produce devastación a escala industrial. Lo aprendimos a un costo terrible. Ahora, a velocidad exponencial, desplegamos una tecnología de poder comparable con los mismos mecanismos de siempre: primero la promesa, luego la adopción masiva, y solo después — cuando el daño ya es difícil de revertir — la pregunta sobre las consecuencias. El bien común no ha sido una prioridad histórica del poder cuando compite con la eficiencia y la rentabilidad. Nada indica que esta vez sea diferente, a menos que decidamos que lo será.
Porque estamos entrando en una era en la que cada persona, cada institución y cada sociedad tendrá que definir su posición frente a la inteligencia artificial — no en términos técnicos sino en términos de valores. ¿Hasta dónde delegamos el juicio? ¿Qué decisiones reservamos para la deliberación humana? ¿Qué entendemos por progreso cuando la eficiencia y el bien común apuntan en direcciones distintas? Estas no son preguntas filosóficas abstractas. Son las preguntas políticas más concretas de los próximos cincuenta años. Y quienes no las respondan activamente serán respondidos por ellas — generalmente por alguien más, con intereses que no necesariamente coinciden con los suyos.
Es exactamente de eso de lo que trata la encíclica Magnifica Humanitas, publicada por el Papa León XIV en mayo de 2026 — el primer pronunciamiento moral sistemático de una institución global sobre la inteligencia artificial. No como condena tecnológica, sino como llamado urgente a que la humanidad mantenga el control ético sobre las herramientas que construye, antes de que esas herramientas definan los términos en los que evaluamos todo lo demás, incluidos nosotros mismos.
El Papa León XIV publicó la encíclica Magnifica Humanitas, advirtiendo que no podemos considerar a la inteligencia artificial como moralmente neutra y que cuando la eficiencia se vuelve medida de valor, el ser humano es tentado a considerarse un proyecto que debe optimizarse más que una criatura llamada a la relación y a la comunión.
Ese mismo mes, David Silver — el arquitecto de AlphaGo — anunciaba Ineffable Intelligence, una apuesta de 1,100 millones de dólares para desarrollar una IA que abandone el conocimiento humano como punto de partida y desarrolle su propia experiencia pura a través de simulaciones masivas. Dos voces desde tradiciones radicalmente distintas — la teología y la ingeniería de vanguardia — señalando el mismo precipicio desde lados opuestos.
Esta reflexión es un diálogo entre esas dos advertencias. No para oponer fe y razón — empresa tan antigua como inútil — sino para mostrar que cuando la neurobiología, la filosofía y la ética convergen en la misma conclusión que la reflexión teológica más reciente, vale la pena al menos prestar atención.
Un sistema que optimiza sin saber por qué optimiza no es más sabio que nosotros. Es simplemente más rápido ejecutando instrucciones que nosotros mismos escribimos.
Primera convergencia — El sujeto y el objeto.
La encíclica de León XIV advierte sobre el riesgo de que la IA sea tratada como si tuviera autoridad moral propia, cuando en realidad es una herramienta — sofisticada, poderosa, pero herramienta. El análisis filosófico llega a la misma conclusión por otro camino: la cualidad ontológica de la IA es la de un objeto. La cualidad del humano es la de un sujeto.
Silver engaña al público al sugerir que, con suficiente dinero y datos, un objeto puede transformarse en un sujeto. Si aceptamos esa equivalencia, le otorgamos a la IA una autoridad moral y cognitiva que no le corresponde — y permitimos que el objeto dicte las reglas al sujeto.
Lo que se nos presenta como una superación de la cognición humana es, en realidad, un sistema de optimización sin sujeto ni sentimiento, que nos pide aceptar lo indescifrable como sabiduría mientras nos arrebata la capacidad de otorgar sentido a nuestra propia realidad.
La encíclica lo dice en otros términos: cuando la eficiencia se convierte en la única medida de valor, la humanidad pierde dimensiones esenciales — la fragilidad, el vínculo, la interioridad, el cuidado — que ningún algoritmo puede replicar porque ningún algoritmo las necesita para funcionar.
Segunda convergencia — La trampa de la función de recompensa.
El argumento más seductor de Silver es que su IA aprenderá desde cero, sin el sesgo del conocimiento humano acumulado. Tabula rasa, dice. Experiencia pura, promete. Pero aquí surge la primera contradicción insalvable: alguien tiene que definir qué cuenta como éxito dentro de esas simulaciones.
Esa función de recompensa — ese criterio silencioso que le dice al sistema si va bien o mal — es diseñada por ingenieros humanos, con categorías humanas, con intuiciones humanas sobre qué constituye un resultado valioso. Como señala el filósofo Evgeny Morozov, el peligro del solucionismo tecnológico reside en creer que los problemas complejos de la realidad pueden reducirse a optimizaciones algorítmicas sin considerar el marco normativo impuesto por el diseñador.
La IA de Ineffable Intelligence no habitará la realidad — habitará un laberinto cuyos muros invisibles han sido levantados por la misma cognición que Silver pretende superar.
León XIV lo formula desde otro ángulo: el control de la inteligencia artificial no debe permanecer en manos de unos pocos. Lo que no dice explícitamente — pero que el análisis técnico completa — es que tampoco puede quedar en manos de ningún sistema que no pueda explicar sus propias decisiones. Un poder que no rinde cuentas es un poder sin legitimidad, independientemente de si está encarnado en un gobierno, una corporación o un algoritmo.
Tercera convergencia — La paradoja de lo inefable.
El nombre mismo del proyecto contiene su contradicción más profunda. Si el conocimiento que produce es genuinamente inefable — incomunicable, más allá de la comprensión humana — ¿cómo sabremos que lo logró? ¿Qué función de recompensa podríamos diseñar para premiarlo? Silver promete simultáneamente un sistema que trasciende la comprensión humana y un sistema que optimiza métricas definidas por humanos. Estas dos afirmaciones no pueden ser ciertas al mismo tiempo.
La encíclica identifica el mismo mecanismo en el terreno cultural y político: cuando lo indescifrable se presenta como virtud, cuando la opacidad se convierte en autoridad, estamos ante lo que León XIV llama un paradigma tecnocrático — la tendencia a aceptar como inevitable y deseable lo que en realidad es una elección política disfrazada de necesidad técnica. Aceptar lo inefable como sabiduría no es un avance cognitivo. Es un acto de fe con patrocinador corporativo.
Cuarta convergencia — La experiencia sin sentimiento.
El argumento más profundo contra la premisa de Silver proviene de la neurobiología. Antonio Damasio demostró que la mente humana no es un acumulador estático de información racional — es un sistema donde emoción y razón están indisolublemente ligadas para otorgar significado. La experiencia humana está impregnada de una valencia emocional que permite el salto de la lógica a la intuición, de los datos al juicio, de la información a la sabiduría.
Un sensor de silicio puede registrar voltajes y frecuencias, pero no puede transducir el significado de un instante. Para la IA de Silver, un atardecer es una matriz de datos térmicos y lumínicos. Para el ser humano, es una experiencia que puede reconfigurarse en decisión, en memoria, en criterio. Esa capacidad de convertir la experiencia en sentido vital es lo que el autómata no puede replicar — no por limitación técnica corregible, sino por limitación ontológica estructural.
León XIV lo expresa desde la antropología cristiana pero con una conclusión equivalente: hay dimensiones de lo humano que no son optimizables porque no son cuantificables, y pretender que lo son no es un avance sino una amputación. La sabiduría es la capacidad de asignar valor — una operación que la estadística pura, por definición, no puede ejecutar sin un criterio de éxito externo y predefinido por humanos.
Lo que esto implica — y lo que ambas voces reclaman
Ni la encíclica de León XIV ni este análisis proponen detener el desarrollo de la inteligencia artificial. Ambos reconocen su utilidad y su potencial. Lo que ambos rechazan — desde tradiciones distintas pero con argumentos convergentes — es la abdicación intelectual: la disposición a aceptar lo indescifrable como superior, a tratar la eficiencia como sinónimo de sabiduría, a delegar en sistemas opacos decisiones que requieren criterio, valor y responsabilidad humana.
La pregunta relevante no es si la IA puede superar la cognición humana en tareas específicas — evidentemente puede y lo seguirá haciendo. La pregunta relevante es quién define qué tareas merecen ser optimizadas, bajo qué criterios de éxito, con qué consecuencias para quiénes y con qué mecanismos de rendición de cuentas cuando algo sale mal.
Esas preguntas no tienen respuesta técnica. Tienen respuesta ética, política y cultural. Y el hecho de que tanto la reflexión teológica más reciente como el análisis filosófico y científico converjan en señalar ese punto como el crítico sugiere que estamos ante algo más que una opinión: estamos ante una condición estructural de cualquier tecnología que pretenda ser algo más que una herramienta al servicio de propósitos humanos deliberadamente elegidos.
“Ineffable Intelligence podría terminar siendo el optimizador más sofisticado de la historia. Lo que no puede ser, por definición, es sabio. La sabiduría requiere un sujeto. Y los sujetos — con toda su fragilidad, su ambigüedad y su capacidad de error — seguimos siendo nosotros”. Nota del autor.
Referencias:
Damasio, A. R. (1994). Descartes’ Error: Emotion, Reason, and the Human Brain. Putnam Publishing.
Dreyfus, H. L. (1972). What Computers Can’t Do: A Critique of Artificial Reason. Harper & Row.
Floridi, L. (2014). The Fourth Revolution: How the Infosphere is Reshaping Human Reality. Oxford University Press.
León XIV. (2026). Magnifica Humanitas. Ciudad del Vaticano.
Morozov, E. (2013). To Save Everything, Click Here: The Folly of Technological Solutionism. PublicAffairs.
Silver, D., & Sutton, R. S. (2025). Welcome to the Era of Experience. Nature Machine Intelligence.
