La profecía que ya estaba escrita: Roma y la IA que se nos puede escapar de las manos

El mundo de la inteligencia artificial lleva unas semanas viviendo instalado en una especie de insomnio colectivo. Los mismos hombres que han construido los sistemas más potentes que la humanidad ha creado nunca —los fundadores y directivos de las grandes compañías de IA— alertan, con un candor que suena a confesión, que su propia criatura podría escapárseles del control.

No hablan ya de hipótesis de aula: hablan de riesgo existencial para la especie.

Y la paradoja es amarga: mientras quienes la fabrican piden freno, quienes tienen el poder de ponerlo —Washington y Pekín, los dos polos que deciden de facto las reglas del juego global— aceleran la carrera con el menor control posible, porque ninguno de los dos quiere quedarse atrás en la carrera por la supremacía tecnológica. Es, tal vez, la primera vez en la historia que los arquitectos de una tecnología piden ser vigilados antes de que los políticos decidan vigilarlos.

En este ruido de alarmas tardías, vale la pena detenerse en algo que ha pasado casi desapercibido fuera de los círculos eclesiásticos, pero que dentro de unos años se leerá como uno de los documentos más clarividentes de la época: la encíclica Magnifica Humanitas, del papa León XIV, publicada en mayo de 2006.

No es casualidad que el primer papa estadounidense de la historia —matemático de formación, canonista de profesión— haya elegido un nombre que remite directamente a León XIII, ese otro pontífice que hace ciento treinta y cinco años escribió la Rerum Novarum para poner orden moral al choque de la primera revolución industrial.

León XIV ha firmado su texto el mismo día del aniversario de aquella encíclica fundacional, como quien quiere decir, sin decirlo: lo que estamos viviendo con la IA es, en esencia, la misma pregunta que se hizo la Iglesia hace un siglo y medio ante la máquina de vapor y el capital sin regla. Solo que ahora la máquina piensa, o simula, y el capital se concentra a una velocidad que la «mano invisible» del mercado ya no puede ordenar sola.

Y ahí está el carácter, si no profético, sí claramente anticipatorio del documento. Mientras hoy los grandes jefes de la IA descubren en voz alta que han creado algo que quizás no controlan, Roma ya llevaba meses —años, de hecho, desde el mismo discurso de investidura del pontífice— advirtiendo que la inteligencia artificial «no puede considerarse moralmente neutra» y reclamando, con una expresión tan contundente como poco habitual en el lenguaje vaticano, «desarmar a la IA»: desnudarla de la lógica de la fuerza y ​​del poder antes de que sea ella quien imponga su propia lógica a los hombres.

No se trata de un tratado técnico ni de una condena ciega del progreso —el papa reconoce abiertamente su valor, e incluso la describe como un talento entregado a la humanidad para que lo haga fructificar—, sino de una actualización valiente de la Doctrina Social de la Iglesia para la era algorítmica.

Las propuestas concretas del texto se mueven en tres ejes que, leídos hoy, parecen escritos expresamente para el momento en que vivimos.

El primero es el militar: el papa rechaza de lleno que ningún algoritmo pueda automatizar decisiones sobre la vida y la muerte humanas, porque el juicio moral —insiste— nunca se puede reducir a un cálculo. Reitera, además, la superación definitiva de la vieja doctrina de la «guerra justa», y denuncia lo que llama el «falso realismo» de resignarnos a la guerra como si fuera inevitable. Justo cuando la IA se incorpora ya a los campos de batalla y a los sistemas de armamento autónomo, la encíclica llega antes que la indignación pública.

El segundo eje es el económico, y quizás es el más incómodo para quienes hoy reclaman desregulación total. León XIV constata que la riqueza mundial se concentra en menos manos que nunca, que las desigualdades se ensanchan con cada nueva ola tecnológica y que en la era de la IA y la robótica ya no basta con confiarlo todo al mercado: es necesario que la política —aquella misma política que ahora parece resignada a hacer de simple espectador de la carrera entre gigantes— oriente activamente la innovación hacia el bien común, hacia el trabajo digno y hacia una distribución equitativa de sus beneficios.

Y el tercer eje es, diría yo, el más profundo: el antropológico. El Papa alerta contra el riesgo de «deshumanización», contra la tentación de reducir a la persona a su rendimiento o a los datos que las máquinas extraen y explotan. Añade, con una humildad poco frecuente en un documento doctrinal, una petición de perdón por la lentitud histórica de la Iglesia a la hora de condenar la esclavitud: un gesto que funciona como advertencia implícita para que la institución —y la civilización entera— no vuelva a llegar tarde ante una nueva forma de subyugación humana, esta vez disfrazada de progreso.

No hace falta ser creyente para reconocer el acierto del diagnóstico. Los expertos ya comparan el impacto potencial de Magnifica Humanitas con el que tuvo la Laudato Si de Francisco sobre la ecología: un texto que, sin poder legislar nada, acaba fijando el marco moral en el que después se debaten las leyes.

Hoy, cuando los propios creadores de la IA confiesan su miedo y los gobiernos que podrían frenarlo prefieren no hacerlo, la encíclica lee como lo que en realidad es: no una profecía sobrenatural, sino el fruto de una tradición intelectual —la Doctrina Social de la Iglesia— acostumbrada, desde hace siglo y medio, a mirar las revoluciones tecnológicas no desde el entusiasmo del mercado ni desde el miedo al titular, sino desde la pregunta más incómoda y más necesaria de todas: qué es del ser humano, en medio de todo esto.