1
Las cinco claves de la encíclica del papa León XIV sobre la inteligencia artificial
El documento revela la preocupación del Papa sobre la IA, la dignidad humana, la necesidad de transparencia y la importancia de entender quiénes están detrás de ellas
13 minutos de lectura'
Este lunes 25 de mayo, la primera encíclica del papa León XIV vio la luz. Con el nombre de "Magnifica Humanitas, sobre la custodia de la persona humana en el tiempo de la inteligencia artificial", el sumo Pontífice aborda los desafíos que presenta la IA, una herramienta que “no es neutral” y que precisa de regulación: “Cada generación recibe como herencia la tarea de dar forma a su propio tiempo: hacer madurar la historia como un lugar donde se proteja la dignidad de cada persona, se promueva la justicia y se haga posible la fraternidad. Pero en cada época se cierne el riesgo de construir un mundo inhumano y más injusto”.
En la encíclica, León XIV recuerda que, en 1891, León XIII publicó Rerum novarum, un documento en el que impulsaba “aquella reflexión sobre la sociedad, la economía y la política que hoy llamamos «Doctrina social de la Iglesia»“. Al recordar a su predecesor, explica que, tal como en su momento, identificaron los ”asuntos nuevos", hoy la Iglesia busca “pedirle a Dios la sabiduría para interpretar las grandes tendencias de nuestro tiempo, en particular los avances de la técnica”.
“En los últimos años se ha hecho cada vez más evidente cuán rápida y profundamente la digitalización, la inteligencia artificial (IA) y la robótica están transformando nuestro mundo”, explica Su Santidad. Señala que la técnica no debe considerarse en sí misma como algo antagónico a la persona, ya que está vinculado a la autonomía y a la libertad del hombre; el desarrollo tecnológico ha contribuido a una mejora de las condiciones de vida de la humanidad, aunque, “cada etapa del progreso también ha puesto de manifiesto el lado ambiguo de instrumentos capaces de causar daño cuando no se orientan hacia el bien”.
La gran novedad que trae la actualidad es que la tecnología está en todos los ámbitos de nuestra vida: “Hoy, sin embargo, nos encontramos ante una situación nueva, en la que el poder y la omnipresencia de las tecnologías emergentes se entrelazan con el tejido de la vida cotidiana, moldean los procesos de toma de decisiones e inciden profundamente en el imaginario colectivo: «Nunca la humanidad tuvo tanto poder sobre sí misma»“. En ese sentido, explica que las nuevas tecnologías pueden tener un impacto y efectos a largo plazo sobre la dignidad de las personas y el bien común difíciles de medir.
¿Cómo solucionarlo? El Papa explica que para asumir los nuevos desafíos es necesario adoptar “instrumentos normativos adecuados, capaces de salvaguardar la justicia y de contener los efectos distorsionadores del poder tecnológico”. Aunque advierte que la solución no se limita a la regulación, sino que es necesario preguntarnos con realismo quién detenta hoy ese poder y hacia qué fines lo orienta.
“No es neutral”
El Papa destaca el potencial que tiene la tecnología, señala que no es un mal en sí, a la vez que resalta que su uso dependerá de el fin para el que se la use: “No es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza” (...) “Los descubrimientos científicos son un talento entregado a la humanidad para que lo haga fructificar (cf.Mt25,14-30). La tecnología puede curar, conectar, educar, cuidar la Casa común; pero también puede dividir, descartar, generar nuevas injusticias“.
Anima a evitar el “síndrome de Babel”, aludiendo a la escena bíblica, en la que el pueblo busca construir una torre que llegue al cielo, en la que “quieren así asegurarse estabilidad y poder, y sobre todo “perpetuarse un nombre”, temiendo ser dispersados por la tierra". En ese contexto, el papa anima a evitar “la idolatría del lucro que sacrifica a los débiles, la uniformidad que aplana las diferencias, la pretensión de un lenguaje único —incluso digital— capaz de traducirlo todo”.
En su primer capítulo, León hace un extenso recorrido por el aporte de cada uno de los papas del siglo XIX y XX a la Doctrina Social de La Iglesia. Explica que esta “no es fruto de un proyecto elaborado en un escritorio, sino el resultado de un proceso paciente, en el que cada Pontífice —junto con el Concilio Vaticano II— ha aportado una contribución original a la luz de los “nuevos asuntos” de su tiempo. En el segundo capítulo, el Papa se detiene en algunos fundamentos y principios de la Doctrina social que ayudan a leer los “nuevos asuntos” de nuestro tiempo a la luz de la dignidad fundamental de la persona humana —dignidad, bien común, destino universal de los bienes, subsidiariedad, solidaridad y justicia social— y los aplica al momento actual.
El Papa explica la igual dignidad de los seres humanos, señala los derechos humanos que responde a esa dignidad y explica que “al observar nuestro tiempo, no podemos ignorar que la tutela de los derechos humanos hoy está expuesta a dos riesgos particularmente graves”. El primero es el de una declaración puramente formal, mientras que, junto con el progreso tecnológico, avanzan de manera disimulada o evidente violaciones de la dignidad humana. El segundo, que en realidad está en la base del primero, es el de no poder reconocer el fundamento de su universalidad, porque se ha renunciado a la «búsqueda de los fundamentos más sólidos que están detrás de nuestras opciones y también de nuestras leyes».
El papa invita a todos a pensar en formas de cooperación y de instituciones internacionales más eficaces, capaces de cuidar el bien común global sin anular la legítima pluralidad de los pueblos y de los estados. “En efecto, la promoción del bien común nunca puede separarse del respeto al derecho de los pueblos a existir, a custodiar su propia identidad y a contribuir con su propia originalidad a la familia de las naciones”.
“Transparencia, responsabilidad y formas reales de participación”
El Papa se refirió al principio de subsidariedad y señaló que, en el ámbito de la IA y de la revolución digital, este principio “vale de manera particular”. Explica que en este contexto el nivel superior no es el Estado, sino todo gran actor económico y tecnológico que ejerce un poder fáctico sobre las condiciones de la vida común: “El nivel que absorbe competencias, datos y capacidad decisional está constituido por empresas y plataformas, que definen condiciones de acceso, reglas de visibilidad, formas de relación e incluso oportunidades económicas”.
En ese contexto, el Sumo Pontífice anima a adoptar ciertas virtudes: “La subsidiariedad requiere que dichos procesos no se impongan desde lo alto de modo opaco y unilateral, sino que estén orientados al bien común mediante la transparencia, la responsabilidad y formas reales de participación (auditorías independientes, transparencia en los algoritmos, acceso equitativo a los datos, herramientas de apelación)”.
Además, agregó: “En las decisiones que se refieren a los flujos económicos, las plataformas digitales, la gestión de los datos y los algoritmos, no se puede dejar que pocos actores por sí solos orienten los procesos, sino que es necesario construir formas de cooperación que respeten los diversos niveles de la comunidad mundial y los hagan corresponsables del bien común”.
El Papa también se refirió a la solidaridad y a que, en un mundo marcado por relaciones cada vez más estrechas entre personas, comunidades y naciones, la solidaridad asume también una dimensión global: “Hoy esta responsabilidad se extiende también a las infraestructuras digitales e informativas; como el ambiente natural, también el «ecosistema digital» puede ser cuidado o explotado, compartido o monopolizado. La solidaridad requiere que las decisiones en materia de datos, algoritmos, plataformas e IA tengan en cuenta no sólo el beneficio inmediato de algunos, sino el impacto en todos los pueblos y en las generaciones futuras“.
Alude al concepto de la justicia social en el momento actual, un término que también deben confrontar las nuevas tecnologías. “La difusión de redes globales, plataformas y sistemas de IA cambia el modo de informarse, de comunicar y de acceder a los servicios. La justicia exige que se impida el surgimiento de nuevas formas de exclusión y privación de la libertad: personas y pueblos a los que se les niega o dificulta el acceso a las tecnologías básicas, comunidades expuestas a vigilancia invasiva y grupos sociales perjudicados por algoritmos opacos que reproducen prejuicios y discriminaciones. Un orden social justo en la era digital es aquel que garantiza a todos un acceso igualitario a las oportunidades, protege a los más pequeños y a los más frágiles, se opone al odio y a la desinformación, y somete a control público el uso de los datos y de las tecnologías, de modo que el criterio no sea sólo el beneficio sino la dignidad de cada persona y el bien de los pueblos”.
“La Doctrina social no es sólo una palabra dirigida a la sociedad; es también un examen de conciencia para la Iglesia, casa y escuela de comunión, siempre llamada a verificar que los principios expuestos en este capítulo se vivan sobre todo en su interior”, concluye el papa.
“Desarmar la IA”
Este capítulo analiza el «paradigma tecnocrático», un concepto que ya utilizaba el papa francisco y que León XIV define como la tendencia a dejar que la lógica de la eficiencia, del control y del lucro gobierne por sí sola las decisiones personales, sociales y económicas. Explica que este paradigma se ha extendido rápidamente en los últimos años, “también como efecto de la difusión de la IA, las ciencias cognitivas, la nanotecnología, la robótica y la biotecnología” y, por ello, “necesitan un nuevo marco espiritual, ético y político”.
En ese contexto, explica que el progreso técnico, valioso en sí mismo, requiere un discernimiento sobre la visión antropológica que lo guía y los fines que persigue: “Si el desarrollo tecnológico avanza sin una adecuada maduración ética y social, puede suceder que aumenten los medios sin que crezca en la misma medida la humanidad: se «tiene más», pero no se «es más», y la persona corre el riesgo de ser valorada principalmente en base al rendimiento que ofrece".
Un punto central es la distinción ontológica entre la IA y el ser humano. El texto aclara que, aunque estos sistemas imiten funciones de la inteligencia humana, «las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad».
En el uso personal, señala que especialmente tres aspectos deben ser tenidos en cuenta: la facilidad para lograr el resultado, la impresión de objetividad y la simulación de la comunicación humana. Señala que la velocidad y la sencillez pueden simplificar nuestras vidas, pero también “pueden acostumbrarnos a delegar demasiado y a buscar respuestas rápidas, debilitando el juicio personal y la creatividad”. Por otro lado, brindan una impresión de objetividad en sus respuestas, pero corremos el riesgo de “olvidar que estas reflejan los parámetros culturales de quienes las han proyectado y adiestrado, con todas sus virtudes y defectos”. También alude a los peligros que pueden generar las aparentes relaciones que se generan a través de ellas. El impacto en el medio ambiente tampoco queda afuera de la encíclica, ya que el papa señala que “los actuales sistemas de IA requieren grandes cantidades de energía y agua, inciden de manera significativa en las emisiones de anhídrido carbónico y consumen recursos de manera intensiva”
Finalmente, el tercer capítulo hace un llamado a "desarmar la IA", lo que implica "sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar, sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás". También critica el transhumanismo y posthumanismo, que buscan superar el límite humano y anima a pensar si la IA, hace la vida del hombre sobre la tierra, en todos sus aspectos, más humana, más “digna del hombre. ”Si la respuesta es «sí», entonces podemos reconocer en ella una posibilidad buena para usar con responsabilidad", explica, aunque advierte que, si la respuesta es otra, “si, en cambio, el poder crece mientras el corazón se marchita y los vínculos se rompen, entonces estamos frente a una nueva versión de Babel: una construcción grandiosa, pero inhumana”.
“Nuevas esclavitudes”
En el cuarto capítulo, la encíclica aborda la aplicación de la Doctrina social en áreas críticas de la sociedad digital. Por un lado, advierte sobre el uso de la IA para construir narrativas sesgadas. El papa denuncia que esto es «puro poder carente de verdad, que impone sutil o abiertamente lo que quiere que los demás consideren como verdadero», lo cual debilita la base de la convivencia democrática.
También propone una colaboración entre familia, escuela y estado para combatir la cultura de la inmediatez. Sostiene que «educar en el uso de la IA implica, por tanto, educar para decidir cuándo y para qué no utilizarla», protegiendo el tiempo necesario para la reflexión y el pensamiento crítico.
El sumo pontífice alude a la dignidad del Trabajo, reafirmando la tradición eclesial y señala que "el Magisterio ha reconocido en el trabajo “la clave esencialˮ para comprender la cuestión social en su totalidad”. En ese sentido, advierte que la automatización no debe desespecializar al trabajador ni someterlo a una vigilancia que erosione su sentido de libertad.
Por último, el texto saca a la luz el "trabajo silencioso de millones de seres humanos" dedicados al etiquetado de datos en condiciones precarias, así como la explotación infantil en la extracción de minerales para tecnología, lo que nombra como “nuevas esclavitudes”. La encíclica afirma que "si una tecnología promete emancipación, pero produce nuevas formas de subordinación global, contradice el principio fundamental de la dignidad de la persona".
La IA en el ámbito bélico
El capítulo final de análisis social contrasta la expansión de una "cultura del poder" —basada en la polarización, el rearme y el falso realismo político— con la propuesta de la "civilización del amor". El papa denuncia con dolor la normalización de la guerra, señalando que en el discurso actual "la paz ya no se presenta como una tarea por asumir, sino como un intervalo precario entre conflictos".
Es especialmente contundente respecto al uso de la IA en el ámbito bélico, afirmando taxativamente que “no es lícito confiar a sistemas artificiales decisiones letales o, en cualquier caso, irreversibles”. El juicio moral, explica el Papa, no puede reducirse a un cálculo algorítmico porque requiere conciencia y responsabilidad personal.
Para revertir esta tendencia, propone cinco vías de acción:
- Desarmar las palabras: “Desarmemos las palabras y contribuiremos a desarmar la tierraˮ, explica, rechazando el lenguaje de odio y descalificación.
- Paz en la justicia: practicar una justicia que no solo sea ausencia de conflicto, sino respeto real a los derechos del otro.
- Mirada de las víctimas: abandonar la neutralidad para "tocar la carne de quienes sufren" y reconocer sus heridas.
- Sano realismo: evitar el cinismo de que la fuerza debe dominar y buscar instituciones creíbles para la paz.
- Diplomacia y multilateralismo: relanzar el diálogo, incluso con los interlocutores más incómodos, reconociendo un "destino común de los pueblos".
