La voz de alerta del Papa sobre la posibilidad de un “tecnofascismo” 

La encíclica Magnifica Humanitas, sobre la custodia de la persona humana en tiempos de inteligencia artificial, del Papa León XIV, publicada oficialmente por el Vaticano el 25 de mayo pasado, constituye probablemente el documento doctrinal más importante de la Iglesia Católica desde la irrupción global de la IA.

Se trata del primer gran texto sistemático de la Iglesia dedicado específicamente a la inteligencia artificial y a la defensa de la dignidad humana en la era digital; un documento histórico que, salvando las distancias, podría tener un impacto comparable al que tuvo Rerum Novarum frente a la Revolución Industrial del siglo XIX.

El representante de Cristo en la tierra reclama normas globales, organismos de control y acuerdos internacionales para regular la inteligencia artificial, junto con un rol más activo y responsable de los organismos multilaterales, para evitar que el futuro de esta tecnología quede librado exclusivamente a la “autorregulación” de la industria; una fórmula que, como ya hemos visto con las redes sociales, no ha dado precisamente buenos resultados. Basta observar el deterioro de la salud mental de millones de chicos y adolescentes para advertir los límites de un modelo donde las plataformas tecnológicas operan prácticamente sin controles eficaces.

El documento papal resalta distintos aspectos a tener en cuenta para establecer reglas de juego claras frente a un negocio descontrolado, cuyos alcances muchas veces ni siquiera conocen plenamente sus propios fundadores; aspectos que venimos remarcando, hasta el cansancio, desde hace años en esta misma columna. Quizás ahora, con la voz del Santo Padre, alguien decida escuchar.

El eje central de la encíclica se apoya en una premisa contundente: la tecnología jamás puede convertirse en dueña del ser humano. La inteligencia artificial debe permanecer subordinada a la dignidad humana, a la libertad y a la conciencia moral. León XIV advierte que el hombre no puede ser reducido a datos, algoritmos o procesos automatizados.

La encíclica introduce además una poderosa imagen bíblica para explicar el dilema contemporáneo: la oposición entre la Torre de Babel y la reconstrucción de Jerusalén. Babel simboliza la ilusión de un poder tecnológico autosuficiente, homogeneizador y desvinculado de toda referencia ética o trascendente. Jerusalén, en cambio, representa la construcción comunitaria, plural y solidaria de una convivencia humana basada en la dignidad de la persona.

Entre los aspectos más relevantes de este valioso documento del Sumo Pontífice sobresale la advertencia sobre el enorme poder que puede concentrarse en pocas corporaciones tecnológicas y gobiernos. En efecto, el documento refiere que la IA refleja, inevitablemente, los intereses, valores y sesgos de quienes la controlan. Lejos de ser una herramienta puramente objetiva, constituye el espejo de quienes la diseñan, entrenan y financian.

En esta línea de ideas, la encíclica advierte sobre la acumulación de poder al punto de sostener que quien controle la inteligencia artificial podría imponer su propia visión moral, cultural y política al resto del mundo. Allí aparece uno de los conceptos más inquietantes que deja entrever el documento: la posibilidad de un verdadero “tecnofascismo”.

El razonamiento resulta difícil de refutar. Detrás de cada algoritmo existen intereses económicos, visiones ideológicas, estructuras de poder y criterios morales. Los sistemas de IA no “piensan” en forma totalmente autónoma -al menos por ahora- sino que ejecutan decisiones tomadas por seres humanos. Y quienes controlan esas decisiones acumulan un poder probablemente inédito en la historia moderna.

Por otro lado, la encíclica, al comparar la revolución digital con la Revolución Industrial, pregona proteger a las personas frente a la automatización masiva y la precarización laboral. Si bien el documento reconoce que la IA puede aumentar la productividad y generar enormes avances en medicina, ciencia y educación, también advierte que el progreso técnico pierde legitimidad moral cuando destruye el valor humano del trabajo, elimina masivamente fuentes de empleo o incrementa las desigualdades sociales.

Asimismo, la encíclica advierte sobre distintos riesgos derivados de un uso antiético de los sistemas de IA: manipulación informativa, campañas de desinformación, sesgos electorales, deepfakes -clonación de imagen y voz de personas sin consentimiento-, explotación de menores mediante inteligencia artificial y mecanismos de vigilancia masiva asociados a la pérdida progresiva de privacidad. Todo ello, sostiene el Pontífice, puede erosionar la verdad y debilitar seriamente las democracias contemporáneas si no existen límites éticos claros.

En relación con niños y adolescentes, el documento pone especial énfasis en el impacto psicológico y moral de la hiperconectividad y del uso temprano de tecnologías digitales. León XIV advierte además sobre el riesgo de sustituir vínculos humanos reales por relaciones emocionales simuladas con sistemas de IA y agrega que “…cuando la palabra es simulada, esta no construye una relación, sino una apariencia. La imitación artificial de la relación de cuidado o de acompañamiento puede ser peligrosa cuando se introduce en un contexto pobre de relaciones y de afectos reales; entonces el riesgo no es tanto que una persona crea que está hablando con otra persona, sino que pierda el deseo mismo de buscar realmente al otro…”

Finalmente, el Sumo Pontífice conecta la inteligencia artificial con problemas ambientales y geopolíticos tales como el enorme consumo energético de los centros de datos, la extracción de recursos estratégicos, el control global de información por parte de potencias y corporaciones tecnológicas y las nuevas formas de dependencia digital de países pobres, advirtiendo incluso sobre un eventual “neocolonialismo tecnológico”.

En otras palabras, si bien el Papa reconoce el enorme potencial positivo de la IA, pone el acento en que el progreso técnico sólo tiene sentido cuando fortalece la justicia, la solidaridad, el bien común y la dignidad humana.

Por ello, Magnifica Humanitas aparece como una verdadera “Doctrina Social de la Iglesia para la era de la inteligencia artificial”: una defensa firme del ser humano frente al creciente poder de los algoritmos, las corporaciones tecnológicas y las nuevas estructuras digitales de dominación.

Esperemos que quienes hoy tienen en sus manos dirigir los intereses de millones de ciudadanos de a pie, a través del ejercicio del poder que ellos les han conferido, comprendan y atiendan diligentemente la magnitud de las advertencias papales y actúen en consecuencia. Aunque, sinceramente, lo dudo.