Armas, deepfake y engaños: en un nuevo documento, el Vaticano alertó sobre los riesgos de la inteligencia artificial

ROMA.- En medio de la carrera entre Estados Unidos y China por la primacía de la Inteligencia Artificial (IA), el Vaticano publicó este martes un documento sobre este tema cada vez más desafiante, en el que recordó que la IA “sólo debe utilizarse como una herramienta complementaria de la inteligencia humana”, con ética y responsabilidad y advirtió que el hombre corre el riesgo de volverse “esclavo de su propia obra”.

Titulado “Antiqua et Nova [en referencia a la antigua y nueva sabiduría], nota sobre la relación entre la inteligencia artificial y la inteligencia humana”, el nuevo texto reflexiona sobre todo lo expresado sobre esta cuestión cada vez más delicada y de influencia global por el papa Francisco, sus antecesores y la Iglesia católica en general en los últimos años, en mensajes, encíclicas, audiencias y demás documentos. Reconoce las oportunidades y potencialidades de la IA, pero también advierte sobre sus peligros y riesgos en los diversos campos: educación, economía, trabajo, sanidad, arte, relaciones internacionales e interpersonales, medio ambiente y contextos de guerra. Y, para evitar que el hombre se convierta en esclavo de las máquinas, con consecuencias impensables, plantea la necesidad de ulteriores consideraciones y regulaciones sobre su uso, para que quede garantizado el bien común y se respete la dignidad de las personas.

“Puesto que la IA sigue avanzando rápidamente hacia cotas aún mayores, es de importancia decisiva considerar sus implicaciones antropológicas y éticas. Esto implica no sólo mitigar los riesgos y prevenir los daños, sino también garantizar que sus aplicaciones se dirijan a promover el progreso humano y el bien común”, sentencia. De 117 párrafos y unas 35 páginas, el documento fue elaborado en forma conjunta por el Dicasterio para la Doctrina de la Fe, que dirige el cardenal argentino Víctor Manuel “Tucho” Fernández, y el Dicasterio para la Cultura y la Educación, encabezado por el cardenal portugués José Tolentino de Mendonça.

Aprobado por el Papa el 14 de enero, al principio recuerda fundamentos filosóficos y teológicos y las evidentes diferencias entre la inteligencia humana y los sistemas de IA. Pasa a remarcar luego que la IA, como todo producto del ingenio humano, puede orientarse hacia “fines positivos o negativos”.

“Aunque la IA encierra muchas posibilidades para el bien, también puede obstaculizar o incluso oponerse al desarrollo humano y al bien común”, observa, al enumerar una gran cantidad de diversos problemas éticos en cada área de aplicación. Entre ellos, “el hecho de que, actualmente, la mayor parte del poder sobre las principales aplicaciones de la IA esté concentrado en manos de unas pocas y poderosas empresas”.

Al reflexionar sobre la IA y las relaciones humanas, si bien reconoce que puede “favorecer las conexiones”, el Vaticano resalta que al mismo tiempo puede “llevar a las personas a una profunda y melancólica insatisfacción en las relaciones interpersonales, o un dañino aislamiento”. En este marco menciona los problemas especiales para el crecimiento de los niños, “que pueden sentirse alentados a desarrollar patrones de interacción que entiendan las relaciones humanas de forma utilitaria, como es el caso de los chatbots”.

Además, considera que, “aunque la IA puede simular respuestas empáticas, los sistemas artificiales no pueden reproducir la naturaleza personal y relacional de la empatía genuina”. “Por lo tanto, siempre se debería evitar representar, en modo equivocado, a la IA como una persona, y hacerlo con fines fraudulentos constituye una grave violación ética que podría erosionar la confianza social”, sentencia. “Del mismo modo, utilizar la IA para engañar en otros contextos – como la educación o las relaciones humanas, incluida la esfera de la sexualidad – debe considerarse inmoral y requiere una cuidadosa vigilancia para prevenir posibles daños, mantener la transparencia y garantizar la dignidad de todos”, suma.

Luego de precisar el enorme impacto de la IA, que puede ser bueno, pero también malo, en el mundo del trabajo, de la salud y la educación, la nota del Vaticano también expresa su preocupación por su utilización en la manipulación de la información, con deepfake y noticias falsas. “Al distorsionar la relación con los demás y la realidad, los productos audiovisuales falsificados generados por IA pueden socavar progresivamente los cimientos de la sociedad. Esto requiere una regulación cuidadosa, ya que la desinformación, especialmente a través de medios controlados o influenciados por la IA, puede propagarse involuntariamente, alimentando la polarización política y el descontento social”, advierte.

Al referirse al uso bélico de la IA, por otro lado, denuncia los sistemas de armas autónomas letales, capaces de identificar y atacar objetivos sin intervención humana directa, que carecen de “la exclusiva capacidad humana de juicio moral y de decisión ética”. Y recuerda el llamado del papa Francisco a prohibir su uso durante la cumbre del G7 del año pasado en Apulia.

Al tocar el tema del cuidado de la casa común, aunque recuerda que la IA implica numerosas innovaciones, como por ejemplo la creación de modelos para la previsión de eventos climáticos extremos, al mismo tiempo contribuye significativamente a las emisiones de CO2, además de consumir recursos de manera intensiva.

Por todo lo anterior, el documento concluye que “hay que recordar que la IA no es más que un pálido reflejo de la humanidad, ya que ha sido producida por mentes humanas, entrenada a partir de material producido por seres humanos, predispuesta a estímulos humanos y sostenida por el trabajo humano. No puede tener muchas de las capacidades que son específicas de la vida humana, y también es falible”. “De ahí que al buscar en ella un ‘Otro’ más grande con quien compartir la propia existencia y responsabilidad, la humanidad corre el riesgo de crear un sustituto de Dios. En definitiva, no es la IA quien es divinizada y adorada, sino el ser humano, para convertirse, de este modo, en esclavo de su propia obra”, añade.

Para abordar los profundos interrogantes y desafíos éticos que plantea la IA, por la tanto, hoy más que nunca urge una “verdadera sabiduría” que “la humanidad no puede esperar de las máquinas”. “En un mundo marcado por la IA, necesitamos la gracia del Espíritu Santo, que permite ver las cosas con los ojos de Dios, comprender los vínculos, las situaciones, los acontecimientos y descubrir su sentido. Porque lo que mide la perfección de las personas es su grado de caridad, no la cantidad de datos y conocimientos que acumulen, el modo como se utilice la IA para incluir a los últimos, es decir, a los hermanos y las hermanas más débiles y necesitados, es la medida que revela nuestra humanidad”, cierra.

Por Elisabetta Piqué

• Papa Francisco

---

Conforme a

Tensión en los Balcanes. Renunció un primer ministro europeo acosado por protestas masivas y acusaciones de corrupción

SUA. Qué se sabe sobre la nueva aerolínea con bandera uruguaya y cuándo comenzará a operar

Tras una orden de Trump. Google le cambiará el nombre al Golfo de México en sus mapas de Estados Unidos

Roberto Benigni, un maestro del humor. Su espectáculo sobre San Pedro, su largo matrimonio y la importancia del papa Francisco en su historia

Intrigas en el Vaticano. Quieren cerrar un palazzo donde se alojaba Bergoglio y convertirlo en un hotel 4 estrellas

Inesperado. El papa León, uno de los “mejores vestidos” de 2025 para Vogue: de la referencia a “los gustos” de Francisco a su mejor “outfit”