1
Paradigma tecnocrático e inteligencia artificial, preocupación del Papa
La inteligencia artificial (IA) está transformando profundamente nuestra sociedad. Los asistentes virtuales –como Google, Siri (de Apple), Alexa (de Amazon), ChatGPT– integran la vida cotidiana de buena parte de nuestras familias.
Los sistemas basados en IA, con su avance exponencial, nos sorprenden, impresionan, generan expectativas y asustan, todo al mismo tiempo. Aún no podemos imaginar la velocidad de su desarrollo ni su punto de llegada.
La Iglesia, el cristianismo, no están en contra del progreso humano o científico. Tengamos en cuenta que las primeras universidades han surgido en los monasterios e iglesias. Unos cuantos científicos han sido y son hombres y mujeres de fe. Uno de los impulsores de la teoría del big bang acerca del origen del universo fue un sacerdote jesuita… La Iglesia no es tecnofóbica.
El 1º de enero de cada año se realiza la Jornada Mundial de la Paz; para esta oportunidad el Papa propuso el lema “Inteligencia artificial y paz”. Desde el inicio de su mensaje Francisco plantea una mirada positiva y también pone foco en los peligros. Resume esta tensión en pocas palabras: “Entusiasmantes oportunidades y graves riesgos”.
La IA nos trae numerosos beneficios y puede contribuir de manera importante a nuestro desarrollo: mejora de la producción de alimentos saludables y seguros, diseños de infraestructura más sustentables, fuentes de energía renovables más eficientes, diagnósticos médicos más exactos, sustitución de tareas rutinarias o peligrosas, predicciones meteorológicas, previsión frente a desastres naturales, mayor eficiencia operativa en industrias, gestión más rápida del tráfico en la vía pública, educación más personalizada.
Pero sin reglas efectivas y sin liderazgos éticos hay riesgo de que la IA genere perjuicios, cree nuevas desigualdades y amplíe las ya existentes. Sin la debida supervisión, puede ocurrir que algoritmos supuestamente diseñados para ayudar al sector público a gestionar prestaciones sociales terminen excluyendo a familias realmente necesitadas (por ejemplo, por discriminación racial), o el uso de reconocimiento facial aplicado para controlar adversarios políticos y perseguir masivamente a la ciudadanía, o la sofisticación de los armamentos usados para el crimen o la guerra. También se está ante el riesgo de incrementar la asimetría entre los actores (países y grupos privados) que dominan el desarrollo de la IA y el resto de la población, que permanece como espectador de un desarrollo desequilibrado y de escaso contenido ético.
En el contexto internacional de guerras, el Papa nos insiste en que “no podemos eludir las graves cuestiones éticas vinculadas al sector de los armamentos. La posibilidad de conducir operaciones militares por medio de sistemas de control remoto ha llevado a una percepción menor de la devastación que estos han causado y de la responsabilidad en su uso, contribuyendo a un acercamiento aún más frío y distante a la inmensa tragedia de la guerra. La búsqueda de las tecnologías emergentes en el sector de los denominados ‘sistemas de armas autónomos letales’, incluido el uso bélico de la inteligencia artificial, es un gran motivo de preocupación ética”.
No debemos engañarnos, “los sistemas de armas autónomos no podrán ser nunca sujetos moralmente responsables. La exclusiva capacidad humana de juicio moral y de decisión ética es más que un complejo conjunto de algoritmos, y dicha capacidad no puede reducirse a la programación de una máquina que, aun siendo ‘inteligente’, no deja de ser siempre una máquina”.
La preocupación no es nueva ni solo declamativa. En el año 2020 se elaboró el documento denominado “Llamamiento de Roma por la ética de la IA” (título original: “Rome Call for AI Ethics”), firmado por empresas como Microsoft e IBM, en el ámbito de la Pontificia Academia para la Vida. Hacia el final de la carta explicitan que “los sponsors de esta convocatoria expresan su deseo de trabajar en conjunto en este contexto y a nivel nacional e internacional para promover los ‘algor-éticos’”, para lo cual definen algunos principios necesarios para el uso ético de la IA. El texto completo está disponible en internet.
Otro paso importante se dio en noviembre de 2021 al realizarse el “Primer acuerdo mundial sobre la ética de la inteligencia artificial”, consensuado y aprobado por los 193 Estados miembros de la Unesco, que se propone a todos los actores como guías de las políticas públicas a nivel regional y de cada país.
El 4 de octubre pasado –memoria de San Francisco de Asís– el Papa publicó una exhortación apostólica titulada Laudate Deum, como actualización de la encíclica Laudato si, y abordó algún aspecto de la IA referidos al cuidado de la casa común. En realidad, para Francisco el riesgo no está tanto en la IA como en el paradigma tecnocrático en el cual se desarrolla.
Por eso expresa: “No es extraño que un poder tan grande en semejantes manos sea capaz de arrasar con la vida, mientras la matriz de pensamiento propia del paradigma tecnocrático nos enceguece y no nos permite advertir este gravísimo problema de la humanidad actual” (LD 24).
A su vez, reconocemos que son propios de la condición humana la compasión, el amor, el cuidado de la fragilidad y vulnerabilidad. Nos preguntamos: ¿cómo nos cuida la IA de la envidia, codicia, avaricia, violencia, crueldad, discriminación? ¿Cómo plantear las relaciones de amistad, la familia, la sexualidad, los vínculos entre los países y las etnias?
No le podemos pedir a la IA lo que debe proponerse construir la IH (inteligencia humana). La IA no puede ser excusa para desligarnos de las responsabilidades que nos toca asumir. La cuestión es si será un instrumento utilizado por quienes buscan el desarrollo integral de la humanidad o por quienes se mueven por la ley del más fuerte. De ser así, será cada vez más poderoso y rico un pequeño grupo, y más pobre y descartada la mayoría de la humanidad a la que buscarán eliminar.
Debemos cuidar el realismo de la vulnerabilidad y fragilidad. Poner en valor la intuición, la metáfora, los sentimientos en los vínculos humanos.
El profeta Isaías –inspirado por Dios– anunció “con sus espadas forjarán arados y podaderas con sus lanzas. No levantará la espada una nación contra otra ni se adiestrarán más para la guerra” (Is 2, 4).
Seamos constructores de paz con la inteligencia humana, la artificial y el corazón de carne.
Arzobispo de San Juan de Cuyo, Argentina
Tipo de trabajo:
opinión
