1
“Acción urgente”: la ONU pide controlar la IA antes de que se convierta en un “riesgo existencial”
Según el alto comisionado, la actual carrera hacia una inteligencia artificial cada vez más potente “supone un cambio radical y expone todos los aspectos de nuestras vidas a un riesgo existencial cada vez mayor”; los avances de los nuevos modelos
5 minutos de lectura'
LA NACION
Hace una semana, el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió una “acción urgente” para regular la inteligencia artificial generativa (IA) debido a los riesgos sin precedentes que plantean los sistemas más avanzados. El comunicado tomó relevancia este lunes 14 de septiembre en el marco de una alerta global contra los riesgos potenciales que puede significar llegar a la Inteligencia Artificial General, un tipo de tecnología que, en teoría, superaría en varios aspectos el poder cognitivo de los seres humanos.
Tras una semana plagada de advertencias de gobiernos como el Chino o de los propios fabricantes de los modelos de IA con mayor capacidad de propagación como Sam Altman (CEO de OpenAI), Darío Amodei (CEO de Anthropic) o el propio Elon Musk (CEO de X y creador de Grok), Naciones Unidas se sumó a la discusión pública sobre la necesidad de regular el avance de esta tecnología. Y es que parece que su desarrollo avanza con mayor velocidad que la reflexión y la conciencia humana sobre sus posibles impactos. Ante el desconocimiento y las advertencias, los mensajes de precaución comienzan a proliferar.
“Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros , sino a las generaciones futuras de la humanidad”, dijo Turk en un comunicado. “Insto a los Estados y a las empresas a movilizarse urgentemente en el marco de instancias multilaterales”, añadió. “Todos los derechos humanos están amenazados por esta tecnología, incluido el derecho a la vida”, insistió.
La preocupación por las consecuencias del rápido auge de la IA está creciendo. Varios directivos estadounidenses del sector tecnológico también han abogado por ralentizar los avances en este ámbito.
El director ejecutivo de Anthropic, Dario Amodei, se pronunció a favor de una desaceleración para permitir una mejor evaluación de los riesgos derivados de las nuevas capacidades de la IA. Recibió públicamente el respaldo de su homólogo de OpenAI, Sam Altman, así como de Elon Musk.
Según el alto comisionado, “la actual carrera hacia una IA cada vez más potente supone un cambio radical y expone todos los aspectos de nuestras vidas a un riesgo existencial cada vez mayor”.
“Estamos en los albores de un cambio irreversible que no solo nos afecta a nosotros, sino también a las futuras generaciones de la humanidad”, añadió, lamentando que actualmente “dependamos casi por completo de un reducido número de empresas poderosas para tomar las decisiones acertadas sobre el desarrollo de la IA en beneficio de toda la humanidad”.
“Un puñado de hombres”
Türk instó a los países que albergan tecnologías de IA y a los implicados en sus cadenas de suministro a trabajar juntos para establecer límites claros. “Necesitamos verificación independiente y una cooperación mucho más estrecha en materia de seguridad dentro del sector”, subrayó. Sin embargo, destacó que el desafío va más allá de la seguridad técnica.
“Un puñado de hombres tiene un poder casi ilimitado sobre la IA”, señaló, refiriéndose a la creciente concentración del poder tecnológico y a las enormes cantidades de datos que se recopilan y procesan. Insistió en la necesidad de una tecnología “que sirva a la humanidad y no al revés”, en relación con el empleo, la democracia y el medio ambiente, y recalcó que los derechos humanos deben seguir siendo el principio rector.
Cada vez más IA en la guerra
El Alto Comisionado también expresó su preocupación por el uso de la IA en la guerra, especialmente por el desarrollo de armas capaces de tomar decisiones letales sin intervención humana. Türk dijo estar “horrorizado” por los informes sobre drones totalmente autónomos que, presuntamente, fueron desplegados por Rusia y mataron a tres ucranianos el mes pasado. Ucrania también ha probado este tipo de armas, según mencionan los informes.
“Me sumo a los llamamientos para que se prohíban de forma urgente las armas que pueden quitar vidas sin intervención humana”, declaró a los miembros del Consejo. Asimismo, advirtió de que la guerra en Ucrania, que ahora entra en su quinto año, sigue causando un creciente número de víctimas civiles y daños a infraestructuras energéticas críticas, con muertes y heridos también registrados en territorio ruso.
Más allá de la IA
Türk amplió su advertencia al panorama general de la seguridad global, y expresó su profunda preocupación por la proliferación de conflictos armados y la erosión del derecho internacional. Actualmente hay más de 60 conflictos en los que participa al menos un país, un nivel que no se veía desde el final de la Segunda Guerra Mundial.
El Alto Comisionado también mostró su alarma por la renovación de las hostilidades entre Estados Unidos e Irán y sus repercusiones geopolíticas y económicas. Las víctimas civiles siguen siendo una realidad, señaló, incluyendo un ataque en una boda en la provincia iraní de Hormozgan.
En referencia a Oriente Medio, Türk condenó los continuos ataques israelíes en Gaza y las restricciones a la ayuda humanitaria, así como los planes para el desplazamiento forzoso de palestinos y la retórica deshumanizadora de algunos altos cargos israelíes. También condenó las ejecuciones y torturas supuestamente cometidas por grupos armados afiliados a Hamás.
En la Cisjordania ocupada, Türk pidió medidas contra la anexión, la expansión de asentamientos por parte de Israel y la transferencia de armas que pudiera facilitar violaciones del derecho internacional. “La comunidad internacional debe redoblar sus esfuerzos para lograr una paz duradera, en la que Palestina e Israel convivan lado a lado con igual dignidad y derechos”, afirmó. “Las palabras de condena suenan a vacías ante las violaciones deliberadas y el sufrimiento”.
Con información de AFP
LA NACION
Más leídas de Sociedad
2Fueron mejores amigas durante una década, hasta que una prueba de ADN reveló que eran hermanas
3Entre arroyos y countries: vecinos intentan salvar el último pulmón rural del conurbano antes de que cambie para siempre
4Aluvión de turistas: la “nevada de la década” extiende el esquí hasta fines de mes en varios centros andinos