1
¿Existe más de un 10% de probabilidad de que una IA termine con la humanidad? Expertos responden
Especialistas comparten su opinión detrás de las declaraciones de Anthropic y señalan cuáles son los verdaderos desafíos actuales de la IA
6 minutos de lectura'
LA NACIONMaría Josefina Lanzi
El miércoles pasado no pasó desapercibido para mucha gente y se recordará como uno de los días donde se hizo una de las declaraciones más polémicas en relación a la historia de la IA. Evan Hubinger, investigador especializado en alineación dentro de Anthropic -empresa detrás de Claude, uno de los modelos de IA más potentes-, aseguró en su cuenta de X: “Realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es >10% dentro de la próxima década”. Aunque las redes se convulsionaron luego de estas palabras y se encendieron nuevamente las alarmas sobre los riesgos existenciales de la IA, no todos los especialistas coinciden en que este sea el desafío más urgente. Para muchos, los problemas más relevantes ya están presentes y afectan la manera en que las personas trabajan, se informan y toman decisiones.
No es la primera vez que un referente del mundo de la IA habla públicamente del futuro de esta tecnología, con un tono apocalíptico. “Me fui para poder hablar de los peligros de la IA sin considerar cómo afecta esto a Google”, escribió Geoffrey Hinton en X, en mayo de 2023, un pionero de la inteligencia artificial y exempleado del gigante tecnológico. Por su parte, el expresidente de Microsoft, Bill Gates, señaló recientemente en una entrevista con The New York Times: “En privado, las personas que entienden lo buena que es esta tecnología y lo mucho que está mejorando, están muy preocupadas”.
Los expertos consultados por LA NACION explican que es imposible comprobar empíricamente si las afirmaciones de los empleados de Anthropic son correctas, ya que se trata de proyecciones sobre sistemas que todavía no existen. Al mismo tiempo, no existen regulaciones o estándares globales que obliguen a estas compañías a que su información sea transparente, por lo que resulta difícil conocer cómo estas empresas desarrollan, prueban, evalúan y despliegan sus sistemas, qué riesgos detectan, qué incidentes registran y qué decisiones adoptan antes de su comercialización. Sin embargo, consideran que sí es posible exigirles mayor transparencia, regulación y límites que intervengan.
“La innovación en IA requiere una lógica de responsabilidad activa: pruebas rigurosas, validación, monitoreo permanente, transparencia, mecanismos de corrección y rendición de cuentas, hacernos responsables los humanos de lo que hacemos con ello. Además, el desarrollo de tecnologías cuyo comportamiento no es plenamente determinístico exige repensar los mecanismos tradicionales de regulación y supervisión”, explicó Juan Pablo Cosentino, profesor asociado y director académico del área Operaciones y Tecnología de IAE Business School, quien se mostró inquieto ante declaraciones de Anthropic, que surgieron dentro de la propia empresa. En ese sentido, explicó que existe una competencia acelerada por modelos más potentes, datos, capacidad de cómputo, talento y cuota de mercado. “Esa dinámica puede incentivar lanzamientos prematuros, antes de completar procesos suficientes de validación y evaluación de riesgos”, detalló Cosentino.
Joan Cwaik, autor y divulgador, profesor de la escuela de negocios de la Universidad de San Andrés, se mostró más escéptico ante las declaraciones de Anthropic y señaló que para que el escenario planteado por el referente ocurra tienen que encadenarse varias conjeturas: “Que construyamos un sistema muy superior a nosotros, que ese sistema acelere el desarrollo del siguiente, que la aceleración sea muy rápida, que gane autonomía y que no podamos apagarlo. El 10% es el resultado de multiplicar suposiciones, es como calcular la tasa de accidentes de una ruta que todavía no está construida”.
En esa misma línea, Cwaik recordó que la predicción fue hecha por el jefe de alineamiento de una empresa que presentó su solicitud de salida a bolsa en junio y que apunta a debutar en octubre, con una valuación cercana al billón de dólares. “El fin del mundo es el pitch de inversión más eficiente que existe. Si tenés razón, sos el único que puede salvarnos”, agregó Cwaik.
Más allá de las diferencias respecto de la probabilidad de un escenario extremo, los especialistas consultados coincidieron en un punto: la necesidad de mecanismos de supervisión y rendición de cuentas. Fernando Troilo, director del posgrado de Recursos Humanos de UCEMA y miembro de la Asociación de Recursos Humanos de Argentina (ADRHA), señaló que, más allá de la exactitud predictiva de las declaraciones, “considero que tienen un valor muy positivo, porque nos recuerdan la importancia crucial de cuidar la humanidad y de implementar mecanismos de gobernanza de la IA que hagan posible practicar la ética en su adopción y uso”. Explicó que esto implica, sobre todo, mantener siempre una supervisión humana efectiva, para la cual se necesitan regulaciones, auditorías independientes y un alineamiento internacional, para acordar reglas entre países y empresas.
“Una tecnología con potencial impacto global no puede depender exclusivamente de la buena voluntad de las empresas que la construyen. Necesitamos investigación en seguridad, auditorías independientes, estándares, educación, cooperación internacional y mecanismos de gobernanza capaces de evolucionar a una velocidad mucho más cercana a la de la propia tecnología”, coincidió Belén Ortega, empresaria y especialista en inteligencia artificial, y agregó: “No creo que la respuesta sea detener la inteligencia artificial, pero tampoco acelerar sin límites bajo la premisa de que la innovación siempre encontrará una solución”.
“El problema no es el 10%”
“Mientras discutimos si una IA podría representar un riesgo existencial dentro de diez años, tenemos desafíos mucho más cercanos frente a nosotros”, manifestó preocupada Ortega. La emprendedora, autora del libro HumanIA. La IA tiene alma y es el ser humano, explicó que “el problema no es el 10%”. En primer lugar, porque señaló que ese porcentaje no surge de un estudio científico que haya calculado matemáticamente la probabilidad de extinción. Por otro lado, explicó que pone sobre la mesa un debate que no se centra en las herramientas que millones de personas utilizan actualmente y en los problemas que ya están generando hoy, sino en la posibilidad de que en el futuro existan sistemas muchísimo más capaces y autónomos.
Efectivamente, la especialista señaló que hoy ya convivimos con desinformación sintética, fraudes cada vez más sofisticados, nuevas amenazas de ciberseguridad, transformación acelerada del mercado laboral y una creciente concentración de poder tecnológico. “Y existe además otro riesgo mucho menos espectacular, pero profundamente humano: la delegación del pensamiento”, agregó Ortega.
Cwaik coincidió con la especialista y explicó que el riesgo que ya está en marcha tiene otra forma y lo llama “sedentarismo cognitivo”. “Millones de personas delegan cada día una decisión más: el texto, el resumen, la búsqueda, la duda, y el músculo que dejás de usar se atrofia -reflexionó Cwaik-. Mi preocupación queda mucho más cerca que 2036; me inquieta menos que la IA nos mate en diez años, que el hecho de que en diez meses ya no sepamos pensar sin ella. Ninguna superinteligencia necesita tomar el control si nosotros lo entregamos por comodidad”.
Más leídas de Tecnología
2Una droga creada por una IA para curar una enfermedad pulmonar podría servir para frenar el envejecimiento
3Cuál es la frase para que la IA te ayude a organizar tus finanzas personales
4Más allá de las pruebas PISA: qué dicen los expertos sobre la obligatoriedad de enseñar inteligencia artificial en escuelas porteñas