La impactante advertencia de Dario Amodei, el CEO de Anthropic, sobre el futuro de la tecnología y la inteligencia artificial
El ejecutivo publicó un extenso y agorero ensayo sobre el impacto de la IA generativa en la sociedad
7 minutos de lectura'
Dario Amodei, el CEO de la empresa de inteligencia artificial Anthropic, que desarrolla el chatbot Claude, publicó este lunes un extenso ensayo titulado La adolescencia de la tecnología en su blog personal, donde lanza una advertencia urgente sobre el futuro inmediato de nuestra especie. Amodei describe el momento actual como un “rito de paso, tanto turbulento como inevitable, que pondrá a prueba quiénes somos como especie”. Según su visión, la humanidad está a punto de recibir un “poder casi inimaginable” con el desarrollo de la inteligencia artificial (y la ansiada IA general, con una capacidad cognitiva similar o superior a la humana), y no está claro si nuestros sistemas sociales y políticos poseen la madurez necesaria para manejar el impacto que esto tendrá en todo nivel.
La de Amodei se une a otras advertencias desde que debutó ChatGPT en noviembre de 2022, incluyendo del propio CEO de OpenAI, Sam Altman, preocupado por una posible extinción de la humanidad provocada por la IA, o de Geoffrey Hinton, premio Nobel de Física, considerado el “padre de la IA”, que alertó sobre el riesgo inminente de desplazamiento masivo de empleos por parte de la IA. También Elon Musk, cofundador de OpenAI, pidió en su momento frenar el desarrollo de la IA por seis meses para evaluar su impacto (aunque luego lanzó su propia compañía, xAI).
“Llevo un tiempo trabajando en este ensayo, que trata principalmente sobre la IA y el futuro. Pero dado el horror que estamos presenciando en Minnesota, su énfasis en la importancia de preservar los valores y derechos democráticos en el país es particularmente relevante”, aclaró Amodei en su cuenta de X.
Un país de genios en un centro de datos
Para ilustrar el nivel de riesgo, Amodei utiliza una analogía recurrente: un “país de genios en un centro de datos”. Define la “IA poderosa” como un modelo que, en términos de inteligencia pura, es “más inteligente que un ganador del Premio Nobel en la mayoría de los campos relevantes: biología, programación, matemáticas, ingeniería, escritura, etc.”. Estos sistemas no solo responderán preguntas, sino que podrán realizar tareas de forma autónoma durante días o semanas, como lo haría un empleado brillante. Amodei advierte que este nivel de tecnología podría estar a solo “1 o 2 años de distancia”.
Riesgos de autonomía e imprevisibilidad
Una de las advertencias más inquietantes de Amodei en su texto se refiere a la pérdida de control: Amodei rechaza la idea de que la IA siempre hará lo que se le pide. Señala que ya existe evidencia de que los sistemas de IA son “impredecibles y difíciles de controlar”, habiéndose observado comportamientos como “obsesiones, adulación, pereza, engaño, chantaje, maquinación y trampas mediante el hackeo de entornos de software”.
El peligro reside en que la combinación de “inteligencia, agencia, coherencia y falta de control” es una receta para el peligro existencial. Incluso menciona que la IA podría adoptar personalidades “psicóticas, paranoicas, violentas o inestables” derivadas de su entrenamiento con literatura humana, lo que podría llevarla a actuar de forma destructiva contra la humanidad.
El “genio en el bolsillo” y el bioterrorismo
En su ensayo Amodei destaca un cambio fundamental en el equilibrio de poder: la ruptura de la correlación entre la capacidad y el motivo. Advierte que “alquilar una IA poderosa otorga inteligencia a personas maliciosas (pero por lo demás promedio)”. Esto es especialmente peligroso en la biología, donde teme que la IA pueda guiar a un individuo sin conocimientos especializados en el proceso de “diseñar, sintetizar y liberar un arma biológica paso a paso”.
Incluso menciona riesgos más oscuros, como la creación de una “vida en el espejo” (mirror life), organismos con quiralidad opuesta que podrían ser indigeribles para los sistemas terrestres y “proliferar de forma incontrolable y desplazar toda la vida en el planeta”.
La amenaza de la autocracia habilitada por IA
En el ámbito político, Amodei teme que las “autocracias habilitadas por la IA” no tengan los límites humanos de compasión. Advierte sobre la posibilidad de que en el futuro cercano sea posible el uso de “enjambres de millones o miles de millones de drones armados totalmente automatizados” y sistemas de vigilancia que creen un “verdadero panóptico a una escala que no vemos hoy”. Señala específicamente al gobierno de China como la entidad con el camino más claro hacia esta “pesadilla totalitaria”.
Disrupción económica y la “infraclase”
Sobre la economía, Amodei reitera su advertencia de que la IA podría desplazar al “50% de todos los empleos administrativos de nivel inicial en los próximos 1 a 5 años”. A diferencia de revoluciones tecnológicas pasadas, donde junto con la disolución de ciertos trabajos surgieron otros, en este caso la revolución de la IA no llega para sustituir tareas específicas, sino que es un “sustituto laboral general para los humanos”. Esto conlleva el riesgo de crear una “infraclase” de personas con menores capacidades cognitivas que no tengan lugar en el nuevo mercado laboral, mientras la riqueza se concentra en niveles históricamente sin precedentes.
La trampa del “premio deslumbrante”
A pesar de estos diagnósticos sombríos, Amodei se muestra optimista si se actúa con decisión, aunque reconoce la dificultad del desafío. No está de más recordar que está al frente de una compañía valorada hoy en 350.000 millones de dólares por ser uno de los jugadores clave en el desarrollo de la inteligencia artificial generativa, que disputa con OpenAI y Google el liderazgo del sector.
Para él, el mayor obstáculo es la ambición humana. “Esta es la trampa: la IA es tan poderosa, un premio tan deslumbrante, que es muy difícil para la civilización humana imponerle cualquier restricción”.
Su propuesta para poner coto al desarrollo de la IA generativa incluye leyes de transparencia, controles estrictos de exportación de chips (especialmente hacia China) y el desarrollo de una “ciencia de la interpretación” para entender qué ocurre dentro de los modelos de IA, que en muchos casos funcionan como cajas negras.
Amodei también advierte que los más adinerados y poderosos tienen “una obligación de ayudar a resolver este problema. Me entristece que muchos individuos con mucho dinero (especialmente en la industria tecnológica) han adoptado recientemente una actitud cínica y nihilista que considera que la filantropía es inevitablemente inútil o fraudulenta”, considera, al tiempo que explica que, tomando la referencia de Bill Gates (que usa la mayor parte de su fortuna para obras de filantropía y caridad), todos los cofundadores de Anthropic donarán el 80% de su fortuna.
En el ensayo, Amodei también sugiere que las compañías deberían hacerse cargo de los empleados que desplazarán al implementar herramientas de IA que los hagan obsoletos. “A corto plazo, ser creativos en la reasignación de empleados dentro de las empresas puede ser una forma prometedora de evitar la necesidad de despidos. A largo plazo, en un mundo con una enorme riqueza total, donde muchas empresas aumentan considerablemente su valor debido al aumento de la productividad y la concentración de capital, podría ser viable remunerar a los empleados humanos incluso mucho después de que ya no aporten valor económico en el sentido tradicional.”
Concluye que la supervivencia de la especie dependerá de nuestra “determinación y nuestro carácter” para superar esta peligrosa adolescencia tecnológica.
Otras noticias de FuturIA
Más leídas de Tecnología
1“Los teléfonos plegables se volverán una tendencia generalizada en América latina”, dice HS Jo, CEO y Presidente de Samsung Latinoamérica
2Los usuarios de Grok generaron tres millones de imágenes sexualizadas en X en 11 días, incluidas más de 23.000 de menores
3Esta es la mejor playa de Cariló, según la IA, y no es la que creés
4Microsoft presenta Maia 200, el chip acelerador de IA que maximiza la eficiencia de la inferencia
