1
Trump critica las “fuerzas negativas” que quieren ralentizar la IA
Las declaraciones del presidente de Estados Unidos llegan en respuesta a varias advertencias sobre el uso de la Inteligencia Artificial que surgieron desde la propia industria
4 minutos de lectura'
LA NACION
El presidente de Estados Unidos, Donald Trump criticó las “fuerzas negativas” que quieren ralentizar la IA, luego de que tres de las figuras más poderosas de la carrera global por la inteligencia artificial —los jefes de Anthropic y OpenAI y Elon Musk— coincidieron el sábado en una advertencia poco habitual dentro de una industria marcada por la competencia feroz : es necesario bajar el ritmo en el desarrollo de los modelos más avanzados para ganar tiempo y reforzar las medidas de seguridad.
“Creo que hay muchas fuerzas negativas que están sacando el tema cuando no deberían hacerlo, y están planteando cosas que no van a suceder”, declaró el presidente republicano ante la prensa desde el complejo de golf de Doonbeg, en el condado de Clare, donde asistía al Abierto de Irlanda.
Además, sostuvo que Estados Unidos es el “país más avanzado del mundo” en inteligencia artificial y afirmó que quería que siguiera siendo así porque “quien gane” en ese ámbito “gana”. Sin embargo, no descartó la posibilidad de establecer algunas “medidas de control” sobre la IA.
Días atrás, consultado acerca la alerta sobre la tecnología que podría escapar al control humano y extinguir nuestra especie, Trump había desestimado los temores: “No, no me preocupa en absoluto”.
Las advertencias de los referentes tech
El primero en plantear la necesidad de desacelerar el desarrollo de la IA fue Dario Amodei, director ejecutivo y cofundador de Anthropic, la empresa detrás del chatbot Claude. Horas después, Sam Altman, CEO de OpenAI y uno de sus principales rivales, respaldó públicamente su propuesta y anunció que su compañía adoptará una de las medidas sugeridas por Amodei: permitir que evaluadores independientes tengan un nivel de acceso similar al de los empleados para supervisar los riesgos de sus sistemas.
“Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA”, escribió Altman. El empresario aseguró que el asunto había sido uno de los principales temas de discusión dentro de OpenAI durante las últimas semanas y calificó como “una gran idea” la incorporación de supervisores externos. “Nosotros haremos lo mismo. Pronto tendremos más para compartir”, agregó.
Poco después se sumó Elon Musk, dueño de xAI y creador del chatbot Grok, quien también respaldó el planteo de Amodei. “Dario tiene razón”, escribió escuetamente en X.
El pronunciamiento conjunto supone una señal llamativa en un sector en el que las principales compañías compiten por lanzar modelos cada vez más poderosos. OpenAI ya había informado en agosto que había desacelerado temporalmente parte del entrenamiento de sus modelos de frontera para reforzar sus sistemas de monitoreo, alineación y seguridad después de una serie de incidentes y ante indicios de que sus próximos sistemas podrían alcanzar capacidades críticas en materia de ciberseguridad.
En su ensayo, publicado este sábado, Amodei fue más lejos y pidió que las compañías actúen con mayor cautela frente a una tecnología cuyos riesgos, advirtió, crecen a medida que aumenta su poder.
“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso inteligente del tiempo que ganemos”, escribió Amodei en una entrada de blog.
Su ensayo se produce después de que Anthropic publicara el jueves un informe de inteligencia sobre amenazas en el que se detallaba cómo varios actores habían utilizado sus modelos de IA “Claude” para actividades que iban desde el desarrollo de armas y operaciones cibernéticas hasta la vigilancia y el fraude.
“La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves”, indicó. “No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia”, dijo Amodei, que cofundó Anthropic junto con su hermana Daniela en 2021.
“Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia”, afirmó.
Las recientes advertencias siguen la línea de una carta publicada a fines de marzo de 2023, en la que más de mil referentes del ámbito académico y empresarial vinculados con la inteligencia artificial reclamaron una pausa de seis meses en el desarrollo de sistemas de IA generativa. Entre los firmantes más destacados figuraba Elon Musk, aunque eso no le impidió avanzar en el desarrollo de Grok.
Más leídas de El Mundo
2Mammana se fracturó varias costillas tras un golpe en el partido ante Newell’s
3Liberaron cinco gatos para terminar con una plaga de ratones: 77 años después, la naturaleza se cobró una venganza insólita
4Es maestra y advierte a los padres de sus alumnos sobre sus intimidades: “Sus hijos me cuentan todo”