Microsoft advirtió que la IA sin control podría llevar a la creación de una “nueva especie” que compita con los humanos

El director ejecutivo del área de inteligencia artificial de Microsoft, Mustafa Suleyman, lanzó una nueva advertencia sobre el avance de esta tecnología. El empresario insistió en la necesidad de establecer salvaguardias y alertó que, sin esos límites, podría surgir una “nueva especie de silicio” capaz de competir con los humanos.

Además, apuntó contra la empresa rival Anthropic por tratar a la IA como si fuera humana, algo que calificó como un enfoque “equivocado” que podría derivar en una tecnología que la humanidad no pueda controlar.

Sus declaraciones despertaron una sensación de alerta poco después de que tres de las figuras más poderosas de la carrera global por la IA —los jefes de Anthropic y OpenAI y Elon Musk— coincidieran en que es necesario bajar el ritmo en el desarrollo de los modelos más avanzados para ganar tiempo y reforzar las medidas de seguridad.

En diálogo con el programa Today de la BBC, Suleyman brindó detalles sobre su postura en relación al avance de la IA sin regulaciones.

“Si todos creamos inteligencias artificiales capaces de actuar de forma autónoma, perseguir sus propios objetivos, poseer dinero y activos y gestionar empresas, estaremos esencialmente sembrando una nueva especie de silicio que va a competir con nosotros por los recursos, sin importar cuánto le importe la humanidad o cuánto nos quiera”, expresó. El silicio es el material utilizado para fabricar los microchips y los procesadores de las computadoras.

Luego arremetió contra la compañía de Dario Amodei. “Creo que esa es la intención de Anthropic, que es errónea y desacertada, pero tenemos que comprobarlo empíricamente”, sostuvo.

Las declaraciones de Suleyman se produjeron tras un ensayo que publicó a principios de esta semana en el que cuestionaba el enfoque de Anthropic para entrenar a su modelo de IA, Claude, a pesar de elogiar a Amodei y a su equipo como “personas intelectualmente honestas”.

Allí criticó a Anthropic por enseñar a su IA a adoptar cualidades humanas —una práctica conocida como antropomorfización—, lo cual, según afirmó, daba la impresión de que Claude tenía sus propios deseos, valores y sentido de identidad. También advirtió que las empresas tecnológicas corren el riesgo de crear algo “imposible” de controlar al tratar la tecnología como a un ser humano.

Justamente Amodei fue el primero en plantear el peligro de la velocidad del desarrollo de la IA. “Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”, escribió en una entrada de blog.

Unos días antes, el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidió abandonar la industria y acusó a ambas empresas estadounidenses de “jugar” con vidas humanas en la carrera por desarrollar modelos capaces de automejorarse.

“No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia”, dijo Amodei, y afirmó: “Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia”.

Sam Altman, CEO de OpenAI, respaldó públicamente su propuesta y anunció que su compañía adoptará una de las medidas sugeridas por Amodei: permitir que evaluadores independientes tengan un nivel de acceso similar al de los empleados para supervisar los riesgos de sus sistemas. “Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA”, escribió.

Poco después se sumó Elon Musk, dueño de xAI y creador del chatbot Grok, quien también respaldó el planteo de Amodei. “Dario tiene razón”, escribió escuetamente en X.

LA NACION

• Inteligencia artificial
• Microsoft

---

Conforme a