1
“Prioridad central”: un exjefe de Seguridad de OpenAI vuelve a la compañía ante la creciente preocupación por el avance de la IA
Aleksander Madry había renunciado a su cargo en mayo; trabajará junto a Jakub Pachocki, científico de la firma
3 minutos de lectura'
Aleksander Madry, exjefe de Seguridad de OpenAI, renunció a su cargo en mayo, sin ahondar demasiado sobre el motivo de su decisión. “Creo que uno de los mayores impactos de la inteligencia artificial (IA) se verá en la transformación de la economía: en cómo las empresas comprenden, toman decisiones y operan. La tecnología de OpenAI ya está empezando a lograrlo, y es extraordinario. Ahora quiero centrarme en inventar y construir lo que debería venir después”, escribió en aquel entonces en su cuenta de X.
Hoy, cinco meses después, el informático anunció que volverá a la gigante tecnológica luego de afirmar que, frente a una IA “cada vez más capaz”, los desafíos de seguridad deben convertirse en “una prioridad central”. “Cuando me fui hace unos meses, sentí que lo más importante era centrarme en hacer que la IA fuera más útil para las personas. Pero desde entonces hemos entrado en un régimen diferente de progreso de la IA”, informó Madry a través de sus redes sociales.
En ese sentido, contó que trabajará junto a Jakub Pachocki, científico de OpenAI, para resolver y “trazar un camino” frente a los problemas que supone el avance de esta tecnología. “Hay mucho trabajo por hacer, así que pongámonos manos a la obra”, concluyó.
Pachocki citó el posteo de su colega y respondió: “A medida que la IA se vuelve más capaz, me centro en cuestiones relacionadas con el ritmo y las implicaciones del progreso, y cómo deberían influir en la estrategia de OpenAI y en todo el sector. Le pedí a Aleksander que volviera a OpenAI para trabajar conmigo en estos temas. Valoro su criterio y me alegra tenerlo de nuevo en el equipo”.
Por su parte, Sam Altman, director ejecutivo de la firma, también agradeció la reincorporación de Madry. “Los desafíos en materia de seguridad que enfrentamos al enfrentarnos a la superinteligencia son inmensos, y él posee un excelente conjunto de habilidades para trabajar en ello”, sostuvo.
Alarma mundial
El regreso de Madry a OpenAI se da en un escenario de gran alarma e incertidumbre a nivel mundial, en especial por los recientes ataques de agentes de IA a diferentes empresas y sitios gubernamentales. Además, varios exempleados de empresas de tecnología se refirieron públicamente al peligro que supone esta tecnología para la humanidad.
Uno de ellos fue Jacob Coxon, exempleado de Anthropic, quien decidió renunciar a la compañía luego de señalar que “quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”.
Evan Hubinger, investigador especializado en alineación dentro de Anthropic, coincidió con esta mirada: “Realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es >10% dentro de la próxima década”.
En ese contexto, los propios empresarios hicieron un llamado de atención al respecto. Dario Amodei, CEO de Anthropic, planteó que es necesario bajar el ritmo en el desarrollo de los modelos más avanzados para ganar tiempo y reforzar las medidas de seguridad.
Elon Musk, dueño de xAI y creador del chatbot Grok, respaldó esta visión:“Dario tiene razón”, escribió escuetamente en X.
Por su parte, Altman también adhirió a la propuesta de Amodei, reclamó reglas de seguridad comunes para las empresas que desarrollan los modelos más avanzados y sostuvo que “ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia”.
