1
Microsoft comparte el Código de Conducta que guiará el desarrollo de sus modelos bajo la visión de una IA Humanista
La gigante tecnológica sostiene que la inteligencia artificial debe ocupar un lugar subordinado y supervisado por humanos
5 minutos de lectura'
Microsoft ha compartido el borrador del Código de Conducta que establece los valores por los que se guiarán los modelos MAI que, asegura, siguen su visión de una inteligencia artificial (IA) humanista.
El Código de Conducta recoge el enfoque que aplica el gigante tecnológico en el entrenamiento y ejecución de sus modelos de IA, aunque lo hace como parte de una consulta pública para incorporar los comentarios que reciba en la versión final que lanzará a finales de año.
Aunque no se ha aplicado en sus modelos en desarrollo actual, el Código detalla los comportamientos y valores previstos que tendrán los modelos de 2027 para conseguir una IA humanista, que antepone a las personas y la sociedad y sitúa a la inteligencia artificial en un lugar subordinado y supervisado por humanos.
En él, Microsoft rechaza también cualquier humanización de esta tecnología. Asegura que “la IA humanista está diseñada para apoyar a las personas, no para reemplazarlas. No debe diseñarse para ser una persona”, incidiendo en que “no es consciente y no debe diseñarse para imitar la consciencia”.
Y considera que la IA debe contar con restricciones de seguridad, que se implementan en los modelos durante el entrenamiento y la implementación, para que reconozca una cadena de mano y respete las restricciones antes que las instrucciones directas de un usuario u operador.
El Código de Conducta pretende “ser claro y directivo, y dejar igualmente claro qué hace y qué no hace” la inteligencia artificial MAI, si bien “no sustituye los procesos internos o externos de seguridad, legales o de gobernanza”, añade Microsoft.
Hasta la fecha, Microsoft ha lanzado siete modelos MAI, especializados en voz, generación de imagen, programación y seguridad.
Alarma global
La publicación del Código de Conducta se da en un escenario de creciente preocupación e incertidumbre en el universo tecnológico, especialmente después de que varios de sus principales referentes advirtieran públicamente sobre los riesgos que plantea el rápido avance de la IA para la humanidad.
De hecho, ayer Sam Altman, CEO de OpenAI, advirtió sobre dos escenarios en los que el avance de la IA podría “salir muy mal” y aseguró que uno de los principales riesgos es que la humanidad termine perdiendo el control sobre su propio futuro. Además, reclamó reglas de seguridad comunes para las empresas que desarrollan los modelos más avanzados y sostuvo que “ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia”.
“Hay dos formas en que el progreso de la IA podría salir muy mal y que debemos evitar”, planteó Altman en una serie de publicaciones en X, difundidas después de anunciar que OpenAI no saldrá a bolsa este año.
El empresario señaló como primer riesgo la posibilidad de que los seres humanos pierdan el control sobre el desarrollo y las decisiones de sistemas cada vez más capaces. “Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas”, afirmó.
Para evitar ese escenario, Altman consideró necesario que las técnicas destinadas a garantizar la alineación y la seguridad de los sistemas avancen al mismo ritmo o incluso por delante de las capacidades de los modelos. “Necesitamos formas de asegurar que las técnicas de alineación y seguridad se mantengan por delante del progreso en las capacidades de los modelos”, sostuvo.
El segundo peligro señalado por el CEO de OpenAI es una excesiva concentración de poder en manos de quienes controlen las tecnologías más avanzadas. Según advirtió, una IA extraordinariamente poderosa podría convertirse en una herramienta para que una persona, una empresa o incluso un país impongan sus intereses sobre el resto.
“Podríamos terminar en un mundo con demasiada concentración de poder. Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos”, dijo.
Altman reconoció, sin embargo, que evitar simultáneamente esos dos escenarios plantea un desafío. “Evitar estas dos amenazas requiere caminar por un angosto camino intermedio; por ejemplo, un país podría ganar demasiado poder. Otro ejemplo es un laboratorio terminando con demasiado poder”, agregó.
Por otro lado, los jefes de Anthropic y OpenAI y Elon Musk coincidieron el sábado en una advertencia poco habitual dentro de una industria marcada por la competencia feroz: es necesario bajar el ritmo en el desarrollo de los modelos más avanzados para ganar tiempo y reforzar las medidas de seguridad.
El primero en plantearlo fue Dario Amodei, director ejecutivo y cofundador de Anthropic, la empresa detrás del chatbot Claude. Horas después, Altman —uno de sus principales rivales— respaldó públicamente su propuesta y anunció que su compañía adoptará una de las medidas sugeridas por Amodei: permitir que evaluadores independientes tengan un nivel de acceso similar al de los empleados para supervisar los riesgos de sus sistemas.
“Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA”, escribió Altman. El empresario aseguró que el asunto había sido uno de los principales temas de discusión dentro de OpenAI durante las últimas semanas y calificó como “una gran idea” la incorporación de supervisores externos. “Nosotros haremos lo mismo. Pronto tendremos más para compartir”, agregó.
Poco después se sumó Musk, quien también respaldó el planteo de Amodei. “Dario tiene razón”, escribió escuetamente en X.
Más leídas
2Colapinto eleva el rendimiento, ofrece más elemento de análisis a Alpine y es el único piloto sin abandonos en la Fórmula 1
3Antonela Roccuzzo, empresaria y esposa de Messi: “Nos levantamos muy temprano, llevamos con Leo a los chicos al colegio y me voy a entrenar”
4Ramón Díaz, dueño de Los Ramones, logró su primer Gran Campeón Macho Angus: “Es una coronación hermosa”