Cómo surgió la polémica entre Javier Milei, Yuval Harari y el jefe de IA de Microsoft por las empresas gestionadas por inteligencia artificial
El Gobierno presentó un proyecto de ley que busca crear sociedades que sean administradas por inteligencia artificial, sin la necesidad de contar con personas humanas; el historiador Yuval Harari y el jefe de IA de Microsoft, Mustafa Suleyman, comentaron la iniciativa
8 minutos de lectura'
Desde sus inicios, el gobierno de Javier Milei demostró tener un objetivo claro respecto al avance de la inteligencia artificial (IA): posicionar a la Argentina como referente de la innovación tecnológica. De hecho, el Presidente destacó en una reciente columna publicada en el Financial Times su compromiso de "mantener la IA sin regular para que pueda desarrollarse libremente, sin la mano mortal de una regulación prematura y mal comprendida”.
En este sentido, la iniciativa de crear “sociedades automatizadas”, es decir, que son administradas por algoritmos o agentes de IA, sin la necesidad de contar con empleados humanos, es uno de los puntos más fuertes de la reforma integral de la ley general de sociedades (19.550), que fue enviada al Congreso el pasado 29 de mayo, y que tomó notoriedad internacional esta semana, luego de que el filósofo e historiador Yuval Harari, autor del bestseller Sapiens, rechazara esta idea en una columna en el Financial Times.
En su texto, Javier Milei propone “la creación de una nueva categoría corporativa en la ley argentina: la corporación no humana. Estas son entidades operadas por agentes de IA o robots. Cuando estos sistemas ejercen un juicio independiente en entornos impredecibles —como deben hacerlo para ser realmente útiles—, sus acciones conllevan riesgos reales", planteó Milei en su columna. Y agregó: “La responsabilidad limitada no es un lujo para estas entidades; es una condición indispensable para su existencia. Los accionistas humanos pueden participar, pero no es obligatorio”.
”Que Buenos Aires se convierta para la IA en lo que Ámsterdam fue para la era de la navegación: el lugar donde la imaginación jurídica se puso al día con el avance tecnológico y el mundo cambió“, imaginó Milei en su propuesta.
Pero el proyecto genera inquietud entre los expertos, porque ¿quién es el responsable por las acciones de una empresa que no tiene humanos al frente? La propuesta de Milei dice que deberá responder por los daños que puedan ocasionar esos sistemas, pero no aclara cómo.
La visión de los expertos
Para Raúl Martínez Fazzalari, abogado especialista en tecnología, el proyecto del Gobierno es válido en términos jurídicos y teóricos. “Para crear una entidad de IA distinta a un ser humano, alguien tiene que crear un prompt, es decir, darle a la IA un objetivo y la ‘capacidad’ de hacer, pensar y ejecutar algo. El Estado, a través de una regulación, le va a dar un reconocimiento legal”, explicó a LA NACION. Y añadió: “No me parece descabellado, es muy de vanguardia”.
Sin embargo, subrayó la importancia de que tales sociedades estén reguladas “exactamente como los derechos y obligaciones que tiene una persona jurídica”. “Hay que cubrir la laguna legal”, enfatizó.
En este sentido, el experto señaló quiénes serán los dueños de estas sociedades como otro de los puntos a tener en cuenta: “¿quién es el dueño del programa? ¿La empresa que lo hizo, los que pusieron los datos para entrenar a la IA o vos que le diste el prompt al software?“.
Javier Pallero, especialista en derechos, tecnología y sociedad, opinó que la medida es como “querer volar antes de correr”. “Ni siquiera tenemos buenas leyes de protección de datos y estamos viendo cómo podemos hacer para que un robot ejecute contratos automáticamente, ¿con qué seguridad?“, planteó.
Por este motivo, sostuvo que, si bien puede ser “legalmente viable”, en la realidad “no es practicable”. “Lo veo complicado porque afecta a un montón de áreas que van más allá de cómo se forma y cómo funciona una empresa. Necesitás que esa empresa pueda hacerse responsable de los daños que cause, que pueda interactuar con otros actores de la economía de manera adecuada, que pueda responder civil y penalmente por los daños que cause”, detalló.
Cada uno de estos aspectos refiere a la “transparencia algorítmica”. “Es difícil auditar finamente cómo funciona y cómo se deciden las cosas. Es darle a la IA el poder de decidir sobre bienes y derechos de las personas”, dijo.
Además, cuestionó el concepto de “automatizada”, ya que toda IA funciona —directa o indirectamente— bajo las órdenes de un humano. “Me suena a tirar la piedra escondiendo la mano. No existe la autonomía total. Tiene que haber un clarísimo esquema de responsabilidades", precisó.
Bajo esta línea, sostuvo que utilizar estas tecnologías como herramientas sería una mejor alternativa. “Se puede experimentar sobre cómo se puede usar en la economía, pero yo no sé si les daría un marco de tanta libertad a esos entes”, sintetizó.
De Kargieman a Harari, Suleyman
La génesis del proyecto fue atribuida en redes a Emiliano Kargieman, emprendedor y cofundador de Sur Energy —la empresa que firmó una carta de intención con OpenAI para construir un data center de IA en la Patagonia— por un texto que publicó en abril de este año, explorando el concepto de las entidades autónomas legales (Autonomous Legal Entities: A Polycentric Framework for Machine Agency).
Sin embargo, Kargieman aclaró a LA NACION que su relación con la iniciativa fue “puramente intelectual, no política”. Mantuvo diálogo con el ministro de Desregulación y Transformación del Estado, Federico Sturzenegger, y la diputada Sabrina Ajmechet para aportar ideas. “Luego me pasaron alguna versión preliminar del proyecto sobre la que ofrecí mis comentarios”, indicó.
Uno de los principales puntos de Kargieman en su concepto es la necesidad de incluir organismos de control, seguros, un comité humano responsable y un "kill-switch" para “suspender automáticamente las operaciones cuando se superan los umbrales de riesgo definidos”, explicó en X el programador, docente y periodista especializado en ciencia y tecnología Maximiliano Firtman. No obstante, el Gobierno no incluyó estas características en su proyecto.
“Creo que es fascinante que Argentina pueda ser pionera en este debate tan oportuno”, señaló Kargieman.
La propuesta de Milei despertó un fuerte debate a nivel internacional. Uno de los que se pronunció fue el historiador y filósofo israelí Yuval Noah Harari, que se refirió específicamente a Milei en un posteo en X.
Específicamente, el autor de Sapiens se refirió al proyecto de ley presentado por el Gobierno y advirtió que, si prospera, las corporaciones de IA estarán en posición de “convertirse en expertas en lagunas legales y arbitraje regulatorio” y que “no será fácil disuadirlas de participar en actividades directamente ilegales” si eso asegura su supervivencia. “La máxima sanción que disuade a los ejecutivos y empleados humanos —la cárcel— resulta irrelevante para las IA", escribió en un artículo publicado esta semana en el Financial Times, titulado “No debemos otorgar personalidad jurídica a los agentes de IA”.
Y agregó: “Los países que otorgan a las IA personalidad legal corren el riesgo de convertirse en algo para lo que el registro histórico no ofrece analogía: no un estado corporativo, sino un estado de IA, un país cuyo pueblo podría, en efecto, ser gobernado por corporaciones no humanas, contra las que podría ser aún más difícil rebelarse. Milei espera convertir a Buenos Aires en un nuevo Amsterdam. En su lugar, se arriesga a convertirlo en un nuevo Batavia”, dijo, en referencia al puerto de Jayakarta, en lo que hoy es Indonesia, donde la Compañía Holandesa de las Indias Orientales construyó un estado-empresa que duró 40 años a mediados del siglo XVII.
Mustafa Suleyman, CEO de Microsoft AI (la división dedicada a la inteligencia artificial del gigante informático), coincidió con esta mirada. “Tenemos que tener mucho cuidado con esto”, escribió el ejecutivo en X, citando el tuit de Harari.
En un artículo publicado en Nature y republicado en su blog personal, Suleyman explica que la IA no es consciente, ni autónoma, y que los usuarios no deben confundir esa simulación de inteligencia por el elemento real; y dejar que actúen sin supervisión podría traer serios problemas.
“Se necesita un nuevo marco conceptual para salvaguardar los intereses humanos a medida que se desarrolla la IA. A medida que los sistemas de IA operan con mayor autonomía, deben seguir siendo fundamentalmente responsables ante los humanos y estar al servicio del bienestar de la humanidad. Los agentes de IA no deberían tener más derechos ni libertades que una computadora portátil -reclama Suleyman en su artículo-. Los desarrolladores deben eliminar activamente la ilusión de conciencia de nuestros productos".
Después del tuit de Harari, el presidente Javier Milei le respondió con un mensaje en redes al escritor israelí. “Querido @harari_yuval, muchas gracias por participar en este fascinante y trascendental debate. Estamos en el amanecer de una nueva era, que nos sitúa, creo, en un lugar no tan diferente del que tú mismo describiste tan bien en *Sapiens* y tus otros libros: ese tiempo en que los humanos usamos ficciones para organizar nuestro trabajo colectivo y beneficiarnos de la tecnología. Ahora necesitamos más que nunca toda nuestra inteligencia para construir el marco que nos permita aprovechar las increíbles oportunidades que tenemos por delante. ¡Ya estoy preparando mi respuesta para ver si podemos calmar tus temores sobre el camino que propuse la semana pasada!“, escribió Milei.
Más leídas
1Polémica en la conferencia de Scaloni: el periodista Nicolás Singer explicó cómo fue expulsado de la sala
2El expiloto presidencial de Néstor Kirchner confirmó que trasladó a uno de sus secretarios con valijas cerradas por candados a Santa Cruz
3Experimento en tiempo real: cambia rápidamente todo lo que sabemos sobre los nuevos medicamentos para adelgazar
4YPF cierra una unidad de negocios y afecta a un coloso del consumo masivo
