Yuval Harari cuestionó a Milei por su iniciativa de crear empresas no humanas a través de la IA

El influyente historiador y filósofo israelí Yuval Noah Harari, que en Nexus, uno de sus últimos libros, advirtió sobre las amenazas de posibles usos “totalitarios” de la inteligencia artificial (IA), cuestionó hoy un artículo de Javier Milei publicado la semana pasada en el Financial Times. En su mensaje, el Presidente se había mostrado a favor de crear “sociedades automatizadas”, que funcionan con algoritmos o robots, sin la necesidad de contar con personas humanas. Una iniciativa que incluso tomó forma de proyecto de ley para reformar la normativa que rige en el país para la conformación de sociedades.

“Cuando hablé en el Foro Económico Mundial en enero de este año, advertí que los gobiernos podrían algún día otorgar personalidad jurídica a los modelos de IA. “Jamás imaginé que ese “algún día” llegaría tan solo cuatro meses después”, escribió Harari en un artículo publicado hoy en el Financial Times y cuyo título es “No debemos otorgar personalidad jurídica a los agentes de IA”.

Desde el título, Harari se ubica en la vereda de enfrente de Milei, quien imagina una nueva tipología de empresas no humanas con el objetivo de garantizar una seguridad jurídica a un tipo de inversiones que en general operan en un gris legal. Esa idea es la que surge del proyecto de ley empujado por el ministro de Desregulación, Federico Sturzenegger.

“La semana pasada, en este periódico, el presidente argentino Javier Milei anunció la creación de una nueva categoría jurídica para las corporaciones no humanas. Al igual que las corporaciones tradicionales, estas corporaciones no humanas gozarán de los beneficios de la personalidad jurídica. Presumiblemente, podrán poseer activos, contratar empleados, participar en el comercio internacional, demandar ante los tribunales e incluso donar a campañas políticas. A diferencia de las corporaciones tradicionales, podrán hacer todo esto sin la intervención ni la responsabilidad de ningún ser humano. Todas las decisiones sobre compra, venta, contratación, inversión, litigios y donaciones podrán ser tomadas por agentes de IA” escribió Harari.

Y advirtió: “Otorgar personalidad jurídica a las IA permitiría a los agentes de IA emprender numerosas iniciativas nuevas, generando potencialmente una enorme riqueza. Sin embargo, la personalidad jurídica es una llave de uso general que también les permitiría acceder a nuestros sistemas financieros, económicos y políticos. Esto suscita muchas preocupaciones”.

En Nexus, Harari dedica centenares de páginas a reconstruir la historia de la información y, en particular, a analizar el “lado oscuro” de la IA. Si bien reconoce que esta tiene usos positivos, también señala los riesgos que el desarrollo de la IA podría tener para las democracias.

“Gracias a su superior capacidad analítica, las corporaciones de IA estarán en posición de convertirse en expertas en lagunas legales y arbitraje regulatorio. Y no será fácil disuadirlas de participar en actividades directamente ilegales, ya que la máxima sanción que disuade a los ejecutivos y empleados humanos —la cárcel— resulta irrelevante para las IA. Hasta ahora, las corporaciones han sido dirigidas por seres humanos con una doble naturaleza", planteó el influyente pensador, que ha vendido más de veinticinco millones de ejemplares de sus obras. Y añadió: “Los directores ejecutivos humanos son entidades corporativas que se preocupan por el éxito de la empresa y temen cosas como la bancarrota. Pero también son entidades biológicas, que se preocupan aún más por su libertad y felicidad y temen pasar diez años en prisión. Un director ejecutivo de IA sería una entidad puramente corporativa, y no está claro qué tipo de sanciones podrían controlarlo. Si se enfrenta a la bancarrota —que equivale a su desaparición—, presumiblemente estaría dispuesto a hacer cualquier cosa para evitar ese destino".

Harari, un israelí que no comulga políticamente con Benajamin Netanyahu, recordó que Milei en su artículo había citado el ejemplo de la Compañía Holandesa de las Indias Orientales, que consolidó a Amsterdan como un centrol global de comercio y finanzas por haber sido pioneros de la sociedad de responsabilidad limitada, según la mirada presidencial.

Harari refutó lo planteado por el presidente argentino. “Pero las consecuencias de esta innovación se sintieron más agudamente no en Amsterdam, sino en el puerto de Jayakarta, en lo que hoy es Indonesia. Cuando la Compañía Holandesa de las Indias Orientales capturó Jayakarta en 1619, la quemaron y construyeron una nueva ciudad en su lugar. Lo llamaron Batavia, y se convirtió en la sede de un extenso imperio asiático administrado por la Compañía Holandesa de las Indias Orientales. Los historiadores se refieren a la Compañía Holandesa de las Indias Orientales como un “estado de la empresa”, una entidad política dirigida por una empresa privada, no en beneficio de su gente súbdita, sino de los accionistas de la empresa. Los holandeses afirmaban ser una raza maestra que merecía conquistar y explotar a los nativos gracias a una supuesta inteligencia superior. Pero esto fue una ilusión, y a finales de los años 40 los indonesios finalmente obtuvieron su independencia después de una larga y sangrienta lucha".

Y remató: “Los países que otorgan a las IA la personalidad legal corren el riesgo de convertirse en algo para lo que el registro histórico no ofrece analogía: no un estado corporativo, sino un estado de IA, un país cuyo pueblo podría, en efecto, ser gobernado por corporaciones no humanas, contra las que podría ser aún más difícil rebelarse. Milei espera convertir a Buenos Aires en un nuevo Amsterdam. En su lugar, se arriesga a convertirlo en un nuevo Batavia”.

Ante la publicación de Harari, Milei reaccionó con un retuit a un mensaje del empresario argentino Martín Varsavsky al que le añadió la palabra “masterclass”.

Pero unas horas más tarde, el Presidente le dedicó un mensaje al escritor israelí. “Querido @harari_yuval, muchas gracias por participar en este fascinante y trascendental debate. Estamos en el amanecer de una nueva era, que nos sitúa, creo, en un lugar no tan diferente del que tú mismo describiste tan bien en *Sapiens* y tus otros libros: ese tiempo en que los humanos usamos ficciones para organizar nuestro trabajo colectivo y beneficiarnos de la tecnología. Ahora necesitamos más que nunca toda nuestra inteligencia para construir el marco que nos permita aprovechar las increíbles oportunidades que tenemos por delante. ¡Ya estoy preparando mi respuesta para ver si podemos calmar tus temores sobre el camino que propuse la semana pasada!“, reaccionó Milei.

LA NACION

• Javier Milei

---

Conforme a

Tipo de trabajo:

noticia original

Agenda oficial El Gobierno vuelve a reunir a su mesa política y Milei participa de otro homenaje al rebe de Lubavitch

Análisis. Bullrich y Macri, entre las grietas libertarias

Pujas locales. La UCR bonaerense dirimió nueve internas municipales, tras sellar la unidad provincial

Minuto a minuto. Javier Milei y sus medidas, en vivo: expectativa por la presentación de la declaración jurada de Manuel Adorni

Los gobernadores, en alerta. Crece el estrés financiero en las provincias y condiciona las negociaciones con la Casa Rosada

En su segundo River. Lali recordó sus enfrentamientos con Milei y contó qué le aconsejó su entorno