“Estamos dejando de pensar”: ayudó a crear el cerebro de los autos autónomos y ahora advierte sobre los riesgos de la IA

Mois Navon es un especialista en ética e inteligencia artificial que inició su carrera como ingeniero, creando un chip clave para el funcionamiento de los autos autónomos. En los últimos años, orientó su trabajo hacia los debates éticos que plantea la IA, un campo en el que incluso asesora al Ministerio de Innovación, Ciencia y Tecnología de Israel (en materia de políticas y regulación de inteligencia artificial).

Hace más de 25 años, Navon se incorporó a la empresa Mobileye, y fue uno de sus “founding engineers”. Además, 10 años atrás, decidió combinar el mundo de la tecnología con la ética: hizo un doctorado en Filosofía y se ha dedicado a dar clases y escribir sobre estas temáticas. “Considero que estamos acá para ser tan morales y sabios como nos sea posible. Siempre me sentí atraído por la filosofía y la búsqueda de propósito, y es algo que no solo quiero aprender para mí mismo, sino que busco enseñarlo a otros. Así es como terminé cambiando mi vida, obtuve mi doctorado y ahora escribo y enseño sobre esto en todo el mundo”, aseguró Navon.

Desde su casa en Israel, Navon conversó con LA NACION y anticipó algunos temas que abordará en su próxima visita a la Argentina. Llegará a Buenos Aires para participar como keynote speaker de un evento organizado conjuntamente por el IAE Business School y la Facultad de Ingeniería de la Universidad Austral, que tendrá lugar el 3 de septiembre por la tarde, en la nueva sede del IAE, en Workplace by IRSA.

-¿Qué error podemos estar cometiendo como sociedad al incorporar la inteligencia artificial tan rápidamente?

-Mucha gente habla del tema del descontrol, de que la IA va a destruir el mundo. Más allá de que es un inconveniente real y hay que pensar en cómo abordarlo, no es el desafío de hoy. El mayor problema actualmente es que la gente está interactuando con la IA de formas que van a destruir la humanidad.

En concreto, la primera gran cuestión tiene que ver con que estamos perdiendo las habilidades de ser los animales sociales que Aristóteles dijo que teníamos que ser. Nosotros nos desarrollamos como personas interactuando justamente con otras personas, necesitamos de los otros; incluso si sabemos cómo hacer absolutamente todo, precisamos de la gente. El problema es que las estamos dejando de lado y estamos desarrollando interacciones sociales con máquinas; la gente se está convirtiendo en amiga de ChatGPT, Gemini y todos los LLM que existen. Es algo que Mark Zuckerberg ya había predicho; había asegurado que la gente no tiene amigos y que ellos iban a ser la solución a ese problema.

En ese escenario, se da lo que los filósofos llaman “relaciones unidireccionales”: yo mantengo un vínculo con una máquina, pero ella no está teniendo una relación conmigo, porque no puede, es pura matemática y estadística. Eso está llevando al aislamiento y a que la gente evite socializar, porque, ¿por qué mantendría una relación con personas que me contradicen o a veces piensan distinto, cuando puedo tener una relación perfecta con una máquina, que valida todo lo que digo?

La cuestión es que crecemos como personas porque la gente nos desafía; maduramos aprendiendo a negociar, y se ha visto que estamos perdiendo las habilidades de negociación, no importa si es con una esposa, un compañero de negocios o un país. No sabemos cómo hablar con los demás, porque estamos interactuando con máquinas diseñadas para ser amables con nosotros.

-¿Qué habilidades cognitivas estamos perdiendo?

-Si una persona tiene un problema, tiene que sentarse y pensar cómo resolverlo. La cuestión es que ahora uno puede recurrir a una máquina, presentarle la dificultad y pedirle que la resuelva. Pero en el momento en que uno le delega el pensamiento a la máquina, deja de pensar. Cada vez hay más evidencia de un deterioro cognitivo asociado a esta tendencia, y eso es muy preocupante.

Pensemos en los trabajos. En mi caso, me dedico a escribir papers y puedo usar la IA para que me escriba el texto o puedo aprovecharla como un editor asistente. Si le delegara toda la tarea, estaría renunciando a desarrollar la habilidad central de mi profesión, que es escribir.

En resumen, los peligros más grandes a los que estamos exponiéndonos como humanidad tienen que ver con que estamos perdiendo nuestras habilidades sociales y cognitivas. Está en nuestras manos contrarrestarlo, pero el desafío es que estamos programados para tomar la ruta más fácil.

-¿Qué capacidad o habilidad humana estamos delegando en las herramientas automatizadas, que corremos el riesgo de perder?

-Hay un concepto que se utiliza para hablar de eso, llamado “deskilling”, que se refiere a perder capacidades o destrezas cuando delegamos demasiadas tareas en máquinas. Uno de los ejemplos clásicos tiene que ver con la capacidad de orientarse, antes de que existiera el GPS.

Hoy, la gente no está escribiendo, le pide a la IA que escriba por ella. Ahora bien, la escritura es pensar, por lo que, si la gente no escribe, no está pensando. Tenemos que tener mucho cuidado con lo que delegamos, y lo que deberíamos estar delegando no es nuestra propia humanidad, ni el corazón de nuestros trabajos.

-¿Por qué creés que, hoy más que nunca, las organizaciones necesitan integrar principios éticos en sus procesos de innovación?

-Te daré la respuesta de Aristóteles. Él se preguntó «¿Cuál es el objetivo de la humanidad? ¿Por qué estamos aquí?» Su respuesta fue que el propósito es expandir tu mente, debes ser la persona más inteligente que puedas ser. Eso es lo que distingue a los seres humanos de todo lo que hay en el mundo, que tenemos inteligencia. Él aseguraba que eso es lo que debemos intentar desarrollar, porque por eso estamos acá.

Al mismo tiempo, señalaba que no se puede ser el ser más inteligente si uno no es un ser ético. En ese sentido, no puede existir tal cosa como un “mafioso exitoso”; si sos un criminal, es porque perdiste el punto. Entonces, el objetivo de la humanidad es convertirse en el ser humano más sabio y moral posible.

En ese contexto, individuos o instituciones no son realmente exitosos si no están tomando en cuenta la ética, si están pasando por encima a la gente para ganar dinero. A veces, nos perdemos en los medios, pero no debemos confundir los fines con los medios. El dinero, por ejemplo, nunca puede ser el objetivo, porque el dinero siempre es el medio para alcanzar algo. Si tu institución se trata solo de ganar dinero, entonces estás perdiendo el norte.

-¿Y en el caso de la IA cómo ves esto?

-Hoy en día, todo es inteligencia artificial; está presente en autos autónomos, en laboratorios que desarrollan medicamentos, pero si nos restringimos a los LLM, tienen que ser éticos de muchas maneras. En primer lugar, en temas de privacidad y cuidado de los datos, porque saben todo sobre cada uno de nosotros. Es importante saber si mis datos están siendo utilizados y asegurarme de que no terminen expuestos públicamente de un día para otro. Es por eso que no uso los LLM chinos, porque no sabés qué están haciendo con tu información.

-Y pensando en la siguiente generación o en la actual, que está creciendo junto con la IA y delega todo en ella, ¿cuáles creés que serán los riesgos de exponer a personas jóvenes a esta tecnología?

-La respuesta se vincula con lo que mencioné antes, en relación a los riesgos vinculares y los cognitivos, pero los niños están en una situación más perjudicial. Los adultos que usan la IA para escribir ya aprendieron a escribir; todavía saben cómo pensar, porque crecieron sin esa tecnología. Pero los niños están en una situación de mayor desventaja y considero que las escuelas tienen que prohibir la IA por completo.

Lo mismo corre para el caso de las redes sociales, que han convivido con nosotros por más tiempo y el número de suicidios que ha habido es increíble.

-Hemos hablado de las tareas que recomienda no delegar nunca a la inteligencia artificial. Si tuviera que señalar algunas habilidades que vale la pena cultivar especialmente en esta nueva era, ¿cuáles serían?

-Creo que los seres humanos necesitamos cultivar estos campos que mencioné, de ser seres sociales, inteligentes y morales. Incluso cuando las máquinas aprendan a realizar cada vez más tareas, las personas seguirán valorando las creaciones humanas. Habrá algo especial en ver una película hecha por personas, contemplar una pintura o admirar una escultura creada por un ser humano. Aunque las máquinas también puedan producir esas obras, seguirán teniendo un valor único por su origen humano.

Y una prueba de ello es la partida de ajedrez que Garry Kasparov perdió contra Deep Blue, de IBM: fue la primera vez que una máquina derrotó a un campeón en un juego que, hasta entonces, se consideraba una demostración de inteligencia humana. La gente estaba asustada y uno pensaría que nadie más iba a jugar a este deporte, pero pasó lo contrario: hubo un boom del ajedrez. Y lo mismo pasó en con el juego Go.

-¿Crees que IA eventualmente podría volverse consciente?

-Cuando inicié mis estudios en estos temas, pensé que era algo ridículo, pero después de todos mis años de investigación, la respuesta es sí. Ahora bien, hay diferentes maneras de que una máquina pueda ser consciente y diferentes experimentos que se están haciendo en torno a esto.

Por un lado, creo 100% que las máquinas de hoy no son conscientes, no tienen ni idea de nada. No me importa lo que diga Richard Dawkins o Dario Amodei de que hay 35% o más de posibilidades de que su máquina esté viva. De hecho, yo me reuní con ellos y les comenté que, si consideraban que sus máquinas estaban vivas, estarían en un gran problema, porque, ¿qué es un ser consciente que hace su trabajo gratis? Es un esclavo y todos estamos de acuerdo en que la esclavitud no es algo bueno. Además, considero que la biología es el sustrato de la conciencia en este mundo. Necesitás más que transistores, hay algo metafísico que está sucediendo y ese sustrato de eso que llamamos la mente, la conciencia o lo que la gente religiosa llama el alma, necesita biología.

Por otro lado, se habla de que, si lográs crear una red neuronal biológica, vas a tener conciencia. Hay un profesor de Stanford, Sergiu P. Pasca, que está trabajando haciendo órganos y creando células cerebrales para lograrlo. Creo que deberíamos prohibirlo, considero que no deberíamos hacer máquinas conscientes, porque estaríamos construyendo esclavos.

-¿Cómo ves la evolución de los robots humanoides? ¿Creés que en un futuro tendrán IA?

-Absolutamente, no hay duda. Creo que los robots humanoides son lo próximo, la gente ha estado trabajando en ellos por muchos años y llegarán definitivamente a tu casa. Su motricidad fina, además, está mejorando día a día. La siguiente fase son los LLM, que básicamente son el corazón que nos permite interactuar y comunicarnos con ellos, por lo que serán los cerebros de los robots humanoides. No son solo para programar cosas, sino que interactuarán con nosotros.

-¿Trabajaste en el desarrollo de la encíclica del Papa León XIV? ¿Cómo colaboraste en ella o en el asesoramiento al Vaticano sobre estos temas? ¿Cuál creés que es la principal preocupación del Papa respecto al avance de la inteligencia artificial?

-No me reuní específicamente con el Papa, pero participé en un encuentro en el Vaticano como parte del Consejo de Sabiduría Aurora sobre Inteligencia Artificial del Vaticano. Presenté mi concepto del enfoque bíblico sobre la tecnología, donde utilicé la Torre de Babel como ejemplo del mal uso de la tecnología y el arado de Noé como ejemplo de su uso positivo.

De hecho, la encíclica retomó la Torre de Babel como ejemplo negativo, pero optó por presentar la reconstrucción de Jerusalén por parte de Nehemías como paradigma del uso de la tecnología para el bien. Y quizás esto señale cuál es su principal preocupación respecto a la IA hoy: tener en cuenta a la propia humanidad. Nehemías no se limitó a construir las murallas de la ciudad; también escuchó a la gente.

A través de este paradigma, convocó a todos los actores involucrados, tecnólogos y sociólogos, filósofos y personas de todas las religiones, a unirse en comunión para construir nuestro futuro, tal como lo hizo “Nehemías, un judío al servicio del rey persa Artajerjes”, al reconstruir Jerusalén.

-Anthropic sostiene que una IA puede ser entrenada para adherirse a determinados principios. ¿Existe el riesgo de que las empresas tecnológicas terminen definiendo qué está bien y qué está mal para toda la sociedad?

-¡Absolutamente! Este es un enorme problema, y ya he escrito sobre ello cuando ya ocurrió en la práctica.

Anthropic se negó a permitir que el Departamento de Defensa de Estados Unidos utilizara Claude para rastrear a ciudadanos estadounidenses con el fin de identificar terroristas. Su preocupación estaba relacionada con la privacidad y la democracia.

Estos son, por supuesto, valores éticos importantes. Pero, ¿quiénes son ellos para establecer las prioridades del pueblo estadounidense? No fueron elegidos ni designados para hacerlo.

-En la Argentina se ha debatido mucho la posibilidad de crear empresas autónomas. ¿Qué opina al respecto? ¿Hasta qué punto deberíamos permitir que la IA tome decisiones que afecten directamente a otras personas?

-Esta es una cuestión enorme y muy importante sobre la que todavía no he reflexionado lo suficiente como para dar una respuesta adecuada.

Por un lado, si se demuestra que los sistemas autónomos funcionan mejor que los seres humanos, no debería haber reparos en utilizarlos.

Por otro lado, no se puede responsabilizar a una máquina por sus errores, mientras que a los seres humanos, sí. Pero entonces surge otra pregunta: ¿para qué sirve la responsabilidad, si no es simplemente para garantizar buenos resultados?

De todos modos, como dije, es un tema que requiere una reflexión mucho más profunda.

Por María Josefina Lanzi

• FuturIA
• Inteligencia artificial
• Tecnología

---

---

Conforme a