IA: la construcción del lenguaje y sus consecuencias
Hoy, los avances en I.A. son increíbles. Las máquinas parecen poder analizar los datos aún mejor que nosotros. ¿Pero es realmente así y cuáles son los riesgos? ¿Hay sesgos? Si las máquinas están siendo desarrolladas con capacidades de pensamiento propio es una de las incógnitas que se presentan en la actualidad y que a través de investigaciones invitamos a analizar y a cuestionar los límites entre lo humano y lo artificial.
Diversas investigaciones dan cuenta de cómo se programan a las máquinas hoy en día y las diferencias entre el modo en que se pensaba la programación antes, así como las posibles implicaciones de estas diferencias. Cuando se programa la IA tomando el lenguaje únicamente como simples etiquetas para nombrar determinadas cosas se corre el riesgo de perder una dimensión importante. Incluso, hace rato que está comprobada la manipulación verbal.
Hay fallas que muestran que el buen o mal resultado dependen de cómo se articulen las distintas piezas de información. A los psicoanalistas esto no nos sorprende porque la estructura básica del Deep Learning (que esquematiza el modo en que una IA razona y decide sus actos) reproduce el primer modelo de aparato psíquico de Freud del año 1900. Y las investigaciones actuales de matemáticos y físicos del campo de IA tienen similitudes asombrosas con los desarrollos que el psicoanalista Jacques Lacan hizo en 1972. Lo que en términos de IA ha sido la gran revolución “programar en Lenguaje” y sus avatares es explicado por Lacan ya en 1954 hablando de cibernética.
El gran tema en la actualidad es cómo concebimos qué es el lenguaje. Si pensamos que es sólo un medio de comunicación, esta ceguera nos podría llevar a grandes fatalidades en materia de IA. La Filología y los extensos desarrollos acerca del poder del lenguaje, Chomsky incluido, no parecen ser tenidos en cuenta hoy.
El lenguaje no sólo permite que nos comuniquemos, también es una extensa red de palabras que configura lo que podemos ver y lo que no. Es como el clásico ejemplo de los tonos de blanco que ninguno de nosotros percibe, si no se ha criado en Alaska. El lenguaje no es sólo un catálogo de palabras que sirve para describir la realidad, donde la palabra “perra” sólo significa nuestra mascota. Las combinaciones incorrectas pueden producir efectos graves. Por eso llama la atención escuchar a Yann LeCun (científico jefe de IA en Meta, profesor de la Universidad de Nueva York y ganador de los Premios Turing y Harold Pender en 2018) en una entrevista con el investigador e informático Lex Fridman afirmar que el lenguaje es sólo un modo de nombrar, como una etiqueta.
Pero, ¿es posible etiquetar todo? Si el lenguaje se reduce a una etiqueta ¿dónde queda la cultura como producción humana que deriva del lenguaje?
Volviendo a la manipulación verbal, la publicidad es buena prueba de eso. La forma de construir un mensaje conduce los pensamientos de quien lo escucha, sea en forma subliminal o en forma inconsciente. En 2016, Cambridge Analytica logró influenciar a muchos votantes para que eligieran a Donald Trump para la presidencia de los EE.UU. mediante información de los perfiles de Facebook.
El año pasado, Marietje Schaake, una e diputada neerlandesa experta en tecnología, fue etiquetada falsamente como terrorista por BlenderBot (un chatbot de inteligencia artificial desarrollado por Meta) porque su programación había combinado dos datos no relacionados en una frase incorrecta.
Así, es fácil comprender por qué los programadores no entienden las comprobadas “alucinaciones” o mentiras y omisiones en que incurren algunas IA y que los psicoanalistas explicamos porque conocemos cómo se comporta el “sistema Lenguaje”.
Mejor que nos tomemos un momento para pensar en esta diferencia pues lo que las próximas generaciones reciban de nosotros como temas relevantes dependerá en gran medida de lo que personas como LeCun consideren que vale la pena etiquetar.
Psicoanalista
Conforme a los criterios de
