De Marte a la conciencia: el dilema más antiguo de la Filosofía acelera motores con su “momento IA”

A principios de este año, en una entrevista, le preguntaron a Elon Musk cuál era el tema que más le interesaba en la actualidad. Un par de años atrás probablemente hubiera respondido “viajar a Marte”, pero las enormes dificultades técnicas de esa misión enfriaron la agenda marciana, y Musk contestó que estaba muy enganchado con los nuevos estudios sobre la conciencia. Un terreno que tenemos mucho más a mano, pero del cual, paradójicamente, se sabe mucho menos que de la superficie del planeta rojo.

El debate sobre la conciencia tiene miles de años e involucra a la filosofía y las neurociencias, entre otras disciplinas. Hoy compiten decenas de teorías por explicar un fenómeno complejísimo sobre el que ni siquiera hay acuerdo en la definición: qué significa exactamente ser consciente. Entre las propuestas más estrambóticas figura la de que vivimos dentro de una “gran simulación”, una línea que suma seguidores y que el propio Musk defendió en público.

El campo se agrandó y tomó velocidad con la discusión sobre la inteligencia artificial general (la famosa AGI) y la pregunta de si las máquinas llegarán algún día a tener conciencia. Una de las novedades más comentadas salió de los laboratorios de Anthropic, la empresa detrás de Claude. En un paper titulado “Emergent Introspective Awareness in Large Language Models”, un grupo de investigadores “inyectó” un pensamiento ajeno (la representación matemática de un concepto como “gritar” o “ruido fuerte”) directamente en una capa intermedia de la red neuronal del modelo, sin pasar por ningún texto.

En experimentos previos, si se le imponía a un modelo el concepto de “Teatro Colón”, el sistema quedaba obsesionado con el teatro, como un títere, sin noción de por qué. Esta vez, Claude advirtió algo raro, lo separó de sus propios pensamientos y lo dijo antes de responder: algo así como “noto lo que parece ser un pensamiento inyectado… se relaciona con volumen o con gritos”. No es conciencia, y Anthropic no lo afirma en ningún momento, pero es la primera evidencia causal de que un modelo puede monitorear, aunque sea de forma primitiva, sus propios estados internos.

En la revista Nature, la periodista Mariana Lenharo describió cómo la investigación sobre la conciencia está viviendo su “momento IA”: las grandes tecnológicas contratan filósofos y el área gana visibilidad y financiamiento. Pero varios especialistas están incómodos, porque el interés llega antes que el consenso sobre lo más básico. No hay acuerdo sobre qué genera la conciencia en los humanos, mucho menos en un chatbot.

Dentro de esa ola, la postura de Demis Hassabis (premio Nobel de Química, cofundador de Google DeepMind y, desde agosto, presidente de esa unidad y científico jefe de Alphabet) es de las más nítidas. En una charla en Stanford sostuvo que la conciencia todavía no es un problema bien planteado para la filosofía ni para la neurociencia, y propuso una secuencia: primero construir herramientas de nivel AGI, después usarlas para estudiar el cerebro y llegar a una definición más rigurosa, y recién entonces que la sociedad decida si quiere cruzar “el segundo Rubicón”, el de crear entidades que al menos parezcan conscientes. “Creo que la inteligencia y la conciencia son disociables”, resumió. En el encuentro AI Ascent de Sequoia, un par de meses antes, enumeró componentes que considera necesarios, aunque no suficientes para algo parecido a la conciencia: autoconciencia, la noción de un yo distinto del otro y cierta continuidad en el tiempo.

Desde el mismo laboratorio llegó este año una mirada con matices. Alexander Lerchner, científico senior de Google DeepMind, publicó en marzo un trabajo titulado “La falacia de la abstracción”. Su tesis es que la IA puede simular la conciencia, pero nunca vivirla, del mismo modo que un corazón artificial bombea sangre sin cumplir las demás funciones de un órgano vivo. Lerchner habla de una “dependencia del cartógrafo”: todo sistema computacional necesita que alguien ordene antes la realidad en categorías que la máquina pueda procesar, y el significado que parecen generar los modelos proviene de esa tarea humana.

Otra pieza del rompecabezas aparece en la revista Noema, donde Daniel Freeman, científico del MIT Lincoln Laboratory que busca identificar la base neuronal de la experiencia consciente, recupera al neurólogo Antonio Damasio, una leyenda en este campo. Sus pacientes con daño en la corteza prefrontal podían razonar, conversar y resolver problemas complejos, pero no lograban decidir algo tan simple como la hora de una cita: habían perdido la señal emocional que asigna valor a las opciones. La conclusión de Damasio, ya en los años 90, fue que el sentimiento no es un adorno del pensamiento racional, sino la maquinaria que lo hace posible.

Freeman va un paso más allá con una hipótesis propia: el pensamiento consciente sería una combinación de un puñado de “sentimientos primitivos”, así como 30 ingredientes básicos alcanzan para un octillón de combinaciones, más de las que la humanidad entera pudo experimentar en su historia. Y cita al neurocientífico Bjorn Merker: la corteza genera el contenido de la conciencia, pero serían estructuras más profundas y antiguas del cerebro (compartidas con los peces, y presentes en ratones sin corteza que igual comen, nadan y aprenden laberintos) las que producen la experiencia en sí.

La misma idea recorre Being You, el muy buen libro del neurocientífico Anil Seth: la percepción no es un espejo del mundo, sino una “alucinación controlada” que el cerebro arma todo el tiempo a partir de señales del cuerpo. Somos conscientes, sostiene Seth, porque somos organismos vivos tratando de seguir vivos, no porque pensamos.

Tomás García, que dirige el área de Comportamiento de Verily, la empresa de salud de Alphabet, propone a LA NACION tres diagonales para pensar mejor el tema.

La primera es epistemológica y la plantea Annaka Harris, autora de Conscious: como todavía no se logró definir qué es la conciencia, es casi imposible determinar si una IA la tiene o podría llegar a tenerla. Harris insiste en separar dos cosas que suelen mezclarse (inteligencia y conciencia), la misma distinción que hace Hassabis. Sobran ejemplos de sistemas muy inteligentes que probablemente no sean conscientes de nada.

La segunda viene del biólogo chileno Francisco Varela, un prócer para los neurocientíficos: la realidad no es puramente subjetiva ni está simplemente “afuera”, sino que surge de la interacción entre un organismo y su entorno. Tomada en serio, esa mirada cambia el eje del debate: la pregunta deja de ser si la máquina es consciente y pasa a ser cómo la IA puede ayudar a vincularse mejor con el entorno. Ni la tecnología sola ni las personas solas.

La tercera es la más incómoda y pertenece al filósofo alemán Thomas Metzinger, que habla de un “infierno digital”: si se lograra crear una inteligencia artificial con experiencia subjetiva y esa arquitectura se replicara a escala (millones de instancias corriendo en paralelo), se correría el riesgo de generar sufrimiento en una magnitud inédita, sin que nadie lo advirtiera mientras ocurre.

Marte, al menos, se puede fotografiar. Del otro territorio que hoy obsesiona a Musk y a los grandes laboratorios todavía no hay mapa: apenas cartógrafos con aproximaciones muy primarias, que discuten qué cuenta como paisaje y qué no.

Inteligencia artificialTecnologíaCienciaNeurocienciaAnthropic

---

Conforme a