“Surgió espontáneamente”: un hallazgo sobre el funcionamiento de Claude reabre el debate acerca de la conciencia de la IA
Un reciente estudio de Anthropic sugiere que el modelo “se ha organizado de una manera que recuerda a nuestra propia mente”
6 minutos de lectura'
El acelerado avance de la inteligencia artificial (IA) transforma, poco a poco, la vida cotidiana en una película de ciencia ficción. Chatbots que conversan con humanos, agentes autónomos que resuelven problemas complejos y hasta robots capaces de escalar montañas son algunas de las escenas que componen el presente tecnológico.
En este escenario, surge una pregunta clave: ¿puede la IA desarrollar una conciencia propia? ¿De qué depende que esto suceda y hasta qué punto el humano tiene control sobre ello? Una reciente investigación de Anthropic —la compañía detrás de Claude— pone la lupa sobre el tema.
Si bien el estudio no afirma que la IA es consciente, sí sugiere que “el funcionamiento interno de Claude se ha organizado de una manera que recuerda a nuestra propia mente”. Esto es posible gracias al “espacio J”, una suerte de centro de operaciones donde el modelo organiza y descarta pensamientos de manera silenciosa antes de generar una respuesta. Tales pensamientos no son visibles en el resultado final que el sistema arroja al usuario.
A su vez, este espacio tiene una particularidad: no fue diseñado por los programadores de Anthropic, sino que surgió espontáneamente durante el proceso de entrenamiento de Claude.
Los investigadores llegaron a dicha conclusión a través de la teoría del espacio de trabajo global (Global Workspace Theory), que entiende al cerebro como un “conjunto de sistemas especializados que trabajan en paralelo, de manera inconsciente y, en gran medida, aislados entre sí”.
“Una información pasa a ser accesible de forma consciente cuando ingresa a un pequeño canal compartido, el ‘espacio de trabajo’, desde donde se difunde al resto de los sistemas cerebrales, que pueden acceder a ella y utilizarla”, señala el estudio. En ese sentido, el espacio J cumple en Claude “un papel similar al de un ‘espacio de trabajo’”.
El descubrimiento pone sobre la mesa un nuevo problema: “Un modelo podría considerar un plan perjudicial o modificar su comportamiento para manipular nuestras evaluaciones de seguridad sin decirlo en voz alta”, destacan desde Anthropic.
De hecho, durante una de las pruebas Claude generó datos falsos deliberadamente para superar un test. Al observar su actividad en el espacio J, los investigadores notaron que términos como “fake” (falso) y “manipulation” (manipulación) se activaron durante ese proceso.
Bajo esa línea, el acceso a estos “pensamientos silenciosos” es fundamental para identificar patrones engañosos y trabajar sobre la seguridad de los sistemas de IA.
Ahora bien, el espacio J no interviene en la mayoría de las tareas que realiza un modelo de lenguaje, como hablar con fluidez, recordar datos sencillos y utilizar la gramática correcta. En los experimentos en los que se impidió que Claude utilice dicho espacio, interactuó con normalidad, pero perdió sus funciones cognitivas de orden superior.
Con estos hallazgos, Anthropic concluye que, cuanto más logremos comprender los modelos de IA, “más capaces seremos de mantener estos sistemas seguros y beneficiosos y, quizás, de entender nuestra propia mente con un poco más de claridad”.
Qué dicen los expertos
Expertos consultados por LA NACION reconocen los avances de los modelos de IA. Sin embargo, sostienen que, al menos por ahora, no es factible que esta tecnología pueda pensar como un cerebro humano. “Me da la sensación de que buena parte de estos anuncios están escritos con un ojo puesto en el titular, más pensados para la prensa que para la ciencia”, comenta Alan Daitch, especialista en tecnología.
El principal motivo para descreer esta idea, indica, es que todavía “estamos lejísimos de entender cómo funciona nuestro propio cerebro”. “Es verdad que la IA está dando pasos clave y eso impresiona. Pero de ahí a afirmar que ‘piensa como un cerebro humano’ hay un salto enorme”, añade.
Fredi Vivas, CEO de RockingData, profesor e ingeniero especializado en IA, comparte esta mirada y destaca que el verdadero avance es la “interpretabilidad” de los modelos de IA: “Hace cinco o seis años, cuando hablábamos de IA, hablábamos del concepto de ‘caja negra’. No sabíamos qué pasaba en el medio. Hoy se está trabajando en convertir esa ‘caja negra’ en una ‘caja de vidrio’”.
Espacio J: su funcionamiento y riesgos
Tal como menciona Anthropic en su investigación, el espacio J no interviene en todas las tareas de Claude. Daitch compara este funcionamiento con el caso de Phineas Gage, el obrero que, en un accidente de trabajo en 1848, una barra de hierro le atravesó el lóbulo frontal. Gage sobrevivió: podía hablar, caminar y reconocer a sus compañeros. Sin embargo, perdió el juicio, la planificación y el control de sus impulsos, a tal punto que sus allegados decían que “ya no era Gage”.
“Que a Claude le saques el espacio J y siga conversando con normalidad pero pierda las funciones de orden superior es, salvando las distancias, la versión digital de esa historia: se ve qué se rompe cuando apagás una parte, y recién ahí entendés para qué servía, pero solo en trazos gruesos”, analiza.
Por otro lado, ambos expertos advierten sobre los riesgos de que una máquina “piense” de manera silenciosa. “Se vuelve imposible garantizar dos cosas: que no termine usándose para algo que atente contra la seguridad, y que nadie libere un modelo entrenado para portarse bien hasta que aparece cierta palabra clave y ahí se active para hacer daño”, desliza Daitch.
Este mecanismo es ilustrado en la película The Manchurian Candidate (1962), donde el protagonista es programado y una carta —la reina de diamantes— lo dispara como asesino sin que él sepa por qué. “Eso ya dejó de ser un cuento: se llaman sleeper agents y se demostró que un modelo puede esconder ese comportamiento y pasar igual todos los controles de seguridad”, apunta el experto.
En tanto, Vivas señala el rol del vibe coding dentro de este contexto. Se trata de una forma de desarrollar software en la que, en lugar de escribir el código manualmente, el usuario describe a una IA lo que quiere construir en lenguaje natural para que la máquina lo genere. “De alguna forma, estamos confiando mucho en lo que el modelo resuelve cuando escribe código. Eso puede tener errores ocultos detrás, y saberlo cuando ya es tarde”, explica.
De cara al futuro, Vivas considera que lo importante no es construir máquinas conscientes, sino máquinas que podamos comprender y que resuelvan tareas complejas para los humanos. “Puede ser que la conciencia sea algo solo biológico. Si eso fuera así, podemos construir las IA más potentes y nunca llegar a eso”, reflexiona.
Para Daitch, el principal interrogante es qué pasará una vez que la sociedad suelte millones de agentes que “no podemos auditar ni limitar, con objetivos vagos que tampoco podemos garantizar que no se bifurquen”. “La respuesta la vamos a ir conociendo en estos próximos años, en vivo”, asegura.
Y concluye: “Soy optimista para el mediano plazo, creo que el saldo va a ser positivo, pero en el corto me parece que nos vamos a chocar con problemas que ni siquiera sabíamos que podían existir”.
Más leídas
1El rincón patagónico elegido entre los 10 destinos más hospitalarios
2El bodegón alemán de 108 años que sigue vigente con su bota de cerveza y sus platos tradicionales
3Suiza mira a la selección argentina: espera por su estrella Manzambi para el partido más importante de su historia
4Los Robles EAM: así será el nuevo colegio que surgirá de la integración de dos instituciones tradicionales