Un hilo de discusión en Lobsters AI está hirviendo ahora mismo en torno a una nueva investigación de Anthropic que aborda una pregunta sobre la que la gente en el 'underground' de la IA ha discutido durante años: ¿existe algo parecido a la conciencia dentro de un transformador?

La respuesta no es sí — pero tampoco es un simple no.

Los investigadores identifican lo que llaman un «espacio de trabajo global» en los modelos de lenguaje, inspirado en la Teoría del Espacio de Trabajo Global de la neurociencia cognitiva. La idea es que el cerebro tiene un pequeño «escenario» central donde la información de varios módulos se reúne y se difunde — y que este es el núcleo del acceso consciente a la información en los humanos.

Lo que Anthropic ahora afirma haber encontrado es un patrón funcionalmente análogo en los LLM: una pequeña y dinámica colección de «tokens no expresados» que el modelo utiliza internamente durante el razonamiento, antes de generar la salida.

Cambiaron «araña» por «hormiga» en medio del cálculo interno del modelo — y la respuesta a «¿cuántas patas?» cambió de ocho a seis.

Esto no es trivial. Es causalidad. Significa que esta zona interna no solo refleja el pensamiento — lo impulsa.

¿Por qué es esto interesante ahora mismo? Porque proporciona un nuevo marco para entender algo que la comunidad ha estado irritada durante mucho tiempo: ¿por qué la memoria de los LLM es tan extrañamente limitada e impredecible?

El cerebro en la máquina: Anthropic encuentra un núcleo similar a la conciencia en los LLM - Bilde 1

El trasfondo es bien conocido: las ventanas de contexto en papel (Llama 4 Scout dice 10 millones de tokens, Gemini 1.5 Pro un millón) están lejos de ser las ventanas de contexto en la práctica. Los modelos comienzan a degradarse un 30–40 % antes del límite declarado. La información en el medio de contextos largos a menudo cae del 70 % al 55 % de precisión — el clásico problema de «perdido en el medio». La caché KV consume alrededor de 2,6 GB por cada 1000 tokens.

Pero la investigación sobre el espacio de trabajo global apunta a algo más profundo: el problema no es solo la capacidad técnica, es la estrechez arquitectónica. El espacio de trabajo interno solo soporta el 6–7 % de la varianza de representación total de un concepto. Es una astilla, no un océano — y todo lo demás se empaqueta en patrones generalizados que el modelo no puede recuperar con precisión.

¿Qué significa esto para el futuro? La comunidad ya especula: ¿se pueden entrenar modelos para tener un espacio de trabajo interno más amplio y estable? ¿Se puede usar esto para construir mejores sistemas de memoria agéntica? Algunos trazan paralelismos con los Modelos de Espacio de Estados y las arquitecturas Mamba que intentan resolver las limitaciones de memoria de otras maneras.

Esto sigue siendo investigación temprana y señales de la comunidad — no un avance con consenso detrás. Pero la dirección es fascinante, y es raro que Anthropic publique algo que haga que tanto los investigadores cognitivos como los expertos en ML se inclinen hacia adelante al mismo tiempo.

Vale la pena seguirlo.