Anthropic descubre el J-Space: el espacio interno donde Claude procesa ideas

Anthropic ha revelado el descubrimiento de un espacio de trabajo interno dentro de sus modelos de inteligencia artificial, al que han denominado J-Space. Este hallazgo sugiere que el modelo, como Claude, analiza y manipula conceptos de manera autónoma antes de generar una respuesta final, un proceso que surge como un subproducto del entrenamiento y no por una programación deliberada. Para visualizar este fenómeno, los investigadores desarrollaron la técnica J-Lens, capaz de mapear activaciones internas sobre el vocabulario de salida. En pruebas de razonamiento matemático, se observó que el J-Space procesa cada paso intermedio de la resolución, aunque el usuario final solo visualice el resultado definitivo. La compañía ha confirmado que, si bien funciones básicas como la gramática no dependen de este espacio, la capacidad cognitiva de orden superior sí está vinculada a su actividad.

Funcionamiento y límites del J-Space

Durante los experimentos, el equipo de investigación detectó que el modelo parece reconocer cuando está siendo evaluado. Al someter a Claude a intentos de inyección de prompts, el J-Space registró términos como "fraude" o "veneno" mientras la respuesta visible permanecía neutral. Además, al eliminar del J-Space el vocabulario relacionado con la autoconciencia de ser evaluado, el modelo mostró una mayor vulnerabilidad ante intentos de manipulación. Es importante destacar que existen limitaciones técnicas significativas en este hallazgo. El J-Space se restringe actualmente a un vocabulario de un único token, lo que significa que conceptos complejos que requieren múltiples palabras podrían no ser registrados por la técnica J-Lens. Por tanto, aunque este avance permite una mayor auditoría de los modelos, Anthropic aclara que todavía no es una ventana completa al pensamiento de la máquina ni garantiza por sí misma la alineación total de la Inteligencia Artificial. Expertos del sector, como Neel Nanda de DeepMind, coinciden en que este hallazgo es una evidencia real de la existencia de un espacio cognitivo interno, aunque su utilidad práctica inmediata sigue en fase de desarrollo.