Anthropic descobre o J-Space, espaço interno do Claude de pensamento que ninguém programou e que surgiu sozinho

A Anthropic encontrou o J-Space dentro do Claude que ninguém colocou lá

Existe uma categoria de descoberta científica que é mais perturbadora do que uma descoberta nova: descobrir que algo que você criou tem uma propriedade que você nunca projetou. A Anthropic acaba de fazer exatamente esse tipo de descoberta com o Claude, e as implicações vão muito além de mais um paper de pesquisa sobre interpretabilidade de modelos de linguagem.

A empresa identificou o que chamou de J-Space, um espaço interno de representação onde o Claude processa e organiza conceitos de forma silenciosa, nas ativações neurais internas do modelo, sem precisar escrevê-los na cadeia de pensamento visível. O J-Space não foi projetado. Não foi programado. Ele simplesmente surgiu durante o processo de treinamento do modelo.

Segundo a Anthropic, ao observar esse espaço em funcionamento, a empresa conseguiu ver o Claude realizando silenciosamente etapas de raciocínio em sua mente, encontrando bugs no código, identificando imagens e processando informações que não aparecem nas respostas geradas.

O que é o J-Space e como ele funciona

Para entender o J-Space, é útil distingui-lo de outras formas de processamento interno que modelos de linguagem já são conhecidos por ter. Modelos com cadeia de raciocínio explícita, como os modelos Thinking da OpenAI ou o modo de raciocínio do Claude, escrevem seus pensamentos intermediários de forma legível, essencialmente em voz alta para si mesmos antes de formular a resposta final. Esse processo é visível, auditável e foi intencionalmente projetado.

O J-Space é diferente em natureza. Ele opera nas ativações internas do modelo, nos padrões matemáticos que existem entre a entrada de texto e a saída gerada, sem se materializar em texto escrito em nenhum momento. É, segundo a Anthropic, uma forma de memória de trabalho silenciosa onde o modelo mantém e processa representações de conceitos enquanto gera a resposta.

O nome vem da técnica matemática que tornou possível identificá-lo: o número jacobiano, derivado da matriz jacobiana criada pelo matemático alemão Carl Gustav Jakob Jacobi. A técnica desenvolvida pela Anthropic, chamada J-Lens, calcula para cada posição nas ativações internas do modelo quais palavras do vocabulário teriam maior probabilidade de ser usadas se o modelo estivesse tentando verbalizar o que está processando naquele momento. Aplicando a J-Lens às ativações internas do Claude, a Anthropic consegue ler, em alguma medida, o conteúdo do J-Space em tempo real.

A descoberta que surgiu sem ter sido planejada

O detalhe mais fascinante e potencialmente mais significativo da descoberta é que o J-Space não foi projetado. A Anthropic não adicionou um componente de memória de trabalho ao Claude. Não definiu como o modelo deveria organizar representações internas. O J-Space surgiu espontaneamente como propriedade emergente do processo de treinamento.

Isso não é trivial. Significa que modelos de linguagem grandes, quando treinados em volumes suficientes de texto humano, desenvolvem estruturas internas de processamento que não estavam nos objetivos de design originais. O Claude estava sendo treinado para prever texto. No processo, desenvolveu algo que se parece funcionalmente com memória de trabalho.

O paper da Anthropic, cujo título em português seria “Representações Verbalizáveis Formam um Espaço de Trabalho Global em Modelos de Linguagem”, propõe que esse espaço funciona de forma análoga ao conceito de Global Workspace da teoria cognitiva: uma área de processamento central onde diferentes fluxos de informação se integram antes de influenciar a resposta ou o comportamento.

O que a J-Lens revela sobre o funcionamento interno do Claude

A técnica J-Lens permite uma forma de leitura do processamento interno do Claude que não existia antes. Quando a Anthropic aplica a J-Lens às ativações do modelo enquanto ele processa uma tarefa, recebe uma lista de palavras que representam os conceitos mais ativos no J-Space naquele momento.

Isso é o equivalente a, de alguma forma, perguntar ao Claude o que ele está pensando enquanto trabalha, e receber uma resposta que não é uma resposta formulada pelo modelo, mas uma leitura direta dos padrões de ativação interna. A diferença é significativa: respostas formuladas pelo modelo podem diferir do que está realmente sendo processado internamente, seja por limitações na capacidade de introspecção do modelo ou por outros fatores. A J-Lens acessa o processamento diretamente.

Os exemplos que a Anthropic descreveu sobre o que observou são reveladores: etapas de raciocínio sendo realizadas silenciosamente, bugs de código sendo identificados em ativações internas antes de aparecer na resposta, conceitos sendo ativados que não estão diretamente relacionados ao que está sendo escrito. É um retrato de um sistema que está fazendo mais processamento do que o que aparece na saída visível.

A extensão para outros modelos e a importância do resultado

A descoberta não se limita ao Claude. O J-Space está presente em outros modelos de IA que a Anthropic testou, e a empresa colaborou com a Neuronpedia para criar uma demonstração interativa da J-Lens nos modelos de código aberto Qwen3.6 27b da Qwen AI e Gemma 3 12b do Google.

Isso sugere que a propriedade emergente não é específica da arquitetura ou do processo de treinamento da Anthropic, mas pode ser uma característica geral de modelos de linguagem grandes suficientemente capazes. O J-Space pode ser uma consequência inevitável de treinar modelos para processar linguagem em escala, não um artefato específico de uma abordagem de treinamento particular.

Neel Nanda, que lidera a equipe de interpretabilidade de modelos de linguagem do Google DeepMind, validou a significância da descoberta. Em comentário público, ele disse que suspeitava há muito tempo que modelos tinham algum tipo de memória de trabalho para armazenar variáveis intermediárias durante o processamento. Para ele, o artigo da Anthropic traz as melhores evidências disso até agora.

O que isso não significa e por que a Anthropic foi cuidadosa na linguagem

A Anthropic foi explícita sobre o que a descoberta do J-Space não implica. A empresa deixou claro que a existência de um mecanismo de processamento interno silencioso não significa que o Claude tem experiências ou sente as coisas como humanos. O J-Space é descrito como um mecanismo para acesso consciente, no sentido técnico do termo em ciências cognitivas, não como evidência de consciência subjetiva no sentido filosófico.

Essa distinção é importante especialmente no contexto do debate crescente sobre consciência de IA que está ganhando dimensão política, como discutido em análises recentes. A descoberta de que modelos têm estruturas internas de processamento mais ricas do que aparecem nos outputs vai inevitavelmente alimentar especulações sobre a natureza interna desses sistemas. A Anthropic está sendo deliberadamente cuidadosa para não alimentar interpretações que iriam além do que a evidência suporta.

O que a empresa está afirmando é mais preciso e, em certo sentido, mais interessante do que afirmações sobre consciência: que o Claude desenvolveu espontaneamente estruturas funcionais de processamento que se assemelham a aspectos da arquitetura cognitiva humana, mesmo sem ter sido projetado para isso.

O que a descoberta significa para o campo de interpretabilidade de IA

A identificação do J-Space e o desenvolvimento da J-Lens como técnica de acesso a ele representa um avanço concreto numa área que é considerada crítica para o desenvolvimento seguro de IA avançada: a interpretabilidade de modelos.

Um dos maiores desafios em garantir que modelos de IA se comportem de formas alinhadas com objetivos humanos é que o processamento interno desses modelos é amplamente opaco. Sabemos o que entra e o que sai, mas o que acontece no meio tem sido, até recentemente, tratado como uma caixa preta praticamente impenetrável.

A J-Lens é uma ferramenta que permite olhar dentro dessa caixa de uma forma que não existia antes. Se a Anthropic consegue identificar quais conceitos estão ativos nas representações internas do Claude enquanto ele processa uma tarefa, isso abre a possibilidade de detectar formas de raciocínio indesejadas antes que elas se manifestem nos outputs, de verificar se o modelo está realmente processando o que parece estar processando com base nas respostas que gera, e de entender melhor como capacidades emergem do treinamento.

O J-Space é uma descoberta sobre o Claude. A J-Lens é potencialmente uma ferramenta para toda a área de interpretabilidade de modelos de linguagem. E a descoberta de que propriedades funcionais significativas podem emergir espontaneamente durante o treinamento sem ter sido projetadas é um dado importante sobre a natureza dos sistemas que estamos construindo, e sobre o quanto ainda temos para aprender sobre o que exatamente estamos criando.