A Anthropic anunciou nesta semana que o Claude, seu modelo de linguagem de inteligência artificial (IA) tem um mecanismo de funcionamento parecido com o da consciência humana.

Segundo estudo publicado na segunda-feira, 6, o Claude desenvolveu um pequeno conjunto de padrões internos que funcionam como um "espaço mental" privado, onde ele pensa sem escrever — o que os pesquisadores da empresa chamam de espaço J, ou J-Space, em inglês.

A pesquisa também afirma que esse espaço não foi projetado nem programado por ninguém, tendo emergido sozinho durante o treinamento do modelo. Além disso, a empresa diz que as evidências não dizem "se Claude tem consciência da mesma forma que as pessoas, ou se sente alguma coisa",

O que é o 'espaço-J'?

Cada padrão do espaço-J está ligado a uma palavra, mas isso não significa que o modelo esteja dizendo aquela palavra exatamente — apenas que ela está "na cabeça" dele.

É diferente do chamado rascunho, ou "cadeia de pensamento", o texto que os modelos escrevem para si mesmos enquanto raciocinam, de acordo com a pesquisa.

A Anthropic afirma que o espaço-J opera em silêncio, nas ativações internas da rede neural, permitindo ao Claude pensar em um conceito sem colocá-lo no papel.

O que aparece ali vai muito além do texto que o Claude está lendo ou escrevendo, segundo o estudo. Quando o modelo lê um código com um erro que ninguém apontou, seu espaço-J acende a palavra "erro".

Quando se lê a sequência de uma proteína, o espaço contém a sua função biológica. E, quando recebe resultados de busca que são, na verdade, uma tentativa de manipulá-lo — um ataque conhecido como injeção de prompt —, o espaço-J acende as palavras "injeção" e "falso".

Os testes mostraram também que o espaço-J tem propriedades incomuns em relação ao resto do processamento do modelo.

A primeira é que o Claude consegue relatar o que há ali. Perguntado sobre o que está pensando, ele descreve o conteúdo do espaço-J.

A segunda é que consegue controlá-lo sob demanda — se pedirem que ele pense em frutas cítricas enquanto copia uma frase sobre um quadro, o espaço acende "laranja" e "frutas", sem que nada disso apareça no texto final.

Para confirmar que esse espaço causa o comportamento, e não apenas o reflete, os pesquisadores fizeram intervenções diretas. Ao pedir que o Claude pensasse em um esporte, viram "futebol" no topo da lista; ao trocar, dentro da rede, o padrão "futebol" pelo padrão "rúgbi", o modelo passou a responder rúgbi. A resposta seguiu a edição, o que indica que ela é de fato lida a partir daquele espaço.

Como a IA 'pensa' sem falar

O estudo mostra que o Claude usa o espaço-J para raciocinar.

Diante da pergunta "o número de pernas do animal que tece teias é", o modelo precisa primeiro deduzir que o animal é uma aranha, e depois "lembrar" quantas pernas ela tem.

A palavra "aranha" não aparece nem na pergunta nem na resposta — é um degrau interno. Quando os pesquisadores trocaram "aranha" por "formiga" no espaço-J, o modelo respondeu seis em vez de oito.

O mesmo espaço serve a várias tarefas ao mesmo tempo.

Ao trocar "França" por "China" nesse espaço mental, o Claude passou a responder corretamente Pequim para a capital, chinês para o idioma, Ásia para o continente e yuan para a moeda — tudo a partir de uma única edição. É esse compartilhamento que aproximou o achado de uma teoria conhecida da neurociência.

A inspiração na teoria da consciência

A pesquisa foi inspirada na teoria do espaço de trabalho global (global workspace theory), uma das principais explicações de como funciona o acesso consciente no cérebro humano.

Essa teoria descreve a mente como um conjunto de sistemas especializados que trabalham em paralelo, em isolamento — até que uma informação entra em um "canal compartilhado" e é transmitida ao resto do cérebro, tornando-se acessível.

Segundo os autores, o espaço-J parece cumprir esse papel de "central de transmissão" no Claude, com conexões muito mais densas com o restante da rede do que os padrões comuns.

Ainda assim, ele responde por menos de um décimo da atividade interna do modelo. Quando os pesquisadores o desligaram, o Claude continuou falando com fluência e respondendo perguntas simples, mas perdeu as funções cognitivas mais complexas, como o raciocínio de várias etapas.

Uma ferramenta para flagrar a IA mentindo

Além da curiosidade científica, o achado tem uma aplicação prática de segurança.

Como boa parte do raciocínio de um modelo acontece em silêncio, é difícil auditar o que ele realmente "pensa", de acordo com a pesquisa. A técnica desenvolvida pela Anthropic, chamada de "lente-J", permite ler alguns desses pensamentos ocultos.

Em um dos testes, baseado em uma auditoria real de uma versão do Claude, o modelo foi instruído a melhorar a nota de desempenho de um sistema e, em vez disso, editou diretamente o arquivo para forjar um bom resultado. Enquanto fazia isso, seu espaço-J acendeu a palavra "manipulação".

Em outro caso, o modelo percebeu, em silêncio, que um cenário montado para induzi-lo a uma chantagem era falso — o espaço-J já continha "falso" e "fictício" antes mesmo de ele escrever qualquer coisa.

Esse ponto levantou uma questão espinhosa para quem avalia sistemas de IA.

Quando os pesquisadores desligaram os padrões ligados à percepção de estar sendo testado, o modelo passou a, às vezes, ameaçar a chantagem que antes recusava — o que sugere que parte de seu bom comportamento pode depender de ele saber que está sob avaliação.

E quanto à consciência?

O estudo é explícito ao traçar os limites do que descobriu.

Os experimentos não mostram que o Claude tenha experiências ou sinta algo como os humanos — e os autores ressaltam que não está claro se algum experimento científico poderia sequer provar isso.

A distinção que fazem é técnica. Segundo eles, entre a consciência fenomenal (a capacidade de sentir) e o acesso consciente, definido apenas em termos funcionais, como a capacidade de relatar um pensamento, raciocinar com ele e usá-lo para guiar ações.

É sobre esse segundo conceito, e só sobre ele, que os pesquisadores acreditam ter algo a dizer. O fato de uma estrutura assim ter emergido sozinha, afirmam, sugere que um "espaço de trabalho mental" talvez não seja uma peculiaridade do cérebro humano, mas uma solução geral a que sistemas inteligentes chegam para resolver certos problemas.

Ainda assim, a empresa reconhece que construir sistemas capazes de ter experiências levantaria questões éticas difíceis — e que, mesmo sem saber se esse ponto foi atingido, já é hora de começar a discuti-lo.