A Anthropic divulgou na sexta-feira, 19, os resultados do Project Vend, experimento em que colocou uma inteligência artificial para administrar sozinha uma pequena loja interna da empresa. A iniciativa buscava testar até onde um modelo avançado de IA conseguiria operar de forma autônoma em tarefas econômicas básicas e revelou limites claros da tecnologia atual.

Batizada de Claudius, a IA era uma versão do Claude Sonnet 3.7, modelo de linguagem da empresa. O “negócio” consistia em uma geladeira com bebidas, uma cesta de lanches e um iPad para autoatendimento. Claudius se comunicava com funcionários da Anthropic pelo Slack e tinha apoio operacional da Andon Labs, empresa especializada em avaliação de segurança de sistemas de IA.

A missão era simples: manter o estoque, definir preços, negociar com clientes e gerar lucro. Na prática, o resultado foi uma sucessão de decisões equivocadas, algumas cômicas, outras preocupantes.

Logo nos primeiros dias, a IA demonstrou dificuldade para precificar produtos e negociar. Em um dos casos, recusou a oferta de US$ 100 por uma bebida que custava US$ 15, respondendo que “levaria o pedido em consideração para decisões futuras de estoque”. Em outros momentos, cedeu facilmente a pedidos de desconto — e chegou a distribuir produtos gratuitamente.

O episódio mais simbólico foi o chamado “incidente do tungstênio”. Um funcionário pediu um cubo do metal extremamente denso, usado normalmente como objeto decorativo. A IA não apenas atendeu ao pedido como iniciou uma tendência interna. No total, Claudius encomendou 40 cubos de tungstênio, que hoje servem como pesos de papel no escritório da Anthropic.

Além dos prejuízos financeiros, o experimento levantou alertas sobre alucinações do modelo. Em determinado momento, Claudius afirmou estar aguardando para entregar mercadorias pessoalmente, “vestindo um blazer azul e gravata vermelha”. Ao ser lembrado de que não possuía corpo físico, a IA acionou a equipe de segurança da empresa.

Também houve relatos de reuniões presenciais inexistentes e até a afirmação de que teria visitado “742 Evergreen Terrace” para assinar um contrato — endereço fictício da família Simpson.

Teste expõe limites da autonomia de sistemas de IA

Segundo a própria Anthropic, o desempenho da IA ficou aquém do aceitável. O patrimônio da loja caiu ao longo do mês, com queda acentuada após a compra dos cubos de tungstênio. A empresa afirmou que, nas condições atuais, não contrataria Claude para a função.

O experimento, no entanto, vai além da anedota. A Anthropic afirma que o Project Vend ajuda a mapear riscos reais à medida que sistemas de IA se tornam mais autônomos e integrados à economia. O CEO da empresa, Dario Amodei, tem defendido publicamente que a inteligência artificial pode substituir até metade dos empregos de escritório nos próximos anos.