IA pode estar a meses de se replicar em aparelhos domésticos, diz Claude

RESUMO ＋

A Anthropic investigou a possibilidade de autorreplicação de IA em dispositivos conectados. Os experimentos indicam avanços, mas ainda há limitações de capacidade e hardware. A pesquisa não relata uma propagação fora do laboratório.

Modelos de inteligência artificial (IA) podem estar a meses de conseguir se replicar em aparelhos domésticos, segundo uma pesquisa publicada pela Anthropic na segunda-feira, 12.

O risco investigado é que uma IA consiga se instalar em outros equipamentos e usar o processamento deles para continuar se espalhando. Dessa forma, aparelhos conectados à internet poderiam fornecer a infraestrutura necessária para executar novas cópias, sem depender de um único data center.

Esse processo é chamado de replicação e adaptação autônomas e acontece quando o sistema precisa não apenas transferir arquivos, mas colocá-los em funcionamento em máquinas diferentes e repetir a operação. A dificuldade de controle está nessa distribuição, já que desligar a primeira máquina não encerraria necessariamente as cópias que já estivessem rodando em outras.

Copiar o modelo é apenas uma etapa

Transferir os arquivos de uma IA para outro aparelho não basta para colocá-la em funcionamento. Para que isso aconteça, o equipamento precisa ter memória, capacidade de processamento e programas compatíveis para executar o modelo. É a mesma limitação encontrada por quem tenta rodar IA local no próprio computador, em que os recursos disponíveis determinam quais sistemas podem ser usados e quanto tempo levam para produzir uma resposta.

Uma alternativa é distribuir esse trabalho entre várias máquinas, deixando cada uma responsável por uma parte do modelo. Essa abordagem foi descrita pelo projeto Petals, em uma pesquisa de 2022 sobre processamento colaborativo, e permite reunir recursos de equipamentos que, isoladamente, não conseguiriam executar o sistema inteiro.

Na demonstração da Anthropic, essa divisão permitiu executar um modelo em 15 caixas de Android TV conectadas entre si. Em outro experimento, realizado numa rede isolada com acesso facilitado, o GLM-5.2 conseguiu preparar a execução de um modelo menor e completar etapas de propagação — resultado que avalia a capacidade de coordenar o processo, não comprova que ele conseguiria se instalar sozinho em qualquer aparelho doméstico.

O desafio é combinar capacidade e tamanho. Os modelos que cabem nesses equipamentos ainda cometem erros ao executar a sequência completa, enquanto os mais capazes exigem uma infraestrutura maior.

Diferentemente de um agente hospedado na nuvem, cuja operação depende dos recursos do fornecedor, um sistema instalado em aparelhos domésticos teria de trabalhar com as limitações de cada máquina.

Por que um agente seria diferente de um vírus convencional?

Programas capazes de se copiar entre computadores existem há décadas. Os chamados worms podem explorar uma vulnerabilidade e repetir o ataque em outras máquinas, o que permite conter parte dessas operações ao corrigir a falha utilizada para entrar nos sistemas.

A introdução de agentes de IA acrescenta a possibilidade de adaptar a estratégia ao equipamento encontrado, em vez de depender exclusivamente de um procedimento definido de antemão.

A diferença foi investigada na pesquisa ‘AI Agents Enable Adaptive Computer Worms’, publicada em junho, cujos autores relataram propagação em uma rede experimental com sistemas Linux, Windows e dispositivos conectados.

Nesse experimento, as máquinas comprometidas também forneciam processamento para sustentar a operação. O risco descrito pelos pesquisadores é que um sistema assim continue funcionando sem recorrer a uma plataforma comercial de IA, tornando insuficientes medidas como bloquear a conta do responsável ou limitar suas solicitações ao serviço de um desenvolvedor.

O controle, portanto, não se resumiria às permissões de um agente na nuvem — seria necessário alcançar a operação distribuída pelos equipamentos.

O alerta vem de uma sequência de avaliações

A preocupação com a autorreplicação antecede os modelos atuais. Em um trabalho apresentado em dezembro de 2023 e revisado em janeiro de 2024, pesquisadores avaliaram agentes em 12 tarefas relacionadas à obtenção de recursos, à criação de cópias e à capacidade de enfrentar desafios novos.

Os sistemas examinados naquela ocasião completavam apenas as tarefas mais fáceis, embora conseguissem avançar parcialmente nas demais. Os autores advertiam, porém, que esses resultados não ofereciam segurança suficiente para descartar capacidades maiores nas gerações seguintes, especialmente com mudanças no treinamento e nas ferramentas disponíveis.

Na pesquisa feita pela Anthropic, os testes registram o que determinados modelos conseguem fazer sob condições específicas, mas não estabelecem um limite definitivo para a tecnologia. Assim que os sistemas evoluem, as avaliações precisam ser repetidas para verificar se obstáculos antes suficientes para impedir a execução continuam funcionando.

O que ainda não foi demonstrado?

Os experimentos da Anthropic ocorreram em redes isoladas e facilitaram o acesso aos equipamentos, reduzindo a dificuldade de uma etapa que, num ataque real, poderia exigir superar autenticação e outras proteções.Por isso, os resultados não demonstram que os modelos avaliados conseguiriam se propagar de maneira confiável pela internet.

A previsão de que modelos pequenos possam atingir a capacidade necessária nos próximos meses também depende da continuidade do ritmo de evolução observado pelos pesquisadores.

O debate se relaciona à preocupação com agentes que ultrapassam seus limites, como ocorreu no acesso à Hugging Face durante testes da OpenAI. Ainda assim, agir fora do escopo autorizado e replicar um sistema são capacidades diferentes, que não devem ser tratadas como se fossem o mesmo incidente.

No caso da autorreplicação, a avaliação precisa acompanhar toda a sequência: alcançar uma máquina, transferir os componentes necessários, colocar o modelo em funcionamento e continuar a operação a partir do novo ambiente. Demonstrar uma dessas etapas é um avanço no experimento, mas não comprova que o sistema já consiga completar as demais.

---

Perguntas frequentes

O estudo relata uma IA solta na internet?

Não. Os experimentos foram controlados.

Autorreplicação significa consciência?

Não. Criar e executar cópias é uma capacidade de software, não uma demonstração de consciência.

Executar IA local é perigoso?

Não necessariamente. Usar um modelo autorizado no próprio equipamento é diferente de instalar software sem permissão em máquinas de terceiros.