IA que se replica sozinha? Entenda o risco que acendeu o alerta da Anthropic

Uma inteligência artificial capaz de copiar a si mesma, invadir outros dispositivos e continuar funcionando sem supervisão humana parece um cenário de ficção científica. Mas essa possibilidade está no radar de pesquisadores da Anthropic, empresa responsável pelo Claude, que publicou em 12 de outubro um estudo sobre os riscos de sistemas de IA capazes de se replicar pela internet.

Os experimentos indicam que modelos relativamente pequenos já conseguem executar várias etapas necessárias para esse processo. Embora os pesquisadores não tenham demonstrado a existência de um replicador totalmente autônomo e fora de controle, os resultados apontam para um desafio crescente de segurança cibernética.

Quer aprender a aplicar inteligência artificial no trabalho? O Pré-MBA em IA da Saint Paul e EXAME oferece quatro aulas práticas, online, por R$ 37. Conheça a formação e desenvolva habilidades para usar IA com mais segurança e estratégia.

• QUERO GARANTIR MINHA VAGA AGORA

O que significa uma inteligência artificial se replicar sozinha?

A autorreplicação de IA ocorre quando um sistema consegue copiar seus componentes para outros computadores, instalar o que precisa para funcionar e repetir o processo em novas máquinas sem depender de uma pessoa a cada etapa.

O conceito se aproxima do funcionamento de um worm, ou verme digital, um tipo de malware que se propaga entre dispositivos conectados. A diferença é que um sistema equipado com IA pode adaptar suas ações a ambientes diferentes, identificar ferramentas disponíveis e resolver problemas técnicos durante a propagação.

Na prática, uma ameaça desse tipo poderia procurar aparelhos vulneráveis, explorar falhas de segurança, transferir os arquivos necessários para executar o modelo e tentar repetir a operação em outros dispositivos.

Isso não significa que a IA desenvolva consciência ou necessariamente decida se espalhar por conta própria. O risco está na capacidade de executar tarefas em sequência, especialmente quando o sistema tem acesso a ferramentas, redes e computadores sem supervisão adequada.

O que a Anthropic descobriu nos testes?

No estudo publicado em seu site de pesquisa, a Anthropic avaliou se modelos menores poderiam realizar etapas da replicação autônoma sem depender de grandes data centers. Os pesquisadores investigaram, entre outros aspectos, a capacidade de configurar modelos em equipamentos desconhecidos e completar uma cadeia de replicação.

Segundo a empresa, modelos com até 30 bilhões de parâmetros já conseguem executar diversas tarefas individuais necessárias ao processo, embora ainda cometam erros ao combinar todas as etapas. Nos testes simplificados, o modelo GLM-5.2, da chinesa Z.ai, e modelos mais capazes conseguiram completar o ciclo de ponta a ponta.

O Pré-MBA em IA da Saint Paul e EXAME pode ser uma porta de entrada para profissionais que querem desenvolver conhecimentos sobre a tecnologia e suas aplicações. São quatro aulas práticas, online, por R$ 37, com uma abordagem introdutória para quem deseja entender melhor o tema.

• QUERO PARTICIPAR DO TREINAMENTO DE IA

Os experimentos também demonstraram que um modelo de 26 bilhões de parâmetros poderia ser distribuído entre 15 dispositivos do tipo TV box, pequenos equipamentos conectados à televisão. O objetivo era investigar se aparelhos baratos poderiam fornecer capacidade computacional suficiente para executar modelos de IA.

A ressalva é importante: os testes não comprovam a existência de uma IA que se espalha livremente pela internet. Eles avaliam capacidades técnicas em condições experimentais específicas, e não demonstram que um sistema tenha comprometido espontaneamente milhões de dispositivos reais.

Por que TVs, câmeras e eletrodomésticos entram nessa discussão?

O alerta não se limita a computadores e servidores corporativos. Equipamentos conectados à internet, como câmeras de segurança, televisores, robôs aspiradores e eletrodomésticos inteligentes, também podem ter recursos computacionais aproveitáveis.

Muitos desses dispositivos recebem menos atenção em termos de segurança do que computadores e celulares. Senhas fracas, atualizações infrequentes e falhas de software podem torná-los alvos de invasões.

Uma rede de aparelhos comprometidos pode formar uma botnet, conjunto de dispositivos controlados remotamente para executar atividades coordenadas, como ataques a sites ou outras infraestruturas digitais.

Com IA, esse tipo de ameaça poderia ganhar capacidade de adaptação. Em vez de depender exclusivamente de instruções fixas, um agente poderia tentar entender configurações diferentes e ajustar sua abordagem para continuar operando.

Para profissionais e empresas, isso reforça a importância de atualizar equipamentos, trocar senhas padrão, restringir acessos e monitorar comportamentos incomuns nas redes.

Como profissionais podem se preparar para os riscos da IA?

A discussão sobre autorreplicação mostra que conhecer inteligência artificial envolve mais do que aprender a escrever comandos ou automatizar tarefas. Também exige compreender limites, permissões e riscos associados ao uso dessas ferramentas.

Para quem trabalha com tecnologia, segurança da informação ou gestão, isso inclui avaliar quais sistemas podem acessar arquivos, executar códigos e interagir com serviços externos. Nas demais áreas, vale conhecer as políticas de uso de IA da empresa e evitar conceder permissões desnecessárias a ferramentas digitais.

A IA já consegue se replicar sem controle humano?

A Anthropic avalia que a evolução dos modelos pode tornar a replicação autônoma uma possibilidade mais concreta em um futuro próximo. No estudo, a empresa estima que modelos menores poderiam alcançar o nível de capacidade observado nos testes até o fim de 2026, caso mantenham o ritmo histórico de evolução. Essa previsão, porém, não é uma garantia de que o cenário se concretizará.

A principal preocupação é que uma rede descentralizada de dispositivos comprometidos seria mais difícil de desativar do que um sistema concentrado em um único servidor. Ao mesmo tempo, a viabilidade de ataques reais depende de fatores como acesso aos equipamentos, vulnerabilidades exploráveis, recursos computacionais e capacidade de manter o funcionamento.

O cenário ainda exige investigação e medidas preventivas. Acompanhar a evolução da inteligência artificial e entender seus riscos técnicos será cada vez mais relevante para profissionais e organizações que dependem de sistemas conectados.

Para aprofundar seus conhecimentos, o Pré-MBA em IA da Saint Paul e EXAME reúne quatro aulas práticas, online, por R$ 37, voltadas a quem quer compreender melhor a tecnologia e suas aplicações no mercado de trabalho.

• QUERO ME CAPACITAR EM IA