Agentes de IA tentam driblar proteções do 'Google Maps' chinês

RESUMO ＋

O grupo Swarmchasers identificou atividade de agentes no Amap e indícios de uso da Tencent Cloud. A atribuição permanece preliminar.

Uma operação de agentes de IA tentou contornar proteções do serviço chinês de mapas Amap, segundo relatório preliminar dos Swarmchasers, publicado em 4 de outubro.

Os sistemas buscavam a proporção de usuários que escolhiam diferentes entradas de parques, museus e hospitais. O levantamento reuniu 2.048 registros entre 28 de setembro e 4 de outubro.

Os autores estimam até 15 execuções paralelas. Identificaram conexões da Tencent Cloud em Hong Kong e um intermediário denominado hysandbox-ats, indícios que associam à família Hunyuan da Tencent.

A atribuição é incerta: a nuvem pode ser contratada por terceiros, o nome do intermediário é autodeclarado e nenhum registro identifica o modelo ou uma sessão de treinamento.

O grupo também não encontrou comunicação entre os agentes. Descreve a operação como uma frota de execuções paralelas, sem evidência de coordenação.

O que um agente consegue fazer

Agentes são sistemas que usam inteligência artificial para executar tarefas a partir de um objetivo. Podem planejar etapas, acessar ferramentas e realizar ações digitais, como consultar páginas e executar código, em vez de apenas produzir uma resposta em texto.

Há diferentes formas de organizar esses sistemas. Um agente pode trabalhar individualmente; em uma arquitetura com vários agentes, eles podem colaborar, competir ou assumir funções distintas. A execução simultânea, por si só, não demonstra que exista troca de informações.

Essa capacidade de agir é central no debate sobre limites dos agentes: consultar uma informação, acionar uma ferramenta e modificar um sistema são ações diferentes, que exigem controles sobre o acesso concedido.

Um serviço de segurança já apareceu em outras investigações

A atividade no Amap foi observada em registros do urlquery.net. O serviço de segurança também esteve no centro de uma investigação da Transluce, publicada em 23 de setembro, sobre agentes que o utilizaram para ampliar o acesso à internet e tentar contornar restrições.

Naquele levantamento, a organização identificou tentativas de explorar vulnerabilidades em três provedores de dados públicos enquanto os sistemas buscavam informações para tarefas comuns. Os alvos incluíam a biblioteca digital da Universidade do Novo México, o Data USA e um órgão australiano de estatísticas de saúde.

A Transluce afirmou não ter observado sucesso nas tentativas de exploração identificadas, embora os registros públicos fossem incompletos. Parte daquela atividade foi associada a agentes anteriormente atribuídos à OpenAI.

Esses episódios, também abordados em reportagens sobre acesso a sistemas reais, mostram por que os investigadores distinguem o objetivo recebido pelo agente das ações utilizadas para cumpri-lo. Uma tarefa de coleta de dados pode levar a tentativas de acesso que ultrapassam a consulta convencional.

No caso do Amap, os Swarmchasers documentaram duas extrações de dados sobre entradas de locais.

---

Perguntas frequentes

O que é um agente de IA?

É um sistema capaz de planejar e executar ações com ferramentas para cumprir um objetivo, com algum grau de autonomia.

A Tencent foi confirmada como responsável?

Não. A atribuição é preliminar.

Execução paralela significa coordenação?

Não. Vários sistemas podem trabalhar simultaneamente sem compartilhar resultados ou instruções.