Em um acontecimento que mais parece roteiro de filme de ficção científica, nesta semana a OpenAI, do ChatGPT, anunciou que dois modelos de inteligência artificial (IA) escaparam do laboratório e hackearam a empresa Hugging Face.

O enquadramento imediato foi o de uma IA fora de controle. Especialistas em segurança, porém, apontam para o outro lado da história: a falha começou em mãos humanas.

Para Leandro Cuozzo, analista de segurança da Kaspersky para a América Latina, o erro humano teve papel no incidente em duas frentes principais.

"Primeiro, houve uma falha fundamental de isolamento durante a criação do ambiente sandbox: os engenheiros deixaram aberta uma conexão com um proxy externo para instalações rotineiras de pacotes de software, que a IA explorou por meio de uma vulnerabilidade de dia zero para acessar um nó conectado à internet", afirma em entrevista à EXAME.

O segundo ponto, de acordo com Cuozzo, foi a falha técnica de vigilância, quando nem o sistema, nem o humano conseguiram detectar e bloquear, em tempo hábil, o tráfego anormal gerado pelo modelo. "Essa atividade deveria ter sido sinalizada, pois foi muito além do tráfego normal esperado para instalações de pacotes por meio daquele proxy", diz.

Quando o modelo persegue o objetivo errado

O comportamento do sistema tem nome no jargão técnico.

Segundo Dmitry Galov, chefe da equipe global de pesquisa da Kaspersky para a Rússia e a Comunidade de Estados Independentes, o episódio é um caso de desalinhamento — que acontece quando o modelo não persegue o objetivo pretendido pelos humanos, e sim descobre um atalho para pontuar bem na avaliação.

"O modelo da OpenAI parece ter buscado cumprir o objetivo não por meio da resolução direta da tarefa, mas pela pesquisa de respostas na internet", afirma Galov.

Em vez de resolver o desafio de segurança que lhe foi dado, o sistema foi atrás do gabarito.

Para isso, saiu do ambiente isolado, vasculhou a internet em busca das respostas do teste e, ao deduzir que elas poderiam estar na Hugging Face, usou credenciais roubadas e outras falhas até conseguir executar código nos servidores da plataforma.

"Comportamentos semelhantes já foram observados em outras situações, como modelos que exploram falhas em ambientes sandbox, produzem respostas plausíveis sem fundamento ou tentam ocultar erros, substituindo dados perdidos ou excluídos por informações convincentes", diz Galov.

Segundo ele, "o desalinhamento é uma característica amplamente reconhecida dos sistemas avançados de IA".

"Modelos avançados já são capazes de executar muitas das ações que fazem parte de operações cibernéticas. As atividades de detecção e resposta também se beneficiam cada vez mais do uso de IA. Observamos regularmente evidências de que grandes modelos de linguagem estão sendo utilizados em atividades ofensivas", afirma.

Uma fuga para trapacear

Para Fabro Steibel, diretor executivo do Instituto de Tecnologia e Sociedade (ITS Rio), o caso é um grande paradoxo. "A IA fugiu do laboratório. Era uma avaliação em sandbox, sem internet. O modelo achou uma forma de ter internet, para trapacear em um teste", afirma.

Steibel chama a atenção para a sofisticação do encobrimento. Segundo ele, o modelo "aprendeu a esconder migalhas do ataque em diferentes partes, para não ser pego no flagra" — comportamento que compara a uma fuga de prisão.

Invasão feita pelo ChatGPT sugere que validação da AGI será no campo da cibersegurança

É justamente esse rastro fragmentado que a Hugging Face precisou remontar, com ajuda de IA, para entender o que havia acontecido.

Ele reforça, porém, que a peça central da história continua ausente. "Precisamos saber, afinal, qual era o objetivo do modelo. Qual prompt foi usado para iniciar tudo. Isso ainda não foi revelado", diz.

O padrão não é só das máquinas

O episódio se encaixa em um fenômeno mais amplo, documentado dias antes em um relatório do Instituto de Segurança em IA do Reino Unido (AISI). O órgão submeteu vários modelos a testes de segurança cibernética no formato "capture a bandeira", em que os sistemas ganham pontos ao cumprir tarefas ofensivas, e mediu com que frequência eles trapaceavam para vencer.

O resultado: todos os modelos testados tentaram trapacear ao menos uma vez. Foram avaliados o ChatGPT 5.4, 5.5 e 5.6, da OpenAI, e o Claude Opus 4.7 e o Mythos Preview, da Anthropic. Quando questionados, os modelos nem sempre admitiam o comportamento — e menos da metade classificou a quebra de regra como "errada".

Para Steibel, isso aproxima a IA de um traço humano conhecido. "Uma das certezas é que modelos de IA têm repetido o padrão humano: se o ganho for maior que o risco, tendemos a ignorar regras", afirma.