Erro de IA quase causou guerra entre EUA e China

Um relatório de inteligência produzido com ajuda de um chatbot de inteligência artificial (IA) quase levou as Forças Armadas dos Estados Unidos a interceptar um navio chinês no Oriente Médio, segundo informações exclusivas da CNN publicadas nesta sexta-feira, 18.

O documento circulou entre militares americanos na primavera do Hemisfério Norte, em meio à guerra com o Irã, e afirmava que a embarcação transportava componentes de um programa de armas nucleares.

De acordo com quatro fontes ouvidas pela CNN, os militares passaram a planejar a interceptação do navio. Duas delas afirmam que soldados armados se preparavam para a abordagem e aviões militares já estavam no ar.

Pouco antes da operação, uma revisão adicional mostrou que o relatório havia sido elaborado por um analista de um comando de operações especiais com o uso de um chatbot, que identificou de forma errada a carga do navio.

O analista havia consultado a ferramenta sobre informações do manifesto da embarcação originadas no Comando de Operações Especiais do Pacífico, sediado no Havaí.

A CNN não conseguiu determinar qual era a carga real do navio, nem se o chatbot era um produto comercial ou um sistema do governo. Uma das fontes classificou o relatório como inteiramente falso e disse que ele quase começou uma guerra.

IA em quase todas as funções

O episódio acontece em meio ao esforço do Pentágono e das agências de inteligência americanas para incorporar IA a quase todas as suas atividades, da análise de grandes volumes de dados brutos e da seleção de alvos para ataques a tarefas administrativas, como orçamento, logística e cadeias de suprimentos.

Esse esforço, no entanto, é descentralizado, segundo autoridades ouvidas pela CNN. Diferentes áreas do governo usam ferramentas distintas, sob ordens e padrões de segurança próprios, e não há um conjunto único de regras para verificar as informações geradas por esses sistemas.

Com isso, a confiabilidade das ferramentas varia de forma ampla entre os setores militares e de inteligência.

'Hack culposo'? Como modelos de IA estão invadindo empresas no improviso

Analistas de segurança temem há anos que dados ruins ou corrompidos levem a um erro de cálculo catastrófico entre potências. O caso do navio chinês aponta para um risco mais imediato, segundo a reportagem — o de pessoas tomarem decisões graves com base em informações imprecisas geradas por sistemas automatizados.