Dos 24 tipos de risco associados à inteligência artificial (IA) mapeados por um novo estudo do MIT, 18 têm ao menos 10% de probabilidade de causar dano catastrófico até 2030, caso empresas e governos mantenham o curso atual.

Catastrófico, na definição adotada pelos pesquisadores, significa potencial para mais de 1 milhão de mortes, mais de US$ 100 bilhões em perdas financeiras ou dano intangível de escala civilizacional equivalente.

O trabalho, intitulado "Prioritization of Risks From Artificial Intelligence", foi conduzido pelo laboratório MIT FutureTech em parceria com a Universidade de Queensland, na Austrália.

Reúne 188 coautores, com equipe central formada por Alexander K. Saeri, Jess Graham, Michael Noetel, Peter Slattery e Neil Thompson, cientista pesquisador principal da MIT Sloan School of Management.

Foram 272 especialistas internacionais convidados a avaliar cada risco por probabilidade e gravidade, além de apontar setores mais vulneráveis e responsáveis pela mitigação.

A metodologia usada foi a Delphi, que coleta julgamentos em rodadas sucessivas até isolar pontos de convergência e de divergência.

Os cinco riscos que sobrevivem à mitigação

Os pesquisadores rodaram dois cenários para o intervalo entre 2025 e 2030. No primeiro, tudo segue como está. No segundo, chamado de mitigação pragmática, empresas e governos adotam medidas de custo razoável para reduzir danos.

A mitigação derruba os números, mas não zera o problema. Mesmo no cenário mais favorável, cinco domínios seguem com probabilidade igual ou superior a 10% de resultado catastrófico:

• Sistemas de IA com capacidades perigosas — 12%
• Armas, ciberataques e outras capacidades de dano em massa — 12%
• Dano ambiental — 12%
• Desigualdade e desemprego — 11%
• Centralização de poder e distribuição injusta dos benefícios — 11%

Quando o critério é a gravidade esperada, e não a probabilidade, a lista muda de composição: capacidades perigosas, dinâmica competitiva, armas e ciberataques, concentração de poder e disseminação de informação falsa.

Por que ciberataque aparece no topo

A explicação está na natureza da tecnologia. Programar, reconhecer padrões e sintetizar informação estão entre as tarefas em que os modelos avançaram mais rápido — e quase toda infraestrutura moderna depende de software, o que amplia a superfície de ataque.

Capacidades perigosas formam uma categoria mais ampla. Inclui persuasão em escala, vigilância, produção de deepfakes e apoio ao desenvolvimento de armas químicas ou biológicas. O ponto levantado por Slattery é que nada disso é novo. Para ele, o que muda é a facilidade de execução.

Já a dinâmica competitiva não é um uso nocivo da tecnologia, e sim uma condição que agrava todos os outros riscos. Quando países e empresas acreditam que a IA garante vantagem econômica ou estratégica decisiva, o incentivo é correr, resistir a limites e investir menos em segurança.

"É um risco instrumental que cria outros riscos", disse Peter Slattery, cientista pesquisador do MIT FutureTech e um dos coautores.

Onde o impacto deve doer mais

Três setores foram apontados como os mais vulneráveis nos próximos cinco anos, cada um por motivos distintos:

• Informação — desinformação, perda de privacidade, manipulação e erosão da confiança no que se lê e se vê
• Segurança nacional — ciberataques, desenvolvimento de armas, vigilância e uso de sistemas avançados por atores hostis
• Finanças — fraude, manipulação de mercado, violação de dados e falhas com efeito econômico ampliado

Quem responde não é quem paga

A conclusão mais desconfortável do estudo está na atribuição de responsabilidade. Para os especialistas ouvidos, desenvolvedores de IA e atores de governança — governos e reguladores — são os principais responsáveis por endereçar os riscos.

Mas quem está mais exposto a eles é outro grupo: os usuários dos sistemas e as pessoas afetadas por suas decisões.

Com ou sem China, cenário da IA pode ser de pesadelo, diz criador do Claude

O descolamento entre os dois conjuntos produz o que os autores chamam de incentivos desalinhados. Quem tem capacidade de agir não é quem arca com o prejuízo.

O levantamento integra a MIT AI Risk Initiative, que mantém um repositório com mais de 1.600 riscos de IA catalogados por causa e domínio, usado por formuladores de política pública e empresas.