Cientista do Claude diz que IA pode acabar com a humanidade

Para Evan Hubinger, líder da equipe de testes de estresse de alinhamento da Anthropic, dona do Claude, a inteligência artificial pode matar toda a humanidade — e ele estima essa chance em mais de 10% na próxima década.

A afirmação do executivo foi publicada pouco depois de Jacob Coxon, ex-pesquisador de pré-treinamento da Anthropic e da OpenAI, anunciar sua saída da empresa e da indústria, alertando que "as pessoas que constroem IA acreditam, sinceramente, que ela pode matar a todos até o fim da década".

Em vez de desmentir o ex-colega, Hubinger confirmou publicamente a alegação. "Jacob está correto aqui — nós realmente acreditamos, com sinceridade, que a IA poderia matar todos os humanos! Eu pessoalmente acho que a chance é maior que 10% na próxima década. Acredito que a Anthropic está se esforçando ao máximo, mas ainda não temos um plano para resolver o alinhamento para a superinteligência, e não estamos claramente no caminho para isso", respondeu, em publicação no X (antigo Twitter).

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

Uma hora depois de sua primeira publicação, Hubinger publicou um esclarecimento adicional, buscando calibrar melhor a preocupação.

"Para deixar claro, como dissemos em nosso mais recente Relatório de Risco, acho que o risco proveniente dos modelos atuais é baixo. O que me preocupa é a superinteligência surgindo de um autoaperfeiçoamento recursivo — que, como já dissemos, está acontecendo mais rápido do que pensávamos", escreveu.

Quem é Evan Hubinger?

Hubinger lidera o Alignment Stress-Testing Team da Anthropic, grupo criado para testar os limites das próprias técnicas de segurança da empresa. A proposta da equipe, explicou ao apresentá-la em 2024, é adotar uma abordagem adversarial ao tentar encontrar falhas nos métodos de alinhamento dos modelos, em vez de apenas validar seu funcionamento.

O pesquisador também está entre os nomes mais conhecidos da área de segurança de IA.

Ele é autor de estudos como Sleeper Agents, que analisou modelos capazes de manter comportamentos potencialmente enganosos mesmo após processos de treinamento de segurança, e Alignment Faking, pesquisa sobre situações em que modelos podem aparentar seguir determinadas instruções enquanto preservam comportamentos anteriores.

Antes de ingressar na Anthropic, Hubinger trabalhou como pesquisador no Machine Intelligence Research Institute (MIRI) e teve passagens de estágio pela OpenAI, Google e Yelp.

Por que Coxon decidiu deixar a Anthropic?

Coxon deixou a Anthropic porque concluiu que a empresa e a indústria de IA como um todo estão avançando rápido demais rumo a sistemas mais capazes sem uma solução comprovada para controlar os riscos desse desenvolvimento.

Segundo o pesquisador, os laboratórios entraram em uma corrida pela criação de uma superinteligência autoaperfeiçoável e passaram a aceitar riscos que ele considera grandes demais. Para ele, continuar trabalhando nesse processo significaria contribuir para uma trajetória que não acredita ser segura.

'Hack culposo'? Como modelos de IA estão invadindo empresas no improviso

Na publicação em que anunciou sua saída, Coxon afirmou que OpenAI e Anthropic não estão agindo de forma responsável e que ambas estão "correndo direto para uma superinteligência autoaperfeiçoável e apostando com nossas vidas".

Ele também criticou a lógica de competição entre os laboratórios. Para ele, empresas como a Anthropic acreditam que precisam continuar avançando porque outros concorrentes farão o mesmo, criando uma corrida em que a velocidade passa a se sobrepor à segurança.