CEO da Anthropic pede desaceleração no ritmo de desenvolvimento da inteligência artificial

O diretor executivo e cofundador da Anthropic, Dario Amodei, pediu neste sábado, 12, que as empresas avancem de forma mais lenta e cautelosa no desenvolvimento da inteligência artificial. Segundo ele, a prevenção dos riscos associados à tecnologia deve ser tratada como prioridade.

“Devemos reduzir o ritmo com o qual melhoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e devemos fazer um uso inteligente do tempo que ganharemos”, escreveu Amodei em uma publicação em um blog.

O apelo recebeu o apoio de outros líderes do setor. O CEO da OpenAI, Sam Altman, afirmou no X que concordava com Amodei e acrescentou que sua empresa seguirá o exemplo da Anthropic ao aceitar avaliações externas de segurança. “Concordo com Dario”, escreveu Altman.

Elon Musk, diretor da xAI, também endossou a posição do executivo da Anthropic. “Dario está certo”, comentou.

Os riscos da IA no centro do debate

O apelo ocorre após uma semana marcada por novos alertas sobre os riscos da inteligência artificial. Jacob Coxon, pesquisador da Anthropic (empresa dona do Claude), pediu demissão e afirmou que a companhia “aposta com nossas vidas” na corrida pela superinteligência.

Coxon defendeu uma desaceleração coordenada entre as empresas e a realização de auditorias sobre a segurança dos sistemas. Segundo ele, as ferramentas disponíveis atualmente não representam um risco existencial, mas modelos mais avançados poderiam fugir do controle humano caso adquirissem autonomia.

• Por que não dá para simplesmente 'desligar a IA da tomada'

Outro pesquisador da Anthropic, Evan Hubinger, afirmou publicamente acreditar em uma probabilidade superior a 10% de a inteligência artificial matar toda a humanidade dentro de uma década.

O debate também alcançou outras empresas do setor. Segundo a Bloomberg, Sam Altman, CEO da OpenAI, disse a funcionários que a companhia está aberta a desacelerar o desenvolvimento de sistemas de fronteira.

O presidente dos Estados Unidos, Donald Trump, por sua vez, descartou publicamente preocupações com o tema ao ser questionado nesta semana.

*Com informações da AFP