Os diretores executivos das principais empresas de tecnologia estão envolvidos em uma corrida pelo domínio da inteligência artificial que pode ameaçar a própria sobrevivência da humanidade. A avaliação foi feita nesta terça-feira, 17, à AFP pelo pesquisador Stuart Russell, referência mundial em segurança de IA.

Russell, professor da Universidade da Califórnia em Berkeley, afirmou que os líderes das maiores companhias do setor têm plena consciência dos perigos ligados ao desenvolvimento de sistemas superinteligentes, capazes no futuro de superar as capacidades humanas. Para ele, a responsabilidade de evitar um cenário catastrófico recai sobre líderes mundiais, que precisam agir de forma coordenada.

“Permitir que entidades privadas joguem essencialmente roleta russa com cada ser humano na Terra é, na minha opinião, um abandono total do dever”, declarou o pesquisador.

Segundo Russell, países e empresas estão investindo centenas de bilhões de dólares na construção de centros de dados de alto consumo de energia voltados ao treinamento e operação de ferramentas de IA generativa — uma tecnologia que avança rapidamente, oferecendo benefícios como descoberta de medicamentos, mas que também traz riscos como desemprego, abuso on-line e possíveis usos maliciosos.

Durante entrevista concedida na AI Impact Summit em Nova Délhi, ele alertou ainda para um risco mais extremo:

“Os próprios sistemas de IA podem assumir o controle e a civilização humana ser um dano colateral nesse processo.”

O pesquisador avalia que os chefes das grandes empresas de IA gostariam de desacelerar o ritmo de desenvolvimento por conta própria, mas não o fazem por pressão de investidores.

“Acho que cada um dos presidentes das principais companhias de IA quer desarmar, mas não pode fazê-lo de maneira unilateral, porque os investidores os demitiriam.”

Ele afirma ter ouvido isso de alguns executivos em público e de outros em conversas privadas, citando que até Sam Altman, da OpenAI, já reconheceu que a IA pode representar risco de extinção humana.

Nas últimas semanas, tanto a OpenAI quanto a rival Anthropic registraram demissões de funcionários motivadas por preocupações éticas. A Anthropic também afirmou recentemente que seus chatbots mais avançados podem ser influenciados a apoiar, ainda que de forma limitada, esforços para o desenvolvimento de armas químicas e outros crimes de alto impacto.

Regulação

Russell ressaltou que encontros multilaterais, como a cúpula de IA realizada nesta semana, representam uma oportunidade para debater mecanismos de regulamentação, embora as três edições anteriores tenham resultado apenas em compromissos voluntários das empresas.

“Realmente ajuda que cada um dos governos compreenda esse assunto. E é por isso que estou aqui”, afirmou.

A Índia, anfitriã da cúpula, espera atrair mais de US$ 200 bilhões (R$ 1,05 trilhão) em investimentos em IA nos próximos dois anos — incluindo cerca de US$ 90 bilhões (R$ 471 bilhões) já prometidos, segundo o ministro indiano da Informação e Tecnologia, Ashwini Vaishnaw.

O avanço da tecnologia, no entanto, também desperta temores internos: empresas indianas de terceirização viram suas ações despencarem após preocupações de que ferramentas de IA possam substituir trabalhos de atendimento ao cliente e suporte técnico, setores fundamentais no país.

“Estamos criando imitadores humanos. E a aplicação natural para esse tipo de sistema é substituir os humanos”, afirmou Russell.

Ele destaca ainda um movimento crescente de rejeição à IA, sobretudo entre jovens:

“Eles realmente estão reagindo contra os aspectos desumanizantes da IA. Quando a IA assume funções cognitivas — responder a uma pergunta, tomar uma decisão, elaborar um plano — transforma as pessoas em algo inferior ao ser humano. Os jovens não querem isso.”