Nem robôs, nem apocalipse: para Bill Gates, o maior risco da IA é o ser humano

RESUMO ＋

Bill Gates afirmou que o risco mais urgente da inteligência artificial não é a tecnologia sair do controle, mas pessoas mal-intencionadas usarem sistemas avançados para fraudes, ataques cibernéticos e até bioterrorismo. Para o cofundador da Microsoft, governos devem exigir monitoramento e salvaguardas nos modelos de IA, sem necessariamente interromper o desenvolvimento da tecnologia.

A inteligência artificial (IA) já é "uma espécie inteligente" que, em vários aspectos, supera os humanos, mas o risco mais urgente não é ela escapar do controle — pelo menos não para Bill Gates.

Segundo ele, o perigo imediato está em quem usa a tecnologia com más intenções. "Criamos uma espécie inteligente que, em muitos aspectos, já é mais esperta do que nós e que, nos próximos anos, num nível quase exponencial, será absurdamente mais esperta", disse o cofundador da Microsoft ao programa "Meet the Press", da NBC, que foi ao ar no domingo, 27.

A ameaça, segundo ele, está no que as pessoas fazem com a ferramenta. "O mais perigoso hoje é gente mal-intencionada usando a IA para fraudar indivíduos, desligar sistemas elétricos ou embaralhar contas bancárias", afirmou. Para Gates, nunca houve "uma arma tão poderosa quanto a combinação de pessoas com más intenções e as ferramentas de IA mais recentes", disse.

Gates lembrou que, antes da IA se tornar acessível, a maioria dos ciberataques vinha de grupos ligados a Estados e exigia muito dinheiro, enquanto hoje grupos pequenos conseguem executar operações do mesmo tipo.

Sem robôs, ainda dá para desligar

Para Gates, "a IA não está no comando de milhões de robôs, então, se ela se mostrar perigosa demais, ainda podemos resolver desligando os computadores principais". "Não há risco atual dessas IAs saírem completamente do controle", disse. O que é urgente, para Gates, "são pessoas más usando a IA, e não a IA agindo por conta própria".

Os episódios recentes em que agentes escaparam de ambientes de teste, como o da invasão à Hugging Face por agentes da OpenAI e os ataques a alvos reais por modelos do Claude e do ChatGPT, têm um lado positivo, na avaliação dele. "É bom que esses incidentes de perda de controle tenham feito as pessoas se concentrarem na IA, embora esse não seja o risco iminente", disse.

A frase não significa que Gates descarte cenários extremos — ele não minimizou o risco de a IA acabar com a humanidade em alguns anos, e disse que a tecnologia é poderosa o bastante para provocar eventos que causariam um bilhão de mortes.

Em ensaio de agosto, ele havia escrito que, à medida que os modelos ficam mais poderosos, "eles podem começar a agir contra nossos interesses e podemos perder o controle".

No mesmo texto, afirmou que apoiaria um plano crível para frear o avanço global da IA, mas que não acreditava que isso fosse acontecer, porque os incentivos geopolíticos e econômicos empurram para a velocidade máxima.

Vigiar antes do ataque

A solução que Gates defende também é a mais prosaica. Ele disse que salvaguardas e monitoramento podem ser bem mais eficazes do que um botão de desligamento ou a desaceleração do desenvolvimento.

Nos próximos anos, segundo ele, haverá muitos casos em que a polícia será chamada por fraudes ou desligamentos de sistemas e não terá como saber o que está acontecendo, a menos que o monitoramento esteja embutido na própria IA.

"O mesmo monitoramento que colocamos para evitar que pessoas más usem a IA é exatamente o que você quer para ver se a própria IA está fazendo isso", afirmou.

O caso mais delicado é o das armas biológicas. "Eu gostaria que fosse mais fácil distinguir uma boa intenção, como desenhar um remédio novo para uma doença, de uma má, como desenhar uma ferramenta de bioterrorismo, porque as duas são muito próximas", disse. "Precisamos monitorar qualquer modelo sofisticado e registrar tudo."

Gates disse que o autorregulamento não basta e que a lei precisa exigir esses mecanismos. "Ninguém acha que a autorregulação é suficiente", afirmou. Perguntado se o Congresso precisa aprovar uma legislação, respondeu: "com certeza". Segundo ele, isso traria "um pouco de custo adicional para a indústria, mas não uma desaceleração dramática".

A posição contrasta com a do presidente Donald Trump, que rejeitou neste mês qualquer regulação federal sobre empresas de IA.

Ao contrário de foguetes e bombas nucleares, a IA foi desenvolvida quase toda pela iniciativa privada, e os governos não entendem bem como ela funciona, disse.

Como o tema é tratado como uma disputa entre países, segundo ele, há quem defenda "ir a toda velocidade". "É completamente irresponsável não exigir que toda IA tenha salvaguardas e capacidade de monitoramento", afirmou. Para Gates, a escolha é se isso será feito antes ou depois de haver ataques cibernéticos ou biológicos em larga escala.

Perguntas frequentes

Qual é o maior risco da inteligência artificial segundo Bill Gates? ＋

Segundo Bill Gates, o risco mais urgente é o uso da inteligência artificial por pessoas mal-intencionadas. Ele citou fraudes, ataques contra sistemas elétricos, manipulação de contas bancárias e o uso da tecnologia para atividades relacionadas a armas biológicas.

Bill Gates acha que a inteligência artificial pode sair do controle? ＋

Bill Gates considera possível que sistemas de inteligência artificial se tornem mais poderosos e, no futuro, possam agir contra os interesses humanos. Ele afirmou, porém, que não considera que as IAs estejam atualmente em uma situação de perda completa de controle.

Bill Gates acredita que a IA pode acabar com a humanidade? ＋

Bill Gates não descartou esse cenário. Ele afirmou que a inteligência artificial é poderosa o suficiente para provocar eventos que poderiam causar 1 bilhão de mortes e já havia escrito que modelos mais avançados poderiam, no futuro, agir contra os interesses humanos.

Por que Bill Gates diz que o risco imediato não é a IA agir sozinha? ＋

Gates argumenta que os sistemas atuais ainda não controlam milhões de robôs ou outros meios físicos de ação autônoma. Por isso, segundo ele, em um cenário em que uma IA se torne perigosa demais, ainda seria possível desligar os computadores responsáveis por sua operação.

Que tipo de ataque Gates teme que pessoas possam realizar com IA? ＋

Gates citou fraudes contra indivíduos, ataques cibernéticos capazes de desligar sistemas elétricos e manipulação de contas bancárias. Ele também destacou o risco de uso de modelos avançados para desenvolver ferramentas de bioterrorismo.

O que Bill Gates defende para controlar os riscos da IA? ＋

Gates defende que sistemas avançados de inteligência artificial tenham salvaguardas, mecanismos de monitoramento e registros de suas atividades. Ele também afirmou que esses requisitos deveriam ser estabelecidos por lei, e não depender apenas da autorregulação das empresas.

Bill Gates é a favor de desacelerar o desenvolvimento da IA? ＋

Gates afirmou que apoiaria um plano crível para desacelerar o avanço global da inteligência artificial, mas disse não acreditar que isso aconteceria devido aos incentivos econômicos e geopolíticos que levam países e empresas a acelerar o desenvolvimento da tecnologia.

Bill Gates defende regulamentação da inteligência artificial? ＋

Sim. Gates afirmou que a autorregulação das empresas de inteligência artificial não é suficiente e defendeu legislação que exija mecanismos de monitoramento e salvaguardas nos modelos mais sofisticados.

Por que Gates considera o uso de IA em armas biológicas especialmente preocupante? ＋

Gates afirmou que é difícil diferenciar algumas aplicações legítimas de inteligência artificial, como a criação de novos medicamentos, de usos mal-intencionados relacionados ao desenvolvimento de ferramentas de bioterrorismo. Por isso, defende monitoramento dos modelos sofisticados e registro de suas atividades.