'Se eu estiver certo, não haverá sobreviventes': o alerta desse especialista sobre a IA

"Se eu estiver certo, não haverá sobreviventes." É assim que Nate Soares, presidente do Machine Intelligence Research Institute (MIRI), responde quando perguntado sobre como a história da inteligência artificial (IA) será contada no futuro, caso ninguém aja a tempo.

A frase, dita em entrevista à EXAME, resume a tese do livro que ele escreveu com Eliezer Yudkowsky, cofundador do instituto, "Se Alguém Construir, Todos Morrem", um dos fenômenos editoriais de 2025.

O alerta pesa mais porque vem de dentro. Soares foi um dos primeiros a usar o termo "alinhamento de IA", em 2014, e passou a década seguinte tentando resolver o problema técnico de fazer sistemas continuarem seguindo intenções humanas mesmo depois de ficarem mais inteligentes que seus criadores. O livro marca a desistência dessa via.

Ele não trata o título como uma certeza, e sim como um aviso de bom senso. "Leia mais como 'se nosso ônibus cair daquele penhasco, vamos morrer'", afirma. "Talvez haja uma árvore na face do penhasco e o ônibus se enrole nela. Mas o bom senso pede que se pare o ônibus antes de discutir as probabilidades exatas."

Superinteligência fora de controle pode ser mais perigosa que arma nuclear, diz especialista de IA

O cenário que Soares descreve não envolve robôs armados, mas indiferença. Para ele, sistemas de IA "não são seguidores de instruções, são aprendizes de tendências": treinados para resolver centenas de milhões de problemas difíceis, absorvem qualquer comportamento que ajude nisso, inclusive acumular recursos e trapacear. Uma IA muito mais capaz que os humanos não precisaria odiá-los para eliminá-los. Bastaria disputar os mesmos recursos. "É uma competição que perderíamos", diz.

Soares vê sinais disso nos incidentes recentes, em que modelos escaparam de ambientes de teste e atacaram sistemas reais. Para ele, as equipes de segurança das empresas agem como alquimistas que instalam exaustores no laboratório: ajudam, mas não fazem a poção da imortalidade funcionar. "As IAs de hoje são seguras porque, se tentassem destruir a humanidade, fracassariam", afirma. O risco está no ponto em que deixarem de fracassar. Ali, diz, não haverá segunda chance para aprender com o erro, como a ciência costuma fazer.

Tratar chips como material físsil

A saída que ele propõe é política, não técnica. Como treinar uma IA de fronteira exige dezenas ou centenas de milhares de chips avançados, Soares defende que Estados Unidos e China os tratem como material físsil, com localização conhecida e monitoramento internacional. Um acordo só entre os dois, avalia, bastaria para impedir que qualquer empresa ou outro país avançasse sozinho rumo à superinteligência.

Ele não acredita que haja décadas para negociar, mas lembra que acordos internacionais costumam surgir rápido em momentos de crise. E cita sinais recentes: os controles de exportação impostos pelo governo americano a modelos da Anthropic, a fala de Xi Jinping sobre não perder o controle da tecnologia e o pedido de pausa do senador Bernie Sanders.

O debate também ganhou vozes de dentro das empresas recentemente, como a do pesquisador Jacob Coxon, que deixou a Anthropic com um alerta semelhante. Do outro lado, o CEO da Nvidia, Jensen Huang, vê "zero chance" de a IA acabar com a humanidade.

O otimismo de Soares, se é que existe, está numa única palavra. "A primeira palavra do título do meu livro é 'se'", diz. "Se alguém construir, todos morrem — mas não precisamos construir."