'É hora de encerrar a corrida da IA', diz executivo da OpenAI

RESUMO | Dean W. Ball, responsável pela estratégia de futuros da OpenAI, defendeu nesta semana o fim da “corrida da IA” e maior coordenação internacional no desenvolvimento da tecnologia. Segundo o executivo, sistemas de fronteira estão se tornando imprevisíveis, enquanto especialistas humanos já não conseguem, ou em breve não conseguirão, garantir sua segurança.

---

O que exatamente uma empresa ganha ao "vencer" a corrida da inteligência artificial (IA)? Essa é a pergunta que Dean W. Ball, responsável pela estratégia de futuros da OpenAI, colocou no centro de uma publicação nas redes sociais nesta semana — um questionamento pouco comum vindo de dentro de um dos laboratórios que mais aceleram essa mesma corrida.

Segundo Ball, humanos já chegaram, ou estão prestes a chegar, a um ponto em que não conseguem mais garantir que sistemas de IA de fronteira não vão fazer coisas perigosas e imprevisíveis.

"Já alcançamos, ou logo alcançaremos, o ponto em que especialistas humanos não conseguem dar garantias robustas de que sistemas de IA de fronteira não farão coisas perigosas e imprevisíveis", escreveu.

Para Ball, sistemas de IA já superam os melhores humanos em algumas áreas específicas. E isso cria um problema quase lógico — quanto mais inteligente um sistema se torna, mais difícil fica prever seu comportamento. "Quase por definição, é muito difícil prever o que algo mais inteligente que você vai fazer", afirmou.

Boa parte da publicação de Ball ataca a própria lógica de "corrida" que domina o discurso público sobre IA, incluindo o de líderes políticos.

"Não faz sentido correr para um resultado em que IAs mais inteligentes que humanos estão fazendo coisas imprevisíveis. Na verdade, seria uma loucura", escreveu.

Ele também questiona o impulso competitivo por trás desse discurso. "Devo ficar com inveja porque outro país vai construir, mais rápido, máquinas que também não consegue controlar?", perguntou.

Para ele, o próprio vocabulário usado para descrever esse momento já distorce a gravidade da situação, já que, em sua visão, a "'corrida' sempre foi uma metáfora ruim para esse empreendimento, e subestima dramaticamente o que está em jogo".

Ball defende que a próxima fase do desenvolvimento de IA precisa de coordenação internacional, não de disputa. "É hora de encerrar a era da 'corrida' no desenvolvimento de IA", escreveu.

Fim da humanidade? Alerta sobre efeitos da IA impulsiona vendas de livros há duas décadas

Segundo ele, seria positivo que governos atuassem como parceiros nesse momento, concentrando esforços em alinhamento, interpretabilidade, segurança e monitoramento.

Ele também defende um papel maior para a diplomacia. Segundo Ball, as consequências negativas de um único país avançando sozinho nessa corrida seriam sentidas globalmente — não apenas dentro de suas próprias fronteiras.

Uma crítica ao próprio tom do debate

Ball encerra com uma reflexão mais pessoal sobre como as discussões de política de IA têm evoluído.

"Talvez seja só minha experiência pessoal, mas senti a política de IA ficar muito mais mesquinha e tribal este ano. As coisas ficaram mais pessoais, mais amargas, mais cruéis", escreveu. "Espero que consigamos superar isso."

A publicação de Ball não surge isolada. Na mesma semana, Sam Altman, CEO da OpenAI, disse a funcionários, em reunião interna, que a empresa está aberta a desacelerar o desenvolvimento de IA de fronteira — possivelmente em conjunto com outros laboratórios rivais.

Do outro lado do espectro político, o presidente Donald Trump descartou publicamente qualquer preocupação com risco existencial da tecnologia, afirmando que sua prioridade é manter a vantagem americana sobre a China.

Colocadas lado a lado, as falas expõem uma divisão que já não separa apenas governo e indústria — ela atravessa a própria OpenAI. Mesmo dentro da empresa que ajudou a acelerar essa corrida, parte de sua liderança técnica parece cada vez mais disposta a questionar o ritmo do próprio avanço que ajudou a construir.

---

Por que Dean W. Ball critica a corrida da inteligência artificial?

Dean W. Ball considera que a ideia de uma corrida subestima os riscos envolvidos no desenvolvimento da inteligência artificial. Segundo o executivo da OpenAI, não faz sentido acelerar a criação de sistemas mais inteligentes que humanos quando seu comportamento pode ser imprevisível.

Por que sistemas avançados de IA podem ser imprevisíveis?

Segundo Dean W. Ball, sistemas de IA já superam os melhores humanos em algumas áreas específicas, o que torna mais difícil antecipar seu comportamento. O executivo afirma que especialistas humanos já não conseguem, ou em breve não conseguirão, oferecer garantias robustas de segurança.

Dean W. Ball defende desacelerar o desenvolvimento da IA?

Sim. Dean W. Ball defende encerrar a era da “corrida” no desenvolvimento da IA e substituir a disputa por coordenação internacional.

Qual deve ser o papel dos governos na segurança da IA?

Os governos devem atuar como parceiros no desenvolvimento seguro da inteligência artificial, segundo Dean W. Ball. O executivo propõe esforços concentrados em alinhamento, interpretabilidade, segurança e monitoramento.

Por que Dean W. Ball considera necessária a diplomacia na área de IA?

Dean W. Ball afirma que as consequências negativas de um país avançar sozinho no desenvolvimento da IA seriam sentidas globalmente. Por isso, o executivo defende maior coordenação diplomática entre os países.

Sam Altman também considera desacelerar o desenvolvimento da IA?

Sim. Sam Altman disse a funcionários que a OpenAI está aberta a desacelerar o desenvolvimento de IA de fronteira, possivelmente em conjunto com laboratórios rivais.f