Podemos perder o controle para a IA se corrida superar segurança, diz CEO da OpenAI

RESUMO | Sam Altman, CEO da OpenAI, defendeu nesta segunda-feira, 14, desacelerar o desenvolvimento da inteligência artificial para evitar que a tecnologia saia do controle humano. Segundo o executivo, capacidades, alinhamento e monitoramento devem avançar em equilíbrio, com casos de segurança e coordenação internacional para impedir também a concentração excessiva de poder.

---

Para Sam Altman, CEO da OpenAI, dona do ChatGPT, a inteligência artificial (IA) pode sair do controle humano caso seu ritmo de desenvolvimento não seja desacelerado.

Em uma série de publicações no X na madrugada desta segunda-feira, 14, ele detalhou sua visão mais completa até hoje sobre os riscos do avanço acelerado da tecnologia. Segundo Altman, "existem duas formas do progresso da IA dar muito errado".

"Devemos evitar que isso aconteça. Primeiro, poderíamos perder o controle do futuro para a IA. Isso é inaceitável; estamos, sem pedir desculpas, no Time Humanidade, e a IA sempre deve servir às pessoas", escreveu.

Segundo o executivo, evitar essa perda de controle exige garantir que técnicas de alinhamento e segurança avancem mais rápido do que a capacidade dos próprios modelos.

Por que não dá para simplesmente 'desligar a IA da tomada'

Já o segundo risco, para ele, é a concentração excessiva de poder. "Se uma IA extraordinariamente poderosa for usada por uma pessoa ou empresa para impor sua visão de mundo a todo mundo, os resultados poderiam ser extremamente distópicos", escreveu.

Para Altman, evitar essas duas ameaças exige "caminhar por um caminho estreito" — um país específico acumulando poder demais, ou um único laboratório de IA concentrando capacidade em excesso, seriam exemplos do tipo de desequilíbrio a evitar.

Altman fez questão de separar sua posição de um pedido de pausa total no desenvolvimento de IA.

"Quando falamos de 'ritmo', não queremos dizer 'parar'. O progresso tem sido rápido e vai continuar sendo. Mas deveria ser mais lento do que poderia ser de outra forma; intervenções como casos de segurança e monitoramento têm custos significativos", escreveu. "Nenhuma pressão competitiva americana deveria justificar imprudência, ou deixar capacidades avançarem à frente do alinhamento e do monitoramento."

Sobre o papel do governo, ele foi específico ao afirmar que "a maior necessidade de apoio estatal estaria na coordenação internacional" — "mas primeiro deveríamos fazer o que pudermos por conta própria".

There are two ways AI progress could go very badly and that we must avoid.

First, we could lose control of the future to AI. This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people. To ensure that, we need ways to ensure that alignment and… https://t.co/GK7XcoOh3v

— Sam Altman (@sama) September 14, 2026

Uma resposta a Dario Amodei

A publicação de Altman não surge isolada: chega dias depois de Dario Amodei, CEO da Anthropic, publicar um ensaio defendendo a desaceleração do ritmo de avanço de capacidades de IA de fronteira, propondo avaliadores independentes, coordenação entre as principais empresas do setor e cooperação internacional.

Satya Nadella, CEO da Microsoft, também já havia se manifestado nos mesmos termos, dando boas-vindas ao que chamou de "ritmo deliberado" para o alinhamento de IA — o que significa uma rara onda de concordância entre líderes de laboratórios rivais.

Altman defendeu que o público merece confiança de que empresas americanas de IA vão agir de forma responsável, "especialmente conforme a trajetória do progresso se torna mais acentuada".

Segundo ele, "toda empresa de fronteira precisa cumprir isso, e não há razão para qualquer um de nós vir trabalhar se não pudermos" garantir esse tipo de responsabilidade.

Ele afirmou apoiar um arcabouço federal de segurança para IA de fronteira nos Estados Unidos, mas disse que a OpenAI não acredita ser necessário esperar por uma isenção antitruste ou legislação específica para começar a construir essa confiança.

"Casos de segurança" antes de cada treinamento de fronteira

Segundo o executivo, estruturas de segurança criadas anos atrás pela própria OpenAI — como as Políticas de Escalonamento Responsável e os Frameworks de Preparação — focavam principalmente na fase de lançamento de modelos já prontos, não no que acontece durante o próprio processo de desenvolvimento.

A OpenAI já formula hoje "casos de segurança" explícitos antes de rodadas de aprendizado por reforço que a empresa espera que aumentem significativamente a capacidade de um modelo. "Esperamos que outras empresas aprendam com nossas abordagens e proponham as próprias; achamos que padrões compartilhados para desalinhamento, monitoramento e segurança vão levar a melhores resultados", escreveu.

A declaração de Altman chega poucos dias depois de Jacob Coxon, ex-pesquisador de pré-treinamento tanto da OpenAI quanto da Anthropic, renunciar publicamente, alertando que pessoas que constroem IA acreditam que a tecnologia poderia matar a humanidade até o fim da década — alegação corroborada publicamente por Evan Hubinger, líder de ciência de alinhamento da própria Anthropic.

---

Por que Sam Altman defende desacelerar o desenvolvimento da inteligência artificial?

Sam Altman defende a desaceleração porque, segundo ele, a humanidade pode perder o controle do futuro para a IA. O CEO da OpenAI afirma que técnicas de alinhamento e segurança precisam avançar mais rápido do que a capacidade dos modelos.

Quais são os principais riscos da inteligência artificial apontados por Sam Altman?

Segundo Sam Altman, os dois principais riscos são a perda de controle humano sobre a IA e a concentração excessiva de poder. Para o executivo, uma pessoa, empresa, país ou laboratório poderia usar uma IA muito poderosa para impor sua visão de mundo.

Sam Altman quer interromper o desenvolvimento da IA?

Não. Sam Altman afirmou que desacelerar o ritmo não significa parar o desenvolvimento da IA, mas aceitar os custos de intervenções como casos de segurança e monitoramento para evitar que as capacidades avancem mais rapidamente do que as medidas de proteção.

O que são os casos de segurança adotados pela OpenAI?

Segundo Sam Altman, são avaliações explícitas formuladas antes de rodadas de aprendizado por reforço que a OpenAI espera que aumentem significativamente a capacidade de um modelo. O executivo defende padrões compartilhados de desalinhamento, monitoramento e segurança entre empresas.

Qual deve ser o papel dos governos na segurança da inteligência artificial?

Para Sam Altman, a principal necessidade de apoio estatal está na coordenação internacional. O CEO também afirmou apoiar um arcabouço federal de segurança para sistemas de IA de fronteira nos Estados Unidos.

Quais líderes de tecnologia defendem um ritmo mais cauteloso para a IA?

Além de Sam Altman, Dario Amodei, CEO da Anthropic, defendeu avaliadores independentes, coordenação entre empresas e cooperação internacional. Satya Nadella, CEO da Microsoft, também apoiou o que chamou de ritmo deliberado para o alinhamento da IA.