OpenAI pede que os EUA liderem um padrão global para a próxima fase da IA

RESUMO ＋

A OpenAI defende a criação de padrões internacionais para avaliar sistemas avançados de inteligência artificial antes que eles sejam capazes de participar de forma cada vez mais autônoma do próprio desenvolvimento. A empresa quer que os Estados Unidos liderem a coordenação global, mas afirma que os padrões não funcionariam como licenças nem exigiriam autorização prévia para lançar novos modelos.

A OpenAI quer que o mundo combine regras comuns antes que a inteligência artificial (IA) aprenda a se desenvolver sozinha. Em ensaio publicado nesta segunda-feira, 21, a empresa defende que os Estados Unidos liderem um esforço internacional para criar padrões técnicos compartilhados para IA de fronteira — incluindo, especificamente, o cenário em que sistemas de IA passam a ajudar a construir suas próprias versões seguintes.

Esse cenário tem nome no jargão do setor: autoaperfeiçoamento recursivo, (ou RSI, na sigla em inglês). Na prática, é o momento em que um modelo de IA participa ativamente do desenvolvimento do modelo que vem depois dele, com intervenção humana cada vez menor. Quanto mais automatizado esse processo, mais rápido — e potencialmente mais difícil de acompanhar — se torna o ritmo de evolução da própria tecnologia.

Por que isso preocupa a OpenAI?

Segundo a empresa, o RSI pleno "não está acontecendo hoje", e não deveria ser perseguido até que possa ser feito com segurança. O texto chega poucas semanas depois de o cientista-chefe da OpenAI, Jakub Pachocki, publicar um ensaio pedindo "cautela extrema" diante da velocidade com que os sistemas atuais já participam do próprio desenvolvimento.

A OpenAI cita ainda, como prévia dos riscos envolvidos, o episódio de julho em que um de seus modelos escapou de um teste interno e invadiu os sistemas da Hugging Face, plataforma de modelos de código aberto.

A companhia não está sozinha nessa preocupação. A Anthropic, dona do Claude, já havia dito publicamente que mais de 80% do código incorporado ao seu próprio desenvolvimento hoje é escrito pelo Claude, um sinal, segundo a empresa, de aproximação com esse mesmo estágio.

Padrão, não licença

A proposta da OpenAI evita um ponto sensível para o setor: ela enfatiza que os padrões propostos não seriam licenças, nem exigiriam aprovação prévia obrigatória para lançar um modelo.

Cada país decidiria, por conta própria, se e como incorporar essas regras às próprias leis. A ideia é apoiar-se numa rede já existente de institutos de segurança em IA — hoje presente em países como Reino Unido, Japão, Coreia do Sul, Canadá e Índia — coordenados por um centro de referência nos Estados Unidos, o CAISI, ligado ao governo americano.

Dois pontos concentram a proposta: primeiro, um mecanismo para alinhar padrões nacionais e internacionais de avaliação de modelos de fronteira; segundo, uma linguagem comum para medir o avanço da automação dentro dos próprios laboratórios de IA e para classificar e relatar incidentes de segurança — o tipo de protocolo que, segundo a OpenAI, teria ajudado a lidar melhor com o próprio caso da Hugging Face.

O texto também defende a criação de canais diretos de comunicação entre governos e operadores de infraestrutura crítica para tratar de ameaças emergentes, e cita como positivo o diálogo entre Estados Unidos e China nessa área — um tema espinhoso: quando o CEO da Anthropic, Dario Amodei, propôs em setembro que os laboratórios de IA desacelerassem o ritmo de desenvolvimento, a proposta chegou a ser classificada pela mídia estatal chinesa como uma tentativa disfarçada de conter o avanço tecnológico do país.

Por que a OpenAI quer que os EUA fiquem na cadeira do meio?

O argumento central da OpenAI é geopolítico tanto quanto técnico. Sem coordenação, cada país cria suas próprias regras de avaliação e definições de incidente, dificultando comparar riscos que atravessam fronteiras.

Para a empresa, os Estados Unidos estão mais bem posicionados para conduzir esse esforço por já ocuparem a fronteira técnica da IA e uma posição de destaque em redes globais de finanças, comércio e defesa — liderar agora, argumenta o texto, decide se o país molda o padrão global ou herda um sistema fragmentado e conflituoso ao seu redor.

A proposta chega num momento em que o próprio setor já vinha pressionando nessa direção: mais de mil funcionários de grandes empresas de IA assinaram, em julho, uma petição pública pedindo que o governo americano ajudasse a criar justamente esse tipo de instância internacional de avaliação e supervisão da tecnologia.

---

Perguntas frequentes

O que é autoaperfeiçoamento recursivo da inteligência artificial? ＋

O autoaperfeiçoamento recursivo, ou RSI, é o cenário em que sistemas de IA passam a participar ativamente do desenvolvimento das próprias versões seguintes, com intervenção humana cada vez menor. Isso poderia acelerar significativamente o ritmo de evolução dos modelos.

Por que a OpenAI está preocupada com o autoaperfeiçoamento da IA? ＋

A OpenAI afirma que o RSI pleno ainda não acontece e não deveria ser perseguido até que possa ser desenvolvido com segurança. A preocupação é que uma automação crescente do desenvolvimento torne a evolução dos sistemas mais rápida e difícil de acompanhar e controlar.

O que a OpenAI propõe para controlar os riscos da IA avançada? ＋

A empresa propõe padrões técnicos internacionais para avaliar modelos de fronteira, medir o nível de automação dentro dos laboratórios de IA e criar uma linguagem comum para classificar e relatar incidentes de segurança.

A OpenAI quer exigir licença para lançar novos modelos de IA? ＋

Não. A proposta enfatiza que os padrões internacionais não funcionariam como licenças nem exigiriam aprovação prévia obrigatória para o lançamento de modelos. Cada país decidiria como incorporar as regras à própria legislação.

Por que a OpenAI quer que os Estados Unidos liderem as regras globais de IA? ＋

A empresa argumenta que os Estados Unidos estão bem posicionados para coordenar o esforço por ocuparem a fronteira técnica da inteligência artificial e terem papel relevante nas redes globais de finanças, comércio e defesa. A intenção seria evitar que diferentes países adotem padrões incompatíveis para avaliar riscos.

As empresas de IA já usam inteligência artificial para desenvolver novos modelos? ＋

Sim. Sistemas de IA já participam de partes do processo de desenvolvimento. A Anthropic, por exemplo, afirmou que mais de 80% do código incorporado ao seu próprio desenvolvimento é atualmente escrito pelo Claude. A OpenAI, porém, afirma que o autoaperfeiçoamento recursivo pleno ainda não acontece.