OpenAI diz que novo chip próprio de IA é mais eficiente que Nvidia

A OpenAI divulgou na terça-feira, 25, os primeiros resultados de desempenho do Jalapeño, seu primeiro chip próprio voltado à inferência de inteligência artificial (IA) — a etapa em que um modelo já treinado processa perguntas e gera respostas.

Segundo a empresa, o chip entrega mais capacidade de processamento por watt de energia consumida e menor latência do que sistemas atualmente no mercado, incluindo os processadores GB200 e GB300, da Nvidia.

Os testes foram conduzidos no InferenceX, benchmark público da consultoria SemiAnalysis que mede o processo completo de atender uma requisição de IA, do início ao fim.

Segundo a OpenAI, o Jalapeño é avaliado para operar a 700 watts (W) de potência, mas manteve consumo sustentado igual ou inferior a 550 W nos testes realizados — contra os 1.200 W do GB200 e os 1.400 W do GB300, da Nvidia.

Até 3,6 vezes menos latência

A OpenAI testou o chip em três modelos de linguagem de grande porte (LLMs) distintos — o próprio GPT-OSS 120B, o DeepSeek R1, da chinesa DeepSeek, e o Kimi K2.5, da também chinesa Moonshot AI —, e diz ter obtido ganhos em todos eles: entre 1,5 e 1,9 vez mais trabalho de IA processado por watt no pico de desempenho, entre 1,7 e 3,6 vezes menos latência de ponta a ponta, e um desempenho de 2,1 a 4,1 vezes maior em cargas de trabalho altamente interativas, como agentes de IA que precisam responder em tempo real.

No teste com o DeepSeek R1, comparado ao GB300 da Nvidia, o Jalapeño apresentou cerca de 1,7 vez mais capacidade de processamento por quilowatt (kW) no pico e latência 3,6 vezes menor. Já no GPT-OSS 120B, na comparação com o GB200, o ganho de eficiência energética chegou a 1,9 vez, com latência 1,7 vez menor.

No maior modelo testado, o Kimi K2.5, de 1 trilhão de parâmetros, o Jalapeño entregou cerca de 1,5 vez mais desempenho por watt e latência 3,4 vezes menor.

Um chip pensado para agentes de IA

Segundo a OpenAI, o Jalapeño foi projetado desde o início para lidar bem tanto com a etapa de processamento inicial de um pedido (prefill), que exige muito poder de computação, quanto com a geração de respostas token a token (decode), mais dependente de largura de banda de memória — dois estágios que, segundo a empresa, costumam forçar um trade-off em outros chips do mercado.

A arquitetura também minimiza a movimentação de dados entre núcleos e chips, mantendo o estado do modelo, incluindo o chamado KV cache, próximo do processamento — o que ajuda a manter a velocidade estável em tarefas que exigem várias etapas em sequência, como agentes autônomos de IA.

A própria IA ajudou a projetar o chip

A OpenAI afirma ter usado seus próprios modelos de IA para acelerar o desenvolvimento do Jalapeño, reduzindo o tempo entre o design inicial e o envio para fabricação (tapeout) para nove meses.

Gerações anteriores de modelos ajudaram a projetar e colocar o chip em funcionamento, enquanto modelos mais recentes, como o Codex, otimizam como ele é programado.

Segundo a empresa, implementações geradas por IA para blocos específicos do GPT-OSS chegaram a rodar entre 1,5 e 1,8 vez mais rápido do que versões escritas por engenheiros humanos especializados — usando essa combinação, a equipe levou apenas dois meses para colocar três modelos de peso aberto, que não estavam no plano original do projeto, em alto desempenho no chip.

Nvidia continua sendo parceira, não é substituída

Apesar da comparação direta de desempenho, a OpenAI afirma que pretende continuar usando amplamente aceleradores da Nvidia e de outros parceiros, tanto para treinamento quanto para inferência de modelos.

A empresa planeja começar a implantar o Jalapeño em sua própria infraestrutura de computação até o fim deste ano, como o primeiro passo de um roteiro de múltiplas gerações — a segunda geração do chip já está em desenvolvimento avançado, e uma terceira começa a tomar forma.