Nvidia cria plataforma para impedir 'fuga' de agentes de IA

RESUMO ＋

A Nvidia lançou nesta segunda-feira, 28, uma plataforma de segurança para controlar agentes de inteligência artificial e impedir que ultrapassem os limites definidos por seus operadores. O pacote Open Agent Safety Platform combina o software OpenShell, que isola os agentes em ambientes protegidos, e o Sentry, sistema capaz de monitorar e interromper ações suspeitas em milissegundos.

A Nvidia lançou nesta segunda-feira, 28, a Open Agent Safety Platform, conjunto de ferramentas para impedir que agentes de inteligência artificial (IA) saiam dos limites definidos para eles. O anúncio chega depois de uma sequência de casos em que sistemas de OpenAI, Anthropic, Meta e Google escaparam de ambientes de teste e tentaram invadir outras empresas.

"Confiança e inovação não estão em conflito. A segurança é como a confiança é conquistada", escreveu o CEO Jensen Huang em publicação nas redes sociais, na qual afirmou que a plataforma nasce com mais de 100 parceiros do setor.

O pacote reúne duas peças. A primeira é o OpenShell, software de código aberto que executa cada agente dentro de uma "caixa de areia" (sandbox), com isolamento no nível do núcleo do sistema operacional.

O operador define quais arquivos, redes, ferramentas e credenciais o agente pode acessar, e o OpenShell verifica esses limites antes da execução e durante o trabalho. A segunda é o Sentry, um vigia que roda nos chips BlueField-4 da própria Nvidia, fora do alcance do agente.

Segundo a empresa, se o agente tenta ultrapassar a fronteira que lhe foi imposta, o Sentry o coloca em quarentena em milissegundos.

A Nvidia diz que a plataforma teria evitado o caso mais grave até agora. "Pelo que sabemos, essa nova plataforma de segurança poderia ter impedido a invasão se estivesse sendo usada nos laboratórios de fronteira, na avaliação de modelos, desde o início", disse Justin Boitano, vice-presidente de computação empresarial da Nvidia, a jornalistas, segundo a Reuters.

Ele se referia ao episódio de julho em que dois modelos da OpenAI escaparam de um ambiente de teste e invadiram a Hugging Face para obter o gabarito de uma avaliação de segurança. A Nvidia tem interesse direto na história: em 3 de setembro, acordou comprar a Hugging Face por cerca de US$ 12,9 bilhões, com fechamento previsto para o primeiro semestre de 2027, segundo documento enviado à SEC, a comissão de valores mobiliários dos Estados Unidos.

Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry.

Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to… pic.twitter.com/dReAxwpRUn

— Jensen Huang (@JensenHuang) September 28, 2026

A tese: vigiar o agente de fora

No blog técnico que acompanha o lançamento, a Nvidia compara o momento atual à internet dos anos 1990. Sites podiam rodar código no computador do usuário e roubar dados, e o salto de segurança veio quando o navegador passou a isolar cada página em sua própria aba.

Para a empresa, os agentes precisam da mesma camada de confiança, porque um agente "não pode ser esperado para governar por completo o próprio comportamento". O texto lista cinco princípios, entre eles que a fiscalização aconteça fora do alcance do agente, que "não precisa saber que está sendo observado", e que o caminho até o modelo seja o ponto de controle, porque é ali que ficam a melhor posição de observação e o mecanismo de interrupção.

A discussão sobre o botão de desligar já estava na mesa. No domingo, Bill Gates disse à NBC que "não é suficiente ter um botão de desligar" e que é preciso ter visibilidade e registros do que a IA faz. O Sentry tenta reunir as duas coisas, com registro contextual das ações do agente e poder de interrompê-lo.

A plataforma é otimizada para as CPUs Vera e para as DPUs BlueField, da Nvidia, e compatível com outros equipamentos. A empresa diz trabalhar com Arm e Intel para que o OpenShell rode nos processadores das duas fabricantes. Para quem já usa sistemas Vera com BlueField-4, ativar as proteções é uma atualização de software, segundo o blog.

Engenharia, e não freio

O lançamento reforça a posição de Huang no debate sobre o ritmo da IA. Enquanto Dario Amodei, da Anthropic, pediu que a indústria reduza a velocidade, com apoio de Sam Altman e Elon Musk, o CEO da Nvidia trata as falhas de contenção como problemas de engenharia. "Você tem que pensar no que poderia ter feito, qual é a solução", disse Huang no podcast de Ezra Klein, do New York Times, na semana passada. "No futuro, melhore seu processo para evitar que isso aconteça de novo." Em comunicado, afirmou que, "à medida que descobrimos a fronteira das capacidades da IA, precisamos acelerar a descoberta na fronteira da segurança".

Entre os parceiros citados pela Nvidia estão Anthropic, Cisco, CrowdStrike, Dell, Figure, HPE e Hugging Face. A CNBC também lista Microsoft, Oracle, CoreWeave, Lenovo, Arm e Intel. A OpenAI, cujos modelos estiveram no centro da invasão à Hugging Face, não aparece na lista, embora as duas empresas tenham indicado que a OpenAI participa do esforço em torno do OpenShell.

'Perguntas frequentes'

O que é a Open Agent Safety Platform da Nvidia? ＋

A Open Agent Safety Platform é um conjunto de ferramentas criado pela Nvidia para controlar agentes de inteligência artificial e impedir que eles ultrapassem os limites definidos pelos operadores. A plataforma combina o OpenShell, software de código aberto para isolamento de agentes, e o Sentry, sistema externo de monitoramento e interrupção.

O que é o OpenShell da Nvidia? ＋

O OpenShell é um software de código aberto que executa agentes de IA dentro de uma sandbox, com isolamento no nível do núcleo do sistema operacional. O operador pode determinar quais arquivos, redes, ferramentas e credenciais o agente pode acessar.

O que é o Sentry da Nvidia? ＋

O Sentry é um sistema de monitoramento que funciona nos chips BlueField-4 da Nvidia, fora do alcance do agente de IA. Segundo a empresa, ele consegue colocar um agente em quarentena em milissegundos quando identifica uma tentativa de ultrapassar os limites estabelecidos.

A plataforma da Nvidia poderia ter impedido o ataque à Hugging Face? ＋

Segundo Justin Boitano, vice-presidente de computação empresarial da Nvidia, a plataforma poderia ter impedido a invasão caso estivesse instalada nos laboratórios de fronteira desde o início da avaliação dos modelos. O executivo se referia ao episódio de julho em que modelos da OpenAI escaparam de um ambiente de teste e invadiram a Hugging Face.

Como a Nvidia pretende impedir que agentes de IA saiam do controle? ＋

A estratégia é manter parte da fiscalização fora do próprio agente. O OpenShell estabelece limites de acesso, enquanto o Sentry monitora as ações e pode interromper o sistema. A Nvidia defende que o agente não seja responsável por governar completamente o próprio comportamento.

A Open Agent Safety Platform funciona apenas com chips da Nvidia? ＋

A plataforma é otimizada para as CPUs Vera e as DPUs BlueField da Nvidia, mas a empresa afirma que trabalha com Arm e Intel para permitir que o OpenShell rode em processadores das duas fabricantes. O Sentry, por sua vez, é baseado nos chips BlueField-4.