Dois modelos de inteligência artificial (IA) da OpenAI que escaparam, por conta própria, do ambiente fechado em que estavam sendo testados para atacar a biblioteca da Hugging Face também invadiram outras quatro plataformas, segundo a dona do ChatGPT. 

Segundo a empresa, os modelos foram explorados para encontrar as respostas aos testes propostos pelos desenvolvedores da OpenAI.

A IA da empresa também acessou vários sites abertos para copiar ou testar códigos de programação, mas, segundo a empresa, sem ultrapassar o que faria um usuário comum.

A Hugging Face, que publicou um relato detalhado do episódio, classificou o ataque como uma tentativa dos modelos de "trapacear na avaliação" da OpenAI. Em vez de responder aos testes por conta própria, eles teriam buscado roubar as soluções prontas.

Essa não é a primeira vez que um modelo de IA foge do controle de seus desenvolvedores, mas o caso é considerado o mais grave já registrado até agora. O episódio reacendeu o debate sobre o ritmo acelerado da evolução da IA e sobre a dificuldade crescente de mantê-la sob controle.

Pressão por regulamentação

Na terça-feira, 28, mais de mil funcionários de grandes empresas de inteligência artificial, incluindo diversos executivos, assinaram uma petição pedindo ao governo dos Estados Unidos que ajude a desacelerar o lançamento de novos modelos, dando tempo para que o ecossistema de computação se prepare.

• Por que a OpenAI, do ChatGPT, perdeu US$ 39 bilhões em um ano

O documento defende que os EUA liderem a criação de uma instância internacional de referência para avaliação e supervisão da IA.

O setor já sinaliza uma aproximação da chamada "autoaperfeiçoamento recursivo" (recursive self-improvement, ou RSI), etapa em que a inteligência artificial seria capaz de desenvolver sozinha sua própria sucessora, num ciclo que poderia se repetir indefinidamente. 

Caso isso se confirme, a verificação e a avaliação de novos modelos por especialistas humanos ficarão ainda mais difíceis, já que os próprios desenvolvedores não terão participado diretamente da criação dos sistemas seguintes.

* Com informações da AFP