Inteligência Artificial

Entenda o que é Q*, a super inteligência artificial que preocupa equipe da OpenAI

Algoritmo superavançado, também conhecido como inteligência artificial geral (AGI), foi o motivo de uma carta enviada ao conselho da empresa

OpenAI: Para os funcionários da empresa, o Q* pode ser um avanço na busca da startup pelo que é conhecido como inteligência artificial geral (Photo by KIRILL KUDRYAVTSEV/AFP via Getty Images)

OpenAI: Para os funcionários da empresa, o Q* pode ser um avanço na busca da startup pelo que é conhecido como inteligência artificial geral (Photo by KIRILL KUDRYAVTSEV/AFP via Getty Images)

Laura Pancini
Laura Pancini

Repórter de Tecnologia e Inteligência Artificial

Publicado em 23 de novembro de 2023 às 13h38.

Última atualização em 23 de novembro de 2023 às 13h49.

A possibilidade de que o avanço da inteligência artificial (IA) seja castrófico vem preocupando a equipe da OpenAI. Dias antes da demissão do CEO Sam Altman, funcionários da empresa por trás do ChatGPT teriam enviado uma carta ao conselho alertando sobre uma poderosa descoberta que poderia ameaçar a humanidade. Um modelo de aprendizagem conhecido como Q* (pronuncia-se Q-Star) teria sido o pivô da demissão do executivo, que voltou ao cargo nesta terça-feira, 21.

Segundo fontes ouvidas pela Reuters, a revelação de que o executivo estaria trabalhando em um projeto de uma superinteligência artificial foi agrupada junto de uma longa lista de queixas do conselho, que já se mostrava apreensivo com a comercialização de certas atualizações antes de compreender totalmente as consequências da tecnologia.

A agência não teve acesso a carta, mas a OpenAI confirmou que a notificação ao conselho é verdadeira. Para os funcionários da OpenAI, o Q* pode ser um avanço na busca da startup pelo que é conhecido como inteligência artificial geral. A "AGI"  é definida pela própria OpenAI como "sistemas autônomos que superam os humanos nas tarefas economicamente mais valiosas", mas, em suma, pode ser definido como uma IA superinteligente.

O que é Q*?

Q*, ou Q-learning, é um algoritmo de aprendizagem que ajuda a IA a encontrar as melhores ações a serem tomadas em diferentes situações. Diferente dos modelos usados até aqui, o Q* é mais inteligente e mais agressivo em sua exploração de novas informações, enquanto ainda se apega ao que já sabe.

Seu objetivo é conseguir com que a máquina tenha a estratégia mais inteligente possível e de maior recompensa a longo prazo. Tente imaginar uma tabela que separa diferentes situações e as respostas adequadas para elas, mas que muda o resultado conforme a máquina na qual ela está inserida ganha mais experiência.

Na teoria, isso é o Q* em ação mas existem alguns desafios que impedem o algoritmo de "dominar o mundo". O Q-learning é um passo na direção da AGI, ou "inteligência artificial geral", mas ainda precisa ser melhor desenvolvido para ser aplicado em máquinas inteligentes de todos os tipos.

Segundo fontes escutadas pela Reuters, o novo modelo foi capaz de resolver problemas matemáticos no nível de alunos do ensino fundamental. Apesar da conta ser básica, ela indica o potencial da tecnologia ter, no futuro, capacidades de raciocínio semelhantes à inteligência humana.

Mas, para "sentir a AGI", como Altman supostamente declarou em uma festa do escritório, o Q* ainda vai precisar aprender a aprender direito.

Acompanhe tudo sobre:OpenAISam Altman

Mais de Inteligência Artificial

Desmistificando a IA: como ela está transformando negócios e carreiras

IA vira arma para hackers e empresas se encontram sem profissionais qualificados

Para surfar a onda da IA, Samsung promete aos clientes fábrica de chips 20% mais rápida

Amazon enfrenta desafios para integrar IA generativa na Alexa, revelam ex-funcionários

Mais na Exame