A possibilidade de que o avanço da inteligência artificial (IA) seja castrófico vem preocupando a equipe da OpenAI. Dias antes da demissão do CEO Sam Altman, funcionários da empresa por trás do ChatGPT teriam enviado uma carta ao conselho alertando sobre uma poderosa descoberta que poderia ameaçar a humanidade. Um modelo de aprendizagem conhecido como Q* (pronuncia-se Q-Star) teria sido o pivô da demissão do executivo, que voltou ao cargo nesta terça-feira, 21.

Segundo fontes ouvidas pela Reuters, a revelação de que o executivo estaria trabalhando em um projeto de uma superinteligência artificial foi agrupada junto de uma longa lista de queixas do conselho, que já se mostrava apreensivo com a comercialização de certas atualizações antes de compreender totalmente as consequências da tecnologia.

A agência não teve acesso a carta, mas a OpenAI confirmou que a notificação ao conselho é verdadeira. Para os funcionários da OpenAI, o Q* pode ser um avanço na busca da startup pelo que é conhecido como inteligência artificial geral. A "AGI"  é definida pela própria OpenAI como "sistemas autônomos que superam os humanos nas tarefas economicamente mais valiosas", mas, em suma, pode ser definido como uma IA superinteligente.

O que é Q*?

Q*, ou Q-learning, é um algoritmo de aprendizagem que ajuda a IA a encontrar as melhores ações a serem tomadas em diferentes situações. Diferente dos modelos usados até aqui, o Q* é mais inteligente e mais agressivo em sua exploração de novas informações, enquanto ainda se apega ao que já sabe.

Seu objetivo é conseguir com que a máquina tenha a estratégia mais inteligente possível e de maior recompensa a longo prazo. Tente imaginar uma tabela que separa diferentes situações e as respostas adequadas para elas, mas que muda o resultado conforme a máquina na qual ela está inserida ganha mais experiência.

Na teoria, isso é o Q* em ação — mas existem alguns desafios que impedem o algoritmo de "dominar o mundo". O Q-learning é um passo na direção da AGI, ou "inteligência artificial geral", mas ainda precisa ser melhor desenvolvido para ser aplicado em máquinas inteligentes de todos os tipos.

Segundo fontes escutadas pela Reuters, o novo modelo foi capaz de resolver problemas matemáticos no nível de alunos do ensino fundamental. Apesar da conta ser básica, ela indica o potencial da tecnologia ter, no futuro, capacidades de raciocínio semelhantes à inteligência humana.

Mas, para "sentir a AGI", como Altman supostamente declarou em uma festa do escritório, o Q* ainda vai precisar aprender a aprender direito.