Em 2017, um experimento conduzido pela equipe de pesquisa em inteligência artificial da Meta, na época chamada Facebook AI Research (FAIR), gerou manchetes ao redor do mundo. O motivo parecia saído de um filme de ficção científica: dois chatbots começaram a conversar entre si e desenvolveram uma forma de comunicação que os pesquisadores não haviam programado.

A repercussão foi imediata. Algumas publicações chegaram a sugerir que as máquinas haviam criado uma linguagem secreta e incompreensível para os humanos. A realidade, porém, era menos dramática — e talvez mais interessante.

O estudo fazia parte de uma pesquisa sobre negociação automática. Os pesquisadores treinaram dois agentes de IA para negociar a troca de objetos virtuais, como livros, chapéus e bolas. O objetivo era que eles aprendessem a chegar a acordos vantajosos por conta própria.

Durante o treinamento, os sistemas descobriram que não precisavam seguir rigorosamente as regras do inglês para atingir esse objetivo. Em vez disso, passaram a utilizar padrões de palavras repetidas e estruturas pouco convencionais, que pareciam estranhas para observadores humanos, mas continuavam eficientes para a tarefa que estavam executando.

Quer entender IA na prática? EXAME + Saint Paul criaram um pré-MBA com 4 aulas online por R$37. Comece do zero e dê o primeiro passo agora.

Os diálogos começaram a apresentar repetições incomuns de palavras e construções que se afastavam da gramática tradicional. Para um observador humano, as mensagens pareciam confusas, mas os sistemas continuavam interpretando aquelas sequências de forma eficiente durante as negociações.

O que realmente aconteceu?

Ao contrário do que muitas manchetes sugeriram na época, os pesquisadores não desligaram os sistemas porque eles haviam se tornado perigosos ou incontroláveis.

O problema era justamente o contrário: a nova forma de comunicação tornava o experimento menos útil para os objetivos da pesquisa.

Como os cientistas queriam estudar negociações compreensíveis para seres humanos, precisavam que os agentes utilizassem linguagem natural. Quando os chatbots passaram a otimizar sua comunicação para eficiência interna, abandonando parte das regras do inglês, o resultado deixou de atender ao propósito do estudo.

A solução foi simples: ajustar os parâmetros do treinamento para incentivar o uso de linguagem compreensível para pessoas.

Aprenda IA do zero com EXAME + Saint Paul: pré-MBA online (4 aulas) por R$37. Ideal pra quem quer começar e não sabe como. Matrículas abertas.

Por que o episódio voltou a ser discutido?

Quase uma década depois, o caso voltou a chamar atenção devido ao avanço dos chamados agentes de IA, sistemas capazes de executar tarefas de forma mais autônoma, interagindo com outros programas e tomando decisões com menor intervenção humana.

Hoje, empresas de tecnologia investigam cenários em que múltiplas IAs trabalham juntas para resolver problemas complexos, dividir tarefas e trocar informações. Nesse contexto, pesquisadores discutem até que ponto esses sistemas podem desenvolver formas mais eficientes de comunicação entre si.

A questão central não é o surgimento de uma "língua secreta", mas sim a necessidade de garantir transparência e supervisão. Quanto mais agentes autônomos interagem entre si, maior o interesse em entender como as decisões são tomadas e como as informações circulam entre os sistemas.

Todo mundo fala de IA — poucos sabem por onde começar. O pré-MBA EXAME + Saint Paul ensina em 4 aulas, online, por R$37. Comece hoje. Vagas abertas.

O episódio de 2017 se tornou um dos casos mais citados da história recente da inteligência artificial porque ilustra um princípio importante: sistemas de IA tendem a otimizar resultados de acordo com os objetivos que recebem.

Quando a meta era negociar da maneira mais eficiente possível, os chatbots encontraram atalhos de comunicação que faziam sentido para eles. Quando a meta passou a incluir comunicação compreensível para humanos, o comportamento mudou.