Imagina ir atrás de uma receita de pizza e, na hora de cozinhar, perceber que a resposta sugeriu adicionar cola no seu prato? A busca do Google ganhou a adição de inteligência artificial nos últimos meses, no entanto, algumas respostas erradas têm chamado a atenção. Duas reportagens, do The Verge e do Washington Post, tentam mostrar como o Google passa por problemas para resolver suas questões com inteligência artificial.

O Google vem testando essas respostas feitas com auxílio de IA generativa há um ano. A ferramenta foi lançada em versão beta em maio de 2023 como a Experiência de Busca Generativa, ou SGE, e consiste em resumir a resposta através de um texto gerado por IA, ao invés do amontoado de links que o usuário está acostumado a receber numa pesquisa do Google.

Nas redes sociais, postagens das respostas têm viralizado. No X, antigo Twitter, um usuário fez um compilado das mais bizarras, que incluem: fumar enquanto grávida é bom, é possível treinar oito dias na semana e uma lista de quais personagens do Mario Kart são assumidamente gays.

"train eight days a week" pic.twitter.com/xlDkOQEKo8

— Jeremiah Johnson 🌐 (@JeremiahDJohns) May 26, 2024

O que diz o Google?

O CEO Sundar Pichai afirmou que a empresa atendeu a mais de um bilhão de consultas desde então. No entanto, o executivo também mencionou que o custo de fornecimento dessas respostas de IA caiu 80% devido a avanços em hardware e engenharia. Ou seja, a otimização pode ter ocorrido prematuramente, antes que a tecnologia estivesse totalmente pronta.

A empresa alega que a maioria das respostas de IA oferece "informações de alta qualidade", mas reconhece que algumas consultas incomuns podem gerar respostas erradas. Um porta-voz do Google afirmou que a empresa está "tomando medidas rápidas" para remover essas respostas inadequadas e está desenvolvendo melhorias no sistema.

No início do ano, o Google interrompeu a geração de imagens do Gemini após distorções, como imagens de soldados nazistas negros, viralizarem nas redes sociais. Em nota publicada naquela época, a empresa de Sundar Pichai pediu desculpas pelo ocorrido e prometeu fazer melhor no futuro.

Por que algumas respostas com IA estão erradas?

O problema com essas respostas bizarras da IA pode ser atribuído aos locais que os modelos de linguagem em grande escala extraem informações. Eles são treinados com enormes quantidades de dados da internet, incluindo artigos de notícias, fóruns e mais, e geram palavras com base em padrões desses dados, mas também têm dificuldade em distinguir entre piadas e fatos.

Por exemplo, a sugestão de colocar cola na pizza provavelmente veio de uma postagem sarcástica no Reddit. A IA, incapaz de discernir o contexto, reproduziu a sugestão como se fosse válida.

Impacto das respostas incorretas

Embora muitas das respostas erradas sejam engraçadas, há sérias implicações. Por exemplo, a IA do Google afirmou falsamente que o ex-presidente Barack Obama é muçulmano, uma mentira que a empresa teve que remover rapidamente.

Empresas como a OpenAI e a Microsoft também enfrentam desafios semelhantes com suas próprias IAs, ChatGPT e Copilot. Ambas estão trabalhando para melhorar a precisão e fornecer links em suas respostas para que os usuários possam verificar as informações.

A crise da IA do Google

A pressão para competir no mercado de IA é intensa. OpenAI, Microsoft, Amazon, Meta e muitas outras big techs do setor entraram na briga, além de novas startups com foco específico em busca com IA. Isso coloca o Google em uma posição difícil, tentando equilibrar a inovação com a precisão.

Além disso, as falhas recentes nas respostas da IA prejudicam a confiança dos usuários na plataforma. Muitos esperam que o Google, conhecido pela busca que moldou a internet, entregue respostas precisas e confiáveis. A empresa deve lidar com essas questões de forma eficaz para evitar danos à sua reputação.