Inteligência Artificial

"Camarão Jesus": imagens bizarras feitas por IA tomam o Facebook

Rede social parece ter bots criando fotos e legendas que ficam cada vez mais estranhas, e não há como discernir se os comentários também são de pessoas reais

Laura Pancini
Laura Pancini

Repórter de Tecnologia e Inteligência Artificial

Publicado em 30 de abril de 2024 às 10h41.

Última atualização em 23 de maio de 2024 às 10h47.

Tudo sobreInteligência artificial
Saiba mais

Quem cresceu na internet e ouviu frases como "não confie em tudo que você vê" dos pais, saiba que agora pode ser a hora de retribuir o favor.

O Facebook está abarrotado de imagens geradas por inteligência artificial que estão ficando cada vez mais bizarras: uma página, por exemplo, começou publicando uma imagem de uma escultura de Jesus feita em areia. Depois de algum tempo, as publicações passaram a ter imagens de Jesus no mar, com braços de caranguejo ou camarão, de vez em quando segurando uma aeromoça nos braços.

Na legenda, frases como "Fiz essa sozinha, o que acharam?" ou "Ninguém aprecia mais arte de verdade..." contribuem para um engajamento maior na foto. Mas, claro, sem qualquer indicação de que o conteúdo foi gerado com um simples prompt.

“Me ouço em todo lugar”: ela teve a voz vendida como se fosse de uma inteligência artificial

Apesar de algumas postagens também viralizarem como meme, o conteúdo também confunde usuários mais velhos e que não tem noção completa do potencial da IA generativa. Um estudo realizado pelo Stanford Internet Observatory analisou 120 dessas páginas e descobriu que algumas são administradas pelos mesmos operadores, que frequentemente não informam aos usuários que as imagens são sintéticas.

Veja algumas imagens feitas por IA generativa:

Assim, as páginas acumulam milhões de seguidores e centenas de engajamentos, mas não está claro qual a porcentagem de pessoas reais interagindo. Isso porque, não importa o quão bizarra a imagem seja, são poucos os comentários questionando a origem dela. A maioria das respostas são "amém" ou alguma outra frase genérica, que não levantam suspeitas de que a conta pode ser, na verdade, um bot.

Existe, então, a possibilidade de todas essas interações serem feitas só por robôs: seguindo um prompt de geração de imagens e legendas, as páginas podem chegar a postar entre dezenas a centenas de imagens por dia. Acredita-se que cada uma segue o mesmo prompt e, por isso, as imagens vão ficando cada vez mais estranhas. Então, contas falsas respondem para aumentar o engajamento. Se tem algum idoso confuso no meio das postagens, ele pode ser a exceção.

Veja as 10 profissões que serão extintas pela tecnologia

A Meta, empresa-mãe por trás do Facebook, ainda não se pronunciou sobre as bizarras imagens que estão aparecendo no feed. Como fake news sobre política, as imagens geradas por IA são outro tipo de desinformação que rola na rede social — mais engraçado, claro, mas também algo que precisa ser combatido pela empresa.

Ano passado, o Facebook adicionou uma ferramenta que permite que os grupos filtrem automaticamente informações já identificadas como falsas. Os dados são enviados para uma "fila de quarentena". O que resta entender é quem vai denunciar o conteúdo quando aparentemente todos os perfis e páginas são bots.

Acompanhe tudo sobre:Inteligência artificialFacebookMemes

Mais de Inteligência Artificial

Por que o AI Pin se tornou o maior fracasso de 2024

A história que a Globo precisou de inteligência artificial para contar

Reguladores dos EUA investigam Nvidia, Microsoft e OpenAI por conduta antitruste no mercado de IA

Esta empresa usa IA para conceder créditos a pessoas sem histórico financeiro

Mais na Exame