A plataforma X, do bilionário Elon Musk, anunciou nesta quarta-feira, 14, que adotou medidas para bloquear a criação de imagens sexualizadas de pessoas reais pelo assistente de inteligência artificial Grok.

A decisão surge em meio à polêmica global sobre as deepfakes geradas pelo chatbot, a partir de fotos de mulheres e crianças e sem o consentimento das vítimas.

"Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis", afirmou a equipe de segurança do X.

A plataforma informou que as novas diretrizes serão aplicadas a todos os usuários, inclusive os assinantes do plano premium, e que bloqueará a criação dessas imagens em regiões onde a prática é ilegal.

Musk tentou se esquivar, mas plataforma admitiu falhas

Horas antes do anúncio, Musk afirmou não ter conhecimento de que o chatbot gerava deepfakes sexuais de mulheres e crianças.

"Literalmente, zero. Obviamente, o Grok não gera imagens de forma espontânea; isso ocorre apenas de acordo com solicitações dos usuários. Quando é solicitado, ele se recusa a produzir qualquer coisa ilegal", publicou o bilionário no X na quarta.

Apesar do posicionamento de Musk, o próprio Grok admitiu, em 2 de janeiro, que falhas internas nos mecanismos de proteção abriram brecha para a criação das imagens explícitas. Como medida inicial para conter a polêmica, a X limitou os recursos de geração de conteúdos aos assinantes, mas a medida foi vista como insuficiente.

Segundo a Bloomberg, o X se tornou um dos principais canais para a criação e divulgação de imagens sexualizadas feitas por IA sem o consentimento das vítimas. Uma análise de 24 horas da conta @Grok, realizada pela pesquisadora Genevieve Oh, revelou que o chatbot produzia cerca de 6.700 imagens explícitas ou sugestivas a cada hora, que somam 160.800 imagens ao dia.

Repercussão global

A controvérsia gerou repercussão internacional. Governos e agências reguladoras de todo o mundo criticaram a X e a ferramenta de inteligência artificial, e alguns tomaram medidas mais drásticas, como o pedido de suspensão do recurso e investigações próprias.

O Brasil está na lista: o Instituto de Defesa do Consumidor (Idec) pediu a suspensão do chatbot. Além disso, a deputada federal Erika Hilton (PSOL) protocolou uma representação no Ministério Público Federal (MPF) contra o Grok e a X.

No Reino Unido, a Ofcom investiga a plataforma para verificar se ela descumpriu a legislação local ao permitir a criação das imagens sexualizadas. Já a Indonésia e a Malásia bloquearam o acesso ao Grok, enquanto a Índia exigiu mais proteção contra os deepfakes.

Nos Estados Unidos, a xAI — braço de inteligência artificial de Musk — passou a ser investigada pela Procuradoria-Geral da Califórnia. Segundo o órgão, mais da metade das 20 mil imagens geradas só no período entre Natal e Ano Novo retratavam pessoas de forma explícita ou sugestiva, com algumas das vítimas sendo crianças.

Além disso, o Senado aprovou por unanimidade um projeto de lei que autoriza vítimas a processarem os responsáveis pela criação de imagens sexuais geradas por inteligência artificial (IA) sem consentimento. O Grok e a X foram explicitamente citados no texto e no plenário.