O TikTok será a primeira plataforma de vídeos a rotular automaticamente alguns conteúdos gerados por inteligência artificial (IA), em resposta ao avanço rápido da IA generativa e às crescentes preocupações com a disseminação de desinformação online e deepfakes.

Atualmente, plataformas como Meta, dona do Facebook, e o próprio TikTok, exigem que os usuários indiquem se imagens, áudios ou vídeos realistas foram criados com software de IA.

No caso do TikTok, a medida incluirá conteúdos criados com a ferramenta Firefly da Adobe, os geradores de imagens de IA do TikTok e o Dall-E da OpenAI.

Adam Presser, chefe de operações e segurança do TikTok, afirmou que "há um aumento no conteúdo prejudicial gerado por IA, conforme relatado por muitos especialistas com os quais trabalhamos". Ele destacou que a autenticidade é um elemento crucial para a comunidade do TikTok.

O desafio contra conteúdos artificiais

Plataformas como TikTok, Meta, X e YouTube estão explorando formas de integrar IA generativa em seus sistemas, oferecendo chatbots e novas ferramentas para ajudar influenciadores e anunciantes na criação de mídia. No entanto, essas plataformas enfrentam críticas por permitir a proliferação de conteúdo gerado por IA de baixa qualidade.

Em um ano marcado por eleições importantes ao redor do mundo, essas empresas enfrentam pressão para introduzir medidas contra deepfakes enganosos, combater operações de influência encobertas e garantir uma moderação de conteúdo eficaz e imparcial.

Na última semana, TikTok e ByteDance processaram o governo dos EUA, desafiando uma lei que poderia forçar a venda ou proibição do aplicativo, em meio a preocupações de legisladores sobre a potencial disseminação de desinformação e propaganda pela plataforma.

Nesta quinta-feira, 9, o TikTok anunciou sua adesão a uma coalizão de grupos de tecnologia e mídia, liderada pela Adobe, que incorporam as chamadas credenciais de conteúdo em produtos gerados por IA.

A mesma coalizão recebeu a OpenAI e integrará a tecnologia de impressão digital em todas as imagens geradas pelo seu modelo Dall-E 3. Futuramente, a OpenAI planeja aplicar essa tecnologia também em seu modelo gerador de vídeos, Sora, quando for amplamente lançado.

A Meta anunciou recentemente que começará a marcar conteúdos gerados por IA com um selo “Made by AI”, detectando marcadores invisíveis inseridos por grupos como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock. A empresa também está desenvolvendo classificadores de detecção de deepfakes.

Especialistas apontam que atores mal-intencionados ou grupos de desinformação sofisticados provavelmente usarão ferramentas de geração de IA de código aberto para criar deepfakes, tornando-os mais difíceis de rastrear e não detectáveis pelas tecnologias de impressão digital e marca d'água.