O volume de conteúdo falso criado com IA no Brasil triplicou entre 2024 e 2025, com crescimento de 308%, segundo o Observatório Lupa. O dado dimensiona um problema que avança mais rápido do que os mecanismos de controle. Mais de três quartos desse material mapeado no ano passado exploraram a imagem ou a voz de figuras públicas, com destaque para Lula, Bolsonaro e Alexandre de Moraes.

Para o pleito de 2026, espera-se um cenário ainda mais intenso durante os meses de campanha. O Observatório IA nas Eleições, grupo de observação feito em parceria entre Aláfia Lab, Data Privacy Brasil e o Desinformante, monitora em tempo real violações às regras do TSE, Tribunal Superior Eleitoral. Antes da largada eleitoral, o grupo já aponta que 73% dos conteúdos sintéticos políticos circulam sem qualquer identificação que possa ajudar a entender se a IA está sendo usada em material oficial. Tal notificação é uma exigência do TSE e exige que qualquer conteúdo de propaganda eleitoral que utilize inteligência artificial contenha um aviso explícito sobre o uso dessa tecnologia.

O cenário revela uma contradição estrutural do setor. As mesmas empresas que assumem compromissos públicos contra a desinformação durante as eleições são também responsáveis por desenvolver e distribuir as ferramentas que tornam esse conteúdo mais barato, rápido e sofisticado.  O caso mais crítico dessa tensão são os chamados deepfakes — conteúdos em áudio, vídeo ou combinação de ambos gerados ou manipulados digitalmente para simular a aparência, a voz e as falas de candidatos reais.

Ataques com essa técnica cresceram 126% no Brasil em 2025, segundo o relatório Identity Fraud Report 2025-2026 da Sumsub, e já produziram episódios concretos nas eleições municipais de 2024: vídeos manipulados de candidatos "ressuscitando" padrinhos políticos falecidos para declarar apoio, edições falsas de telejornais, áudios simulando confissões de corrupção e imagens de teor sexual contra candidatas, casos que chegaram à Justiça Eleitoral.

O TSE proíbe o uso de deepfakes para prejudicar ou favorecer candidaturas desde as eleições de 2024, e candidatos que recorrerem ao recurso podem ter o registro ou o mandato cassado, mas a norma depende da capacidade de detecção e remoção pelas próprias plataformas, o que a resolução de 2026 tenta corrigir ao tornar essa responsabilidade preventiva, e não apenas reativa

O que as principais plataformas estão fazendo

No centro dessa equação está a Meta, dona de Facebook, Instagram e WhatsApp, as redes usadas por mais de 60% dos brasileiros. A empresa tem acumulado iniciativas concretas de transparência: desde 2018 exige autorização prévia e rótulo "Pago por" em anúncios políticos; em 2024 passou a identificar automaticamente conteúdos gerados ou alterados por IA usando o padrão técnico C2PA, protocolo que autentica a origem de conteúdos digitais, além de exigir autodeclaração de anunciantes que usem IA em peças sobre temas eleitorais, sociais ou políticos.

Para as eleições de 2026 nos Estados Unidos, a empresa anunciou seu "centro de operações eleitorais" com monitoramento em tempo real e bloqueio de novos anúncios políticos na semana que antecede o pleito.

O dilema, no entanto, é estrutural: um ano depois dessas mesmas iniciativas de transparência, como mostrou a EXAME, Zuckerberg anunciou um plano de ter 100% da criação de anúncios com IA até o fim deste ano, o que transforma o próprio ecossistema publicitário da empresa em uma máquina de produção sintética em escala.

A Meta não é a única empresa nessa posição, mas é a que concentra maior audiência no Brasil, o que amplifica tanto o potencial de suas políticas de proteção quanto o alcance dos conteúdos que eventualmente escapam delas.

Outras plataformas seguem caminhos semelhantes, com níveis variados de controle. O TikTok firmou acordo com o TSE para adotar o padrão C2PA, o mesmo que a Meta adotou, além de exigir identificação de material gerado por IA e proibir anúncios políticos pagos.

Contudo, a empresa está no momento de expansão do seu modelo de vídeos realistas Seedance, hoje considerado um dos melhores do mercado dada a fidelidade nos vídeos que cria sinteticamente.

No Google e no YouTube, que vendem o poderoso modelo gerador de vídeos Veo, há exigência de autodeclaração sobre uso de IA em conteúdos políticos, além de restrições a anúncios. O modelo, porém, depende da honestidade do próprio criador, o que limita sua efetividade.

Já o X, antigo Twitter, combina compromissos formais com uma estrutura de moderação mais enxuta após cortes internos. Em episódios recentes, o chatbot Grok, da xAI, chegou a reproduzir informações eleitorais falsas nos Estados Unidos por dias antes de correção.

A OpenAI, por sua vez, proíbe o uso do ChatGPT para campanhas políticas ou simulação de candidatos, mas a aplicação dessas regras ocorre majoritariamente via termos de uso, sem mecanismos preventivos robustos.

[grifar]73% dos conteúdos sintéticos políticos circulam sem qualquer identificação que possa ajudar a entender se a IA está sendo usada em material oficial. Tal notificação é uma exigência do TSE e exige que qualquer conteúdo de propaganda eleitoral que utilize inteligência artificial contenha um aviso explícito sobre o uso dessa tecnologia.

O cenário revela uma contradição estrutural do setor. As mesmas empresas que assumem compromissos públicos contra a desinformação durante as eleições são também responsáveis por desenvolver e distribuir as ferramentas que tornam esse conteúdo mais barato, rápido e sofisticado.  O caso mais crítico dessa tensão são os chamados deepfakes — conteúdos em áudio, vídeo ou combinação de ambos gerados ou manipulados digitalmente para simular a aparência, a voz e as falas de candidatos reais.

Ataques com essa técnica cresceram 126% no Brasil em 2025, segundo o relatório Identity Fraud Report 2025-2026 da Sumsub, e já produziram episódios concretos nas eleições municipais de 2024: vídeos manipulados de candidatos "ressuscitando" padrinhos políticos falecidos para declarar apoio, edições falsas de telejornais, áudios simulando confissões de corrupção e imagens de teor sexual contra candidatas, casos que chegaram à Justiça Eleitoral.

O TSE proíbe o uso de deepfakes para prejudicar ou favorecer candidaturas desde as eleições de 2024, e candidatos que recorrerem ao recurso podem ter o registro ou o mandato cassado, mas a norma depende da capacidade de detecção e remoção pelas próprias plataformas, o que a resolução de 2026 tenta corrigir ao tornar essa responsabilidade preventiva, e não apenas reativa

O que as principais plataformas estão fazendo

No centro dessa equação está a Meta, dona de Facebook, Instagram e WhatsApp, as redes usadas por mais de 60% dos brasileiros. A empresa tem acumulado iniciativas concretas de transparência: desde 2018 exige autorização prévia e rótulo "Pago por" em anúncios políticos; em 2024 passou a identificar automaticamente conteúdos gerados ou alterados por IA usando o padrão técnico C2PA, protocolo que autentica a origem de conteúdos digitais, além de exigir autodeclaração de anunciantes que usem IA em peças sobre temas eleitorais, sociais ou políticos.

Para as eleições de 2026 nos Estados Unidos, a empresa anunciou seu "centro de operações eleitorais" com monitoramento em tempo real e bloqueio de novos anúncios políticos na semana que antecede o pleito.

O dilema, no entanto, é estrutural: um ano depois dessas mesmas iniciativas de transparência, como mostrou a EXAME, Zuckerberg anunciou um plano de ter 100% da criação de anúncios com IA até o fim deste ano, o que transforma o próprio ecossistema publicitário da empresa em uma máquina de produção sintética em escala.

A Meta não é a única empresa nessa posição, mas é a que concentra maior audiência no Brasil, o que amplifica tanto o potencial de suas políticas de proteção quanto o alcance dos conteúdos que eventualmente escapam delas.

Outras plataformas seguem caminhos semelhantes, com níveis variados de controle. O TikTok firmou acordo com o TSE para adotar o padrão C2PA, o mesmo que a Meta adotou, além de exigir identificação de material gerado por IA e proibir anúncios políticos pagos.

Contudo, a empresa está no momento de expansão do seu modelo de vídeos realistas Seedance, hoje considerado um dos melhores do mercado dada a fidelidade nos vídeos que cria sinteticamente.

No Google e no YouTube, que vendem o poderoso modelo gerador de vídeos Veo, há exigência de autodeclaração sobre uso de IA em conteúdos políticos, além de restrições a anúncios. O modelo, porém, depende da honestidade do próprio criador, o que limita sua efetividade.

Já o X, antigo Twitter, combina compromissos formais com uma estrutura de moderação mais enxuta após cortes internos. Em episódios recentes, o chatbot Grok, da xAI, chegou a reproduzir informações eleitorais falsas nos Estados Unidos por dias antes de correção.

A OpenAI, por sua vez, proíbe o uso do ChatGPT para campanhas políticas ou simulação de candidatos, mas a aplicação dessas regras ocorre majoritariamente via termos de uso, sem mecanismos preventivos robustos.

Diante desse cenário, o TSE adotou uma abordagem mais dura. A Resolução nº 23.755 estabelece que plataformas devem atuar de forma preventiva, e não apenas reativa.

[grifar]Na prática, não basta remover conteúdo após denúncia; as empresas passam a ser responsáveis por impedir sua circulação.

Entre as exigências estão planos de conformidade com metas objetivas, sistemas de detecção proativa, relatórios periódicos e a inversão do ônus da prova, ou seja, cabe às plataformas demonstrar que um conteúdo não foi manipulado.

Os dados atuais, no entanto, indicam um descompasso entre regra e prática. Mesmo fora do período eleitoral, a maioria dos conteúdos sintéticos segue sem identificação, o que sugere baixa efetividade dos acordos voluntários firmados até aqui.

Chatbots entram no radar eleitoral

Outro ponto de atenção são os próprios sistemas de IA conversacional. O TSE proibiu que ferramentas como ChatGPT, Gemini e Copilot recomendem candidatos ou expressem preferências eleitorais, direta ou indiretamente.

A preocupação é menos com respostas isoladas e mais com o efeito cumulativo. Pequenas distorções, replicadas em milhões de interações, podem influenciar o eleitorado sem transparência ou rastreabilidade.

Especialistas apontam, porém, uma lacuna relevante: ainda não está claro como essas restrições estão sendo implementadas tecnicamente, nem se há mecanismos independentes de auditoria capazes de verificar seu cumprimento.