A inteligência artificial (IA) evoluiu tanto que identificar deepfakes ficou mais difícil. Todos os dias surgem vídeos e áudios falsos criados por criminosos para diversas finalidades, indistinguíveis de conteúdos reais, e o celular é a principal porta de entrada para esses materiais.

Estimativas indicam que o número de deepfakes online saiu de cerca de 500 mil em 2023 para aproximadamente 8 milhões em circulação até o ano passado, num aumento de 900%. A maior parte desses conteúdos já aparece em golpes financeiros, vídeos vexatórios, falsificação de identidade e desinformação.

A boa notícia, porém, é que dá para evitar cair nesses golpes com ferramentas anti-deepfake e algumas dicas práticas de observação. Veja a seguir.

O que são deepfakes?

Deepfakes são conteúdos — vídeos, áudios ou imagens — criados por algoritmos de aprendizado profundo (deep learning) para substituir o rosto ou a voz de uma pessoa real por outra. A tecnologia usa redes neurais que "competem" entre si para refinar a falsificação até que ela pareça humana. O resultado pode ser um rosto diferente no corpo de alguém — ou uma voz clonada dizendo coisas que a pessoa jamais disse.

Nos primeiros anos da tecnologia, era fácil identificar um vídeo ou áudio feito por IA. As bordas borradas, a iluminação inconsistente, as expressões que não correspondiam ao movimento do corpo e os defeitos já denunciavam o conteúdo falso. Um vídeo viral do ator Will Smith comendo espaguete, gerado por IA, ficou famoso pelos movimentos antinaturais e pela textura estranha do rosto.

O que mudou nos últimos anos foi mais do que o aprendizado desses algoritmos. Os modelos de IA começaram a rodar em placas mais robustas e avançadas, que permitem um processamento maior de dados. Com isso, os deepfakes foram se sofisticando, cada vez mais parecidos com os humanos e em alta resolução.

Quais são os perigos dos deepfakes?

A tecnologia abre margem para crimes que antes dependiam de recursos muito maiores. Os golpes financeiros são os mais conhecidos: golpistas clonam a voz de uma pessoa para pedir dinheiro. A tecnologia de clonagem de voz exige pouquíssimo material — um trecho curto extraído de qualquer vídeo público já é suficiente para produzir uma réplica convincente.

O uso de imagem sem consentimento afeta com frequência figuras públicas e celebridades, que têm grande volume de material disponível online. A maior parte do conteúdo deepfake produzido globalmente ainda está ligada à pornografia não consensual, mas esses casos já aparecem em ambientes corporativos, com registros de videochamadas em que deepfakes em tempo real convenceram funcionários de que falavam com seus superiores.

Os deepfakes também preocupam pelo potencial de desinformação. A tecnologia permite fabricar declarações, alterar falas e criar vídeos que simulam eventos que nunca aconteceram. Esse tipo de manipulação tende a ser mais sensível em momentos críticos, como períodos eleitorais ou situações de conflito, quando conteúdos falsos podem circular antes de qualquer verificação e influenciar decisões ou percepções públicas.

Todos esses usos ampliaram a necessidade de ferramentas de detecção de deepfakes, que também evoluíram nesse período, ainda que não no mesmo ritmo da geração de conteúdo. Nenhuma oferece precisão total, mas, quando usadas junto com análise humana, ajudam a identificar vídeos e áudios feitos por IA.

Principais ferramentas para detectar deepfakes

Como dito anteriormente, nenhuma ferramenta de detecção de deepfakes é 100% infalível. A criação de conteúdo por IA evolui rápido e tende a contornar esses sistemas. Ainda assim, algumas plataformas já conseguem identificar sinais relevantes em áudio e vídeo, ainda mais quando usadas junto com análise humana.

Veja algumas opções que podem ser acessadas pelo celular, em geral via navegador:

• Gemini (SynthID): permite identificar conteúdos que receberam marcação digital do próprio Google. Essa marca d’água invisível ajuda a confirmar se um vídeo, imagem ou áudio foi gerado dentro do ecossistema da empresa. Funciona pelo app Gemini ou navegador, mas não valida qualquer deepfake.
• Deepware Scanner: um dos detectores mais acessíveis para uso direto. Basta colar o link ou enviar o vídeo para análise, que retorna uma estimativa de manipulação. Funciona no navegador do celular, sem necessidade de app.
• CloudSEK: é uma plataforma de inteligência de ameaças que monitora a web para detectar fraudes, vazamentos e abusos de marca, inclusive sinais de deepfake.
  Ele usa IA para cruzar padrões de vídeo, áudio e contexto online, gerando alertas e uma pontuação de risco, e pede acesso via conta corporativa.
• Pindrop Pulse: focado em detecção de voz sintética, com uso comum em centrais de atendimento e verificação de identidade. Analisa padrões acústicos em áudios e chamadas. Pode ser acessado via web e integrado a plataformas de comunicação.
• ScreenApp: oferece análise de vídeos com foco em identificar possíveis sinais de manipulação. Funciona direto no navegador do celular, com envio de arquivos ou links para verificação.

Dicas práticas para identificar deepfakes

Mesmo com os avanços dos últimos anos, os modelos de IA ainda tropeçam nos detalhes sutis que humanos executam sem pensar e que denunciam se um vídeo ou áudio foi produzido com inteligência artificial. Veja algumas dicas práticas para identificar esses conteúdos:

Em vídeos

• Observe as piscadas: o olho humano pisca em intervalos irregulares, nunca com cadência constante. Deepfakes ficam com o olhar fixo por tempo que o normal e, quando piscam, o fechamento das pálpebras parece rápido demais.
• Peça para a pessoa virar de lado: a maioria dos modelos deepfake é treinada com imagens frontais. Quando o rosto sintético gira para o perfil completo, a renderização falha — a orelha pode ficar borrada e a linha do queixo se desconecta do pescoço. Óculos se fundem à pele.
• Observe a sincronia labial: preste atenção nos fonemas que exigem fechar os lábios, como o M e o P. Se o movimento não fechar completamente, ou se houver descompasso entre o áudio e o movimento da boca, é um sinal de manipulação.
• Verifique acessórios e cabelo: brincos que tremem e mudam de formato ao longo do vídeo são um sinal claro. O cabelo também costuma se mover como algo blocado em vez de fios separados, e óculos se fundem à pele nas bordas do rosto.
• Desconfie de cortes frequentes: vídeos com cortes a cada 8 a 10 segundos podem estar ocultando falhas da IA em sequências mais longas. Clipes muito curtos também são mais comuns porque gerar vídeos longos aumenta a chance de erros visíveis.
• Repare na textura da pele: uma excessivamente polida, com brilho ceroso e sem poros visíveis é marca comum de IA. Em filmagens reais em alta definição, a textura aparece em detalhes que os modelos ainda reproduzem mal. Se o rosto parece "perfeito demais" ou levemente plástico, desconfie.

Em áudios

• Voz sem respiração: a fala humana inclui pausas respiratórias naturais entre frases. Áudio de IA tende a inserir sons de respiração em momentos incorretos, ou a repetir padrões idênticos de inspiração ao longo da gravação.
• Ritmo regular: entonação uniforme, sem as variações naturais de ênfase e velocidade que acompanham a fala humana real. Se a voz soa como leitura em voz alta, sem os tropeços e ajustes normais de uma conversa, é um sinal.
• Emoção fora de contexto: reações que aparecem no momento errado, ou que soam exageradas sem correspondência com o conteúdo da fala.
• Áudio limpo demais: se o contexto indica que a pessoa está em ambiente externo, mas o áudio soa como gravação de estúdio, a autenticidade é questionável.
• Frases entrecortadas: pausas em locais que não fazem sentido gramatical, como se trechos de fala separados tivessem sido editados.

O que fazer antes de compartilhar um vídeo suspeito?

Antes de repassar qualquer conteúdo que pareça impactante ou difícil de acreditar, um processo simples de verificação reduz o risco de disseminar desinformação, em apenas cinco passos.

1. Verifique a origem: quem postou primeiro? O conteúdo aparece em veículos jornalísticos? Uma busca rápida pelo nome do canal ou perfil pode revelar histórico de desinformação.
2. Faça busca reversa: no Google Lens, capture uma tela do vídeo suspeito e carregue no Google Imagens. A busca encontra imagens e vídeos similares, incluindo a fonte original caso o conteúdo tenha sido manipulado a partir de algo real.
3. Desconfie do apelo emocional: deepfakes usados em golpes apostam no senso de urgência ou em situações que causam choque imediato.
4. Observe o contexto: a legenda condiz com o que o vídeo mostra? Inconsistências entre texto e imagem são tão reveladoras quanto falhas técnicas no vídeo.
5. Confirme por outro canal: se o vídeo mostra uma figura pública fazendo uma declaração relevante, procure cobertura do mesmo evento em outra fonte independente. Sem registro em nenhum veículo confiável, o conteúdo provavelmente não aconteceu.

Como se proteger de golpistas que usam deepfakes?

A clonagem de voz usada em golpes explora a confiança, em que a vítima acredita que está falando com alguém próximo em uma situação urgente. Uma forma de reduzir esse risco é combinar uma senha com familiares ou pessoas próximas. A palavra ou frase deve ser exclusiva do grupo, sem relação com datas ou nomes conhecidos. Em uma ligação suspeita, a checagem por essa senha ajuda a validar a identidade.

Outra medida é reduzir a exposição de voz online. Vídeos com fala direta publicados em redes sociais podem servir de base para clonagem. Limitar a visibilidade de conteúdos antigos ou evitar trechos com áudio limpo reduz esse risco. Em empresas, solicitações financeiras por áudio ou videochamada devem ser confirmadas por outro canal, como ligação direta.

Também vale proteger o próprio aparelho. Recursos de verificação extra fora de locais confiáveis, disponíveis em Android e iOS, dificultam acessos indevidos. Em caso de dúvida, desativar o desbloqueio por biometria e exigir PIN impede o uso de imagens ou vídeos manipulados para liberar o dispositivo.