Zoom anuncia avatares digitais realistas; recurso enfrenta riscos de gerar deepfakes
A empresa vai lançar um recurso que cria clones digitais de usuários para interações assíncronas, mas preocupações com segurança permanecem
André Lopes
Repórter
Publicado em 10 de outubro de 2024 às 11h16.
Zoom anunciou em sua conferência anual de desenvolvedores um novo recurso que permitirá a criação de avatares digitais fotorrealistas, convertendo vídeos gravados pelos usuários em clones digitais, incluindo cabeça, braços e ombros. Os usuários poderão digitar um script e gerar áudio sincronizado com os movimentos labiais do avatar, oferecendo uma forma mais rápida e produtiva de comunicação.
O lançamento está previsto para a primeira metade de 2025, como parte de uma assinatura premium, voltada ao Zoom Clips, ferramenta de vídeo assíncrono da empresa.
Porém, o recurso levanta questões sobre riscos de deepfakes. Embora diversas empresas estejam criando soluções que clonam digitalmente rostos e vozes — como a Tavus, que desenvolve avatares para anúncios personalizados, e a Microsoft, que lançou uma ferramenta similar em 2023 —, há salvaguardas rigorosas implementadas para evitar o uso indevido. Por exemplo, a Tavus exige declarações de consentimento verbal, e a Microsoft solicita permissões por escrito de todos os participantes.
A Zoom, no entanto, não detalhou de forma tão clara seus mecanismos de proteção. Hashim apenas mencionou que a empresa está construindo diversas salvaguardas, incluindo "autenticação avançada" e a aplicação de watermarks, marcas d'água visíveis nos vídeos gerados.Ainda assim, a eficácia dessas proteções é questionada, já que ferramentas simples de gravação de tela poderiam remover as marcas d’água, permitindo usos maliciosos.
Esse lançamento está alinhado com a visão mais ampla do CEO da Zoom, Eric Yuan, que enxerga o futuro dos avatares e da IA na plataforma, possibilitando que eles participem de reuniões, respondam e-mails e atendam ligações em nome dos usuários.
O desenvolvimento da Zoom chega em um momento delicado, com a rápida disseminação de deepfakes nas redes sociais e a dificuldade cada vez maior de distinguir informações reais de falsas. Em 2023, vídeos falsos de figuras como o presidente dos EUA, Joe Biden, e a cantora Taylor Swift acumularam milhões de visualizações. As implicações mais graves apareceram após o furacão Helene, quando imagens geradas por IA de destruição e sofrimento humano circularam amplamente.
As perdas relacionadas a fraudes por deepfake e impostura atingiram US$ 1 bilhão no ano passado, segundo a Comissão Federal de Comércio dos EUA (FTC). Diante desse cenário, muitos se questionam como a Zoom evitará que seu novo recurso seja utilizado para gerar vídeos falsos de pessoas dizendo coisas que nunca disseram.
Embora a Zoom tenha reforçado sua política de uso contra abusos, ainda não está claro como garantirá a integridade dos avatares digitais e evitará que sua ferramenta seja usada para golpes.A expectativa é que mais detalhes sejam revelados conforme o lançamento de 2025 se aproxima.
