Zoom anuncia avatares digitais realistas; recurso enfrenta riscos de gerar deepfakes

Zoom anunciou em sua conferência anual de desenvolvedores um novo recurso que permitirá a criação de avatares digitais fotorrealistas, convertendo vídeos gravados pelos usuários em clones digitais, incluindo cabeça, braços e ombros. Os usuários poderão digitar um script e gerar áudio sincronizado com os movimentos labiais do avatar, oferecendo uma forma mais rápida e produtiva de comunicação.

O lançamento está previsto para a primeira metade de 2025, como parte de uma assinatura premium, voltada ao Zoom Clips, ferramenta de vídeo assíncrono da empresa.

Porém, o recurso levanta questões sobre riscos de deepfakes. Embora diversas empresas estejam criando soluções que clonam digitalmente rostos e vozes — como a Tavus, que desenvolve avatares para anúncios personalizados, e a Microsoft, que lançou uma ferramenta similar em 2023 —, há salvaguardas rigorosas implementadas para evitar o uso indevido. Por exemplo, a Tavus exige declarações de consentimento verbal, e a Microsoft solicita permissões por escrito de todos os participantes.

A Zoom, no entanto, não detalhou de forma tão clara seus mecanismos de proteção. Hashim apenas mencionou que a empresa está construindo diversas salvaguardas, incluindo "autenticação avançada" e a aplicação de watermarks, marcas d'água visíveis nos vídeos gerados.Ainda assim, a eficácia dessas proteções é questionada, já que ferramentas simples de gravação de tela poderiam remover as marcas d’água, permitindo usos maliciosos.

Esse lançamento está alinhado com a visão mais ampla do CEO da Zoom, Eric Yuan, que enxerga o futuro dos avatares e da IA na plataforma, possibilitando que eles participem de reuniões, respondam e-mails e atendam ligações em nome dos usuários.

O desenvolvimento da Zoom chega em um momento delicado, com a rápida disseminação de deepfakes nas redes sociais e a dificuldade cada vez maior de distinguir informações reais de falsas. Em 2023, vídeos falsos de figuras como o presidente dos EUA, Joe Biden, e a cantora Taylor Swift acumularam milhões de visualizações. As implicações mais graves apareceram após o furacão Helene, quando imagens geradas por IA de destruição e sofrimento humano circularam amplamente.

As perdas relacionadas a fraudes por deepfake e impostura atingiram US$ 1 bilhão no ano passado, segundo a Comissão Federal de Comércio dos EUA (FTC). Diante desse cenário, muitos se questionam como a Zoom evitará que seu novo recurso seja utilizado para gerar vídeos falsos de pessoas dizendo coisas que nunca disseram.

Embora a Zoom tenha reforçado sua política de uso contra abusos, ainda não está claro como garantirá a integridade dos avatares digitais e evitará que sua ferramenta seja usada para golpes.A expectativa é que mais detalhes sejam revelados conforme o lançamento de 2025 se aproxima.

As cidades inteligentes mais avançadas do mundo

1 /10(Singapura)

2 /10(Tóquio)

3 /10(Londres)

4 /10(Barcelona)

+ 6