Deepfake não é algo novo, mas as pessoas ainda estão compreendendo a tecnologia, diz Bruno Sartori

Na última quinta-feira, 13, o Sindicato de Atores dos Estados Unidos (conhecido pela sigla SAG-AFTRA) entrou em greve. O motivo da greve é a preocupação com o uso de inteligência artificial (IA) pelos estúdios, principalmente na criação de personagens e histórias artificialmente, poderia levar a precarização dos trabalhos e exploração da imagem dos atores. Em maio, os roteiristas americanos entraram em greve com a mesmo argumento.

No Brasil, uma manifestação menor, mas também pelo mesmo motivo, levou o Conar a abrir uma representação contra o comercial da Volkswagen no qual a cantoraElis Regina, morta em janeiro de 1982, é trazida “de volta à vida” em um deepfake.

Na propaganda em questão, Elis aparece ao lado de sua filha, a também cantora Maria Rita. Elas cantam juntas a música Como Nossos Pais, criando um encontro impossível.

O argumento do Conar contra o anúncio alega que os consumidores questionaram se é ético ou não utilizar IA com o objetivo da propaganda, apontando questões sobre o “respeito à personalidade e existência da artista, e veracidade”.

Bruno Sartori, jornalista, humorista e editor de vídeo, que, há alguns anos, vem evoluindo no uso da técnica de deepfake, é um dos porta-vozes do uso equilibrado da tecnologia. Em entrevista à EXAME, ele defende que tanto o caso da Volkswagen como o dos atores de Hollywood exemplificam a necessidade boas práticas ao redor de negócios e entretenimento que se valem das manipulações de imagem.

Confira abaixo os principais trechos da conversa:

Ver a Elis Regina cantando com a sua filha Maria Rita trouxe para o público um novo nível de incômodo em relação às deepfakes. Há mais desdobramentos e dilemas a serem experimentados com essa tecnologia?

As pessoas ainda estão compreendendo os sentimentos que os deepfakes causam nelas. Mas é fato que, de tempos em tempos, algo que envolva uma criação da ficção para ser realista ao ponto de se confundir com a realidade viraliza. Um exemplo foi quando o Star Wars inseriu uma versão mais jovem de Luke Skywalker em um de seus filmes mais recentes. Outro é o Harrison Ford jovem em Indiana Jones. Mas é importante entender que inserir ou reencenar pessoas em clipes, propagandas e entretenimentos sempre existiu no cinema e na TV. Já tivemos comerciais realísticos há 14 anos com os Beatles promovendo um jogo. O que acontece agora é que o assunto viraliza mais porque envolve inteligência artificial. Mas essa forma de criação já existe há décadas. Hoje ela tem outro nome e outras técnicas.

Quando vemos o rosto da Elis Regina no comercial, ainda experimentamos o ''Vale da Estranheza''', o conceito que explica a desconfiança criada com imitações de rostos humanos. Considerando a evolução dos deepfakes, isso sempre acontecerá ou é apenas uma questão de investimento na produção e nas ferramentas usadas?

Eu acredito que é uma combinação dos dois. Por ser uma tecnologia nova, haverá aperfeiçoamentos ao longo do tempo. Além disso, o profissional que está criando o conteúdo faz uma grande diferença no resultado final. Se você não sabe direcionar o treinamento do seu modelo ou como usá-lo, o resultado não será tão bom e parecerá artificial. Quando estou editando um deepfake, por exemplo, vejo coisas que preciso corrigir. Para mim, pode parecer perfeito depois de trabalhar nele por um tempo, mas quando volto mais tarde, percebo coisas que não havia notado antes. A gente se acostuma mesmo com aquele conteúdo a ponto de perder a capacidade de identificar seus defeitos.

Supostamente houve uma proposta de escanear os rostos de atores de Hollywood para usá-los em produções criadas digitalmente. Você acredita que isso será parte do futuro com o qual teremos que lidar?

Eu chamo isso de customização do conteúdo. Em um futuro breve, todo o conteúdo que consumirmos será inteiramente customizado para nós. Se uma nova música for lançada, eu vou poder ouvi-la na voz de quem eu quiser. Precisamos nos adaptar às novas tecnologias. É como a Revolução Industrial, quando as pessoas temiam que as máquinas fossem tomar seus empregos. Mas novos empregos sempre surgem quando a tecnologia avança.

Por um lado, estamos a tratar de algo técnico, o uso de IA e a capacidade de recriar imagens e representações, por outro, estamos a entrar no domínio das emoções e da memória coletiva. Qual sua sugestão para equilibrar esse cenário?

Ao longo da história humana sempre representamos os mortos e os usamos para contar novas histórias. Antes, usávamos as ferramentas de cada época. Hoje, usamos as tecnologias disponíveis, incluindo a IA. Há 15, 20, 30 anos atrás, o conteúdo produzido talvez fosse até mais perfeito que o de hoje, porque não havia esse 'Vale da Estranheza' que a IA traz. Mas em relação à ética, é importante ter esse debate, estabelecer limites. Muitos dizem que a IA pode 'ressuscitar os mortos', mas é importante lembrar que a imagem produzida não é a pessoa em si, é apenas uma representação. Como no caso do comercial da Volkswagen com Elis Regina, muitos argumentaram que Elis nunca teria aceitado fazer o comercial devido ao apoio da Volkswagen à ditadura, que a perseguiu. Porém, a pergunta é: como podemos saber o que uma pessoa faria ou deixaria de fazer?É um direito dos herdeiros ter essa possibilidade.

Mas e quando falamos do uso de deepfake fora das regras? O uso criminoso existe e deve se tornar ainda mais popular com o tempo. Há mais por fazer na questão de regras e plataformas que hospedam esses vídeos?

Já temos uma lei no código penal que proíbe a inclusão de pessoas em vídeos pornográficos sem o seu consentimento. Mas a pena é muito leve, e a lei pode ser melhorada para abraça as novas dinâmicas que a inteligência artificial traz. As plataformas, por outro lado, já são totalmente capazes de detectar se o conteúdo é um deepfake. Elas só não estão fazendo isso agora, mas com uma regulamentação das rede sociais, por exemplo, elas terão mais mecanismos legais que as obriguem.

Por onde começar? Entenda se você deve aplicar inteligência artificial no seu negócio; e como fazer