Deepfakes políticos: Como a inteligência artificial pode impactar as eleições americanas de 2024

Em 2024, o mundo poderá observar como os Estados Unidos enfrentará sua primeiraeleiçãorodeada por informações e conteúdos criados e manipulados porinteligência artificial (IA).

O momento certamente complicado para a maior democracia do mundo e no qual uma das maiores preocupações será o uso nas redes sociais e a aplicação para a desinformação – dado o cenário de evolução e que torna cada vez mais fácil produzir áudio, imagens ou texto convincentes.

Um exemplo recente são asimagens falsas geradas por IAdo ex-presidente Donald Trump sendo preso, outras, envolvem deepfakes com o líder ucraniano Volodymyr Zelenskyy, publicado no ano passado, onde ele supostamente instrui suas tropas a se renderem.

Até mesmo o Brasil já experimentou um manipulação do tipo, ainda que mais grosseira no resultado: uma edição fez com que a apresentadora do Jornal Nacional Renata Vaconsellos apresentasse uma pesquisa eleitoral mentirosa.

Mas considerando que o agregador de ferramentas de IA Futurepedia já lista mais de 3000 serviços do tipo, o cenário hipotético para as eleições envolve personalidades e candidatos compartilhando tais conteúdos e alegando sua autenticidade.

Também, vídeos falsos se tornando virais podem emergir às vésperas de um pleito e muitos eleitores podem ser levados a acreditar na balela. E uma vez que pesquisas indicam que informações falsas têm maior alcance em comparação com fatos verdadeiros, surge a necessidade de mediar tais conteúdos.

Soluções para as deepfakes

Para contornar o novo desafio, uma das soluções propostas é a tecnologia conhecida como C2PA.

Este recurso criptografa e documenta a origem de qualquer conteúdo produzido por um dispositivo, como telefone ou câmera de vídeo, armazenando essa informação em um registro central, em um equivalente do blockchain. Dessa forma, produtores de conteúdo autêntico poderiam comprovar a veracidade de suas obras.

Há ainda outras alternativas, como a utilização de impressões digitais e a inserção de marcas d'água em imagens e vídeos.

A primeira consiste em obter um fragmento do conteúdo original - uma sequências dos dados - para posterior verificação de legitimidade. Já a segunda, trata da adição de uma marca d'água digital nos conteúdos para atestar sua origem.