Twitter pagará R$ 18 mil para quem arrumar preconceito racial de algoritmo
A ação acontece depois que um grupo de pesquisadores descobriu que o algoritmo favorecia mais pessoas brancas do que pessoas negras e mais mulheres do que homens
Mariana Martucci
Publicado em 1 de agosto de 2021 às 16h03.
O Twitter está criando uma nova competição entre pesquisadores e hackers, com o objetivo de encontrar alguém capaz de corrigir o suposto preconceito racial e de gênero em seu algoritmo de corte de imagens, segundo informações do Business Insider.
A competição, que oferecerá uma recompensa de US$ 3.500 dólares (em torno de R$ 18 mil reais), quer ajuda para identificar possíveis danos que o algoritmo tenha sofrido. Além dos vencedores, os vice-campeões também serão recompensados financeiramente.
"Chamando todos os caçadores de recompensas! Acabamos de lançar todos os detalhes de nosso desafio de recompensas que está aberto até 6 de agosto", mostra informações do site da empresa. "Com este desafio, pretendemos estabelecer um precedente no Twitter e na indústria para a identificação proativa e coletiva de danos algorítmicos", acrescentaram.
A ação acontece depois que um grupo de pesquisadores descobriu que o algoritmo favorecia mais pessoas brancas do que pessoas negras e mais mulheres do que homens. No ano passado, o estudante de doutorado Colin Madland revelou o problema em um tweet, quando mostrou que a plataforma de vídeochamadas Zoom apagava o rosto de um homem negro quando ele usava um fundo verde.
O vencedor do concurso também será convidado a apresentar seu trabalho no workshop DEF CON AI Village promovido pelo Twitter em agosto. "As inscrições bem-sucedidas levarão em consideração métodos quantitativos e qualitativos em sua abordagem", afirmou a empresa.
Segundo informações do Insider, algoritmos de aprendizado de máquina, como o usado pelo Twitter, dependem de vastos conjuntos de dados. Se esses conjuntos de dados forem ponderados a favor de uma raça, gênero ou qualquer outra coisa em particular, o algoritmo resultante pode então refletir essa tendência.
Confirmado em estudo
Depois dos relatos nas redes sociais, a divisão de engenharia da plataforma realizou um estudo para verificar o que de fato acontecia com o algoritmo quando exposto a fotos com pessoas negras. Publicado em maio deste ano,a análise concluiu que algoritmo criavauma diferença de 8% em favor das mulheres e de 4% em relação a pessoas brancas. Entre as razões possíveis para o fenômeno, o Twitter afirma que acontece devido a problemascom fundos de imagens e cor dos olhos. Mas no relatório os pesquisadores ponderaram que a falha não se justifica.
“O corte de imagem baseado em aprendizado de máquina é fundamentalmente falho porque remove a capacidade do usuário e restringe a expressão de sua identidade e seus valores, em vez de impor um olhar normativo sobre qual parte da imagem é considerada a mais interessante”, escreveram os pesquisadores.
Assine a EXAME e acesse as notícias mais importante em tempo real.