Acompanhe:
seloRevista Exame

Como reverter o preconceito gerado a partir de algoritmos?

Para consultor, é urgente mudar a maneira como os algoritmos são criados para ter um ambiente digital justo

Modo escuro

Continua após a publicidade
"As redes sociais precisam ter noção da responsabilidade social que têm", afirma Smith (Divulgação/Divulgação)

"As redes sociais precisam ter noção da responsabilidade social que têm", afirma Smith (Divulgação/Divulgação)

T
Tamires Vitorio

Publicado em 17 de dezembro de 2020 às, 05h27.

Nos últimos anos, tem ficado evidente que a tecnologia é capaz de reforçar preconceitos presentes na sociedade. É um problema que começa a ser encarado nas empresas do setor, como discute o livro Rage Inside the Machine (“Raiva dentro da máquina”, numa tradução livre), do cientista da computação Robert Elliott Smith, que é consultor em projetos de inteligência artificial. À EXAME, ele fala sobre o papel dos algoritmos em difundir preconceitos e como reverter a situação.

O amanhã está sendo escrito hoje. Você está preparado para escrever o seu? Conheça o curso de inovação da EXAME Academy

Por que o senhor diz em seu livro que algoritmos têm preconceitos?
Os algoritmos simplificam e generalizam os dados. Dados que são determinados por seres humanos. As pessoas são complexas, mas o que o algoritmo faz é tratá-las como um grupo, e não como indivíduos. Ao lidar com as pessoas como estatística, o algoritmo faz com que elas sejam categorizadas em grupos que correspondem a certos preconceitos. Por isso, é inevitável não serem preconceituosos.

O problema está nas pessoas que criam os algoritmos?
Algumas pessoas criam algoritmos para reforçar preconceitos, mas outras colocam preconceitos inconscientemente nos algoritmos que desenvolvem. As pessoas que criam os algoritmos não são uma representação da sociedade. São, em sua maioria, homens brancos. Mulheres e negros ainda têm uma presença menor.

Recentemente o algoritmo do Twitter foi criticado por priorizar rostos de pessoas brancas em vez de negras. Quem é o culpado?
Esse é um exemplo do que estava falando. Foi um problema feito de forma consciente? Creio que não. Provavelmente esse algoritmo foi alimentado por uma série de fotos de pessoas, em sua maioria brancas, para fazer a representação de rostos. Então o algoritmo se tornou preconceituoso. Não acho que foi intencional, mas o preconceito inconsciente está lá.

Como evitar que isso ocorra?
Uma forma é enfatizar para as pessoas que aquilo que elas veem em seu feed nas redes sociais é basea­do em uma visão bastante simplificada que os algoritmos fazem dela própria e de nosso mundo.

Qual é o papel das redes sociais em reforçar preconceitos?
O Facebook e o Twitter estão tentando mudar e acho isso muito positivo, mas existem coisas que são muito difíceis de ser feitas por causa da missão dessas empresas como negócio. Elas precisam fazer dinheiro e o modelo de anúncios usado por elas coloca inevitavelmente as pessoas em categorias. O problema é que esse modelo pode ser usado para certas atividades que não são corretas, como influenciar as eleições. O Facebook foca em lucro e não na responsabilidade social, mas existe um limite no que eles podem fazer. As redes sociais precisam ter noção da responsabilidade social que têm. O único jeito de fazer isso é com maior pressão dos governos.

Últimas Notícias

Ver mais
Melhores do Mercado 2024: os vencedores do ranking de fundos em 7 categorias
seloRevista Exame

Melhores do Mercado 2024: os vencedores do ranking de fundos em 7 categorias

Há 2 dias

Asfalto ou off road: confira três carros ideias para a sua próxima viagem
seloRevista Exame

Asfalto ou off road: confira três carros ideias para a sua próxima viagem

Há 2 dias

Cosmopolita na medida: Chicago oferece gastronomia, arte e arquitetura
seloRevista Exame

Cosmopolita na medida: Chicago oferece gastronomia, arte e arquitetura

Há 2 dias

Deserto com lagoas: o luxo de se hospedar próximo ao Parque Nacional dos Lençóis Maranhenses
seloRevista Exame

Deserto com lagoas: o luxo de se hospedar próximo ao Parque Nacional dos Lençóis Maranhenses

Há 2 dias

Continua após a publicidade
icon

Branded contents

Ver mais

Conteúdos de marca produzidos pelo time de EXAME Solutions

Exame.com

Acompanhe as últimas notícias e atualizações, aqui na Exame.

Leia mais