Nos últimos anos, tem ficado evidente que a tecnologia é capaz de reforçar preconceitos presentes na sociedade. É um problema que começa a ser encarado nas empresas do setor, como discute o livro Rage Inside the Machine (“Raiva dentro da máquina”, numa tradução livre), do cientista da computação Robert Elliott Smith, que é consultor em projetos de inteligência artificial. À EXAME, ele fala sobre o papel dos algoritmos em difundir preconceitos e como reverter a situação.

O amanhã está sendo escrito hoje. Você está preparado para escrever o seu? Conheça o curso de inovação da EXAME Academy

Por que o senhor diz em seu livro que algoritmos têm preconceitos?
Os algoritmos simplificam e generalizam os dados. Dados que são determinados por seres humanos. As pessoas são complexas, mas o que o algoritmo faz é tratá-las como um grupo, e não como indivíduos. Ao lidar com as pessoas como estatística, o algoritmo faz com que elas sejam categorizadas em grupos que correspondem a certos preconceitos. Por isso, é inevitável não serem preconceituosos.

O problema está nas pessoas que criam os algoritmos?
Algumas pessoas criam algoritmos para reforçar preconceitos, mas outras colocam preconceitos inconscientemente nos algoritmos que desenvolvem. As pessoas que criam os algoritmos não são uma representação da sociedade. São, em sua maioria, homens brancos. Mulheres e negros ainda têm uma presença menor.

Recentemente o algoritmo do Twitter foi criticado por priorizar rostos de pessoas brancas em vez de negras. Quem é o culpado?
Esse é um exemplo do que estava falando. Foi um problema feito de forma consciente? Creio que não. Provavelmente esse algoritmo foi alimentado por uma série de fotos de pessoas, em sua maioria brancas, para fazer a representação de rostos. Então o algoritmo se tornou preconceituoso. Não acho que foi intencional, mas o preconceito inconsciente está lá.

Como evitar que isso ocorra?
Uma forma é enfatizar para as pessoas que aquilo que elas veem em seu feed nas redes sociais é basea­do em uma visão bastante simplificada que os algoritmos fazem dela própria e de nosso mundo.

Qual é o papel das redes sociais em reforçar preconceitos?
O Facebook e o Twitter estão tentando mudar e acho isso muito positivo, mas existem coisas que são muito difíceis de ser feitas por causa da missão dessas empresas como negócio. Elas precisam fazer dinheiro e o modelo de anúncios usado por elas coloca inevitavelmente as pessoas em categorias. O problema é que esse modelo pode ser usado para certas atividades que não são corretas, como influenciar as eleições. O Facebook foca em lucro e não na responsabilidade social, mas existe um limite no que eles podem fazer. As redes sociais precisam ter noção da responsabilidade social que têm. O único jeito de fazer isso é com maior pressão dos governos.