Facebook e Google limitam sistema que permitiu anúncios racistas

O Facebook desativou uma importante ferramenta de autoatendimento para anunciantes, e o Google impediu que seu sistema principal de anúncios de pesquisa sugira frases de direcionamento ofensivas automaticamente. As medidas são o mais recente sinal de um escrutínio crescente das maiores empresas de internet dos EUA e de como seus serviços de software e unidades publicitárias influenciam a sociedade.

As empresas prosperaram com a capacidade de oferecer propagandas direcionadas em grande escala para públicos enormes sem muita intervenção humana. Nesta semana, várias organizações de notícias mostraram que poderiam comprar anúncios com base em termos ou categorias racistas e antissemitas. É improvável que os maiores anunciantes realizem campanhas de marketing assim, mas isso mostra que esses sistemas são susceptíveis a abusos e podem exigir mais monitoramento manual.

“Essas ferramentas são tão fáceis de usar que, sem tentar muito, é relativamente fácil expor as desvantagens das vendas automatizadas de anúncios”, disse Brian Wieser, analista do Pivotal Research Group e crítico do Facebook e do Google.

O Facebook afirmou que os anunciantes não poderão mais segmentar as pessoas pela forma em que elas descrevem sua escolaridade ou seu empregador depois de descobrir que algumas preenchiam esses campos com conteúdo ofensivo.

A empresa de redes sociais removerá a segmentação por escolaridade, campo de estudo, título de trabalho e emprego, campos preenchidos manualmente pelos usuários em seu perfil, até que possa resolver o problema em seu sistema de autoatendimento para anunciantes. A decisão aconteceu depois que o site de notícias investigativas ProPublica descobriu que os anunciantes poderiam direcionar os usuários que expressam interesse em categorias antissemitas, como “ódio a judeus”.

“Removeremos esses campos de direcionamento preenchidos pelos usuários enquanto os processos corretos para ajudar a evitar este problema não estiverem vigentes”, afirmou a empresa.

O sistema vinha preenchendo automaticamente categorias de interesse com base no que os membros da comunidade publicam sobre si mesmos. “Proibimos que os anunciantes discriminem pessoas com base na religião e em outros atributos”, afirmou a empresa. “No entanto, às vezes conteúdos que violam nossos padrões são exibidos em nossa plataforma. Sabemos que temos mais trabalho pela frente.”

O sistema de AdWords, do Google, uma das empresas mais lucrativas já criadas na internet, também apresentou deficiências semelhantes. Ele exibe propagandas com base em frases, ou palavras-chave, que as pessoas digitam no mecanismo de busca da empresa. Isso é muito útil para empresas que vendem xampu ou roupas, mas uma matéria publicada na sexta-feira pelo Buzzfeed revelou que o sistema também funciona com termos extremistas.

O Buzzfeed mostrou que anunciantes que rodem anúncios de pesquisas com termos de busca ofensivos, como “pessoas negras destroem tudo”, recebem automaticamente outras sugestões racistas. O Google, pertencente à Alphabet, bloqueou a execução de vários anúncios, mas não de todos.

“Neste caso, os anúncios não foram rodados com a grande maioria dessas palavras-chave, mas não captamos todas essas sugestões ofensivas. Isso não é suficiente, e não estamos inventando desculpas”, disse Sridhar Ramaswamy, chefe de anúncios do Google, em um comunicado. “Nós já desativamos essas sugestões e os anúncios que conseguiram passar, e trabalharemos mais para impedir que isso aconteça novamente.”