Microsoft lança scanner de bate-papo para detectar pedófilos

A técnica de detecção usada pela empresa no Xbox promete ajudar a monitorar esse comportamento nas comunicações de texto

A Microsoft vai compartilhar uma ferramenta usada no serviço de jogos Xbox para escanear bate-papos on-line e detectar adultos que tentam atrair e explorar crianças sexualmente. Chamado de Projeto Artemis, a técnica rastreia o histórico de mensagens e busca padrões e características indicativas antes de atribuir uma classificação de probabilidade. Isso pode ser usado pelas empresas para decidir quais conversas em suas plataformas devem ser examinadas com mais atenção por um moderador humano, escreveu em um blog Courtney Gregoire, diretora de segurança digital da Microsoft.

Empresas de tecnologia travam uma batalha para combater a crescente onda de pornografia infantil e exploração on-line. Imagens e textos nefastos sobrecarregam moderadores, enquanto aplicativos de bate-papo privados tornam a detecção mais difícil. Empresas do setor divulgaram 45 milhões de imagens on-line de abuso sexual infantil em 2018, um recorde, informou o The New York Times em setembro. Às vezes fingindo ser crianças, adultos usam funções de bate-papo embutidas em videogames populares e aplicativos de mensagens privadas para atrair e solicitar fotos de crianças nuas.

A técnica de detecção da Microsoft promete ajudar a monitorar esse comportamento nas comunicações de texto, mas não tem como ser usada no bate-papo por voz em jogos multiplayer, como o Fortnite, que serve como outra avenida para pedófilos.

O projeto começou durante um hackathon, em novembro de 2018, copatrocinado por dois grupos de assistência à infância que analisaram não apenas as novas ideias de tecnologia, mas também questões jurídicas e políticas. Desde então, a Microsoft desenvolve as ferramentas em colaboração com as empresas responsáveis ​​pelo videogame on-line Roblox e pelo aplicativo de mensagens Kik, com o The Meet Group, que possui aplicativos de reuniões sociais como MeetMe e Skout, e Thorn, uma organização sem fins lucrativos cofundada pelos atores Ashton Kutcher e Demi Moore para combater o abuso sexual infantil.

A equipe foi liderada pelo professor de ciência da computação do Dartmouth College, Hany Farid, que trabalhou anteriormente com a Microsoft para criar o PhotoDNA, uma ferramenta usada por 150 empresas e organizações para encontrar e denunciar imagens de exploração sexual infantil. Farid escreveu em oposição à proliferação de criptografia de ponta-a-ponta em serviços de mensagens sociais e privadas, argumentando que isso dificulta a detecção e prevenção do abuso infantil.

A partir de 10 de janeiro, a Thorn administrará o licenciamento do Projeto Artemis, desenvolvido com base nas patentes da Microsoft e disponível gratuitamente para serviços on-line qualificados, que podem se inscrever enviando um e-mail para antigrooming@thorn.org. A Microsoft disse que já está usando a técnica para bate-papos no Xbox e quer fazer o mesmo no Skype.

Apoie a Exame, por favor desabilite seu Adblock.