Algoritmo identifica futuros trolls em apenas cinco posts

Pesquisadores afirmam ter encontrado uma forma de diferenciar trolls de usuários comuns apenas pela forma como eles escrevem comentários na internet.

Ao estudar os comentários em três sites de notícias por 18 meses, os pesquisadores das universidades americanas de Cornell e Stanford descobriram que usuários que viriam a ser banidos no futuro escreviam de forma diferente do que outros usuários no mesmo espaço de comentários, usando menos palavras que indicavam emoções positivas.

Usuários que seriam banidos também escreviam comentários que eram mais difíceis de ler do que os usuários comuns, segundo os cientistas.

“Descobrimos que esses usuários tendem a concentrar seus esforços em um pequeno número de discussões, onde mais provavelmente fazem posts irrelevantes, e são mais bem sucedidos em obter respostas de outros usuários”, afirmam os pesquisadores no estudo.

“Ao estudar a evolução desses usuários do momento no qual eles se unem a uma comunidade até o momento que eles são banidos, descobrimos que não apenas eles escrevem pior do que outros usuários, mas também são menos tolerados pela comunidade”, escrevem os cientistas.

Os pesquisadores também descobriram que o comportamento antissocial era agravado quando a moderação dos comentários acontece de forma mais rígida.

A pesquisa estudou mais de 35 milhões de posts enviados por quase 2 milhões de usuários, e encontrou quase 50 mil usuários que foram banidos dos três sites durante os 18 meses do estudo. Eles também analisaram o número de comentários individuais que foram excluídos pelos moderadores do site.

Então, os pesquisadores focaram a investigação nos 50 mil usuários banidos durante o período analisado, e tentaram encontrar sinais em seus primeiros posts que denunciassem seu comportamento futuro.

Com todos os dados reunidos, eles criaram um modelo de previsão que pode advinhar, com 80% de precisão, se um usuário será banido, analisando apenas cinco posts. Analisar dez posts aumenta a previsão do modelo para 82%.

Mas os pesquisadores alertam para os perigos de moderadores rigorosos. “Tomar medidas extremas contra pequenas infrações pode aumentar o comportamento antissocial. A melhor resposta pode envolver dar aos usuários antissociais uma chance de se redimirem”