Cientistas criam IA que identifica sinais de risco de suicídio em mensagens

Pesquisadores do Instituto de Tecnologia de Massachusetts (MIT) desenvolveram uma ferramenta de inteligência artificial que analisa mensagens de texto para identificar sinais associados ao risco de suicídio.

O sistema foi desenvolvido a partir de cerca de 16 mil conversas entre pessoas em sofrimento e voluntários treinados da Crisis Text Line, organização que oferece apoio gratuito e confidencial por mensagens. O estudo foi publicado na revista científica Journal of Psychopathology and Clinical Science.

Os pesquisadores descobriram que determinados tipos de linguagem estavam mais associados aos casos considerados de maior risco. Referências a meios letais e uso de substâncias, por exemplo, tiveram maior peso do que menções a humor deprimido ou fadiga.

• Setembro Amarelo: suicídio entre jovens cresce nas Américas; veja sinais de alerta

Como a IA analisa as mensagens?

Para desenvolver a ferramenta, os pesquisadores criaram um léxico baseado em 49 fatores associados ao risco de suicídio.

Uma inteligência artificial foi utilizada inicialmente para gerar palavras e expressões relacionadas a fatores já estabelecidos associados à ideação, à tentativa e à morte por suicídio. Depois, o conteúdo passou por revisão manual e validação de especialistas. A versão final reúne cerca de 60 termos ou expressões para cada fator.

Com esse material, a equipe treinou um modelo de aprendizado de máquina para localizar os termos nas conversas e estimar a gravidade de cada caso.

As mensagens utilizadas no estudo haviam sido classificadas pela Crisis Text Line em três grupos: ausência de comportamento suicida, ideação suicida sem risco iminente e risco iminente.

Nesse último grupo estavam pessoas que tinham um plano de suicídio ou manifestavam intenção de morrer nas 48 horas seguintes.

Quais sinais tiveram maior peso?

Além das referências a meios letais e ao uso de substâncias, expressões relacionadas à ideação suicida ativa e à autolesão apareceram entre os indicadores mais relevantes. Ansiedade, transtorno de estresse pós-traumático (TEPT) e dor emocional apresentaram associação intermediária.

Como cada termo está ligado a um fator específico, o modelo consegue atribuir pesos diferentes a essas características e indicar quais delas contribuíram para a estimativa.

Depois do treinamento, a ferramenta foi testada em conversas que não haviam sido apresentadas anteriormente ao sistema e conseguiu estimar a gravidade do risco nesses novos textos.

• Setembro Amarelo: Interesse pelo CVV cresce mais de 31.000% na internet no Brasil

Ferramenta ainda tem limitações

Apesar dos resultados positivos, o método não considera necessariamente todo o contexto em que uma palavra aparece. Como depende de um léxico predeterminado, também pode deixar de identificar expressões semelhantes que não estejam cadastradas.

Por outro lado, o modelo é relativamente simples e pode funcionar em um computador pessoal. Isso exige menos capacidade computacional do que grandes modelos de linguagem e pode reduzir custos e preocupações relacionadas à privacidade.

Os pesquisadores destacam que sistemas desse tipo ainda precisam ser amplamente validados antes de serem empregados clinicamente. Mudanças na linguagem e diferenças entre populações também podem exigir atualizações constantes.

A equipe já utiliza o léxico em novas pesquisas com textos de outras fontes, incluindo redes sociais e prontuários eletrônicos de saúde, para investigar como essas informações podem auxiliar na avaliação do risco de suicídio.

Mesmo com o avanço da tecnologia, os pesquisadores consideram a participação de profissionais essencial nesse tipo de avaliação.