Em um post no blog oficial nesta segunda-feira, 27, a OpenAI anunciou a atualização do modelo padrão do ChatGPT para aprimorar o reconhecimento e as respostas da inteligência artificial em situações de crise emocional e mental. A iniciativa, que envolveu a colaboração de especialistas em saúde mental, visa tornar o modelo mais sensível e seguro para interações com usuários em momentos de sofrimento psicológico.

Entre as melhorias mencionadas, destaca-se a capacidade do modelo em identificar sinais de psicoses, mania, automutilação, pensamentos suicidas e dependência emocional da IA, além de oferecer orientação adequada para buscar ajuda profissional. O ChatGPT agora também inclui lembretes sutis para que os usuários façam pausas em conversas longas.

Essas mudanças são baseadas no Model Spec, que estabelece diretrizes para o comportamento dos produtos da OpenAI, com o objetivo de garantir que o modelo não afirme crenças prejudiciais ou insista em ideias delirantes.

De acordo com o post, a atualização deixa mais “explícitos” alguns objetivos da OpenAI, como fazer com que o modelo responda de forma empática e segura, principalmente em casos de distúrbios mentais graves, como mania e psicoses, mas também tenha como ênfase promover conexões com a vida real, em vez de estimular a dependência emocional da IA.

Eficiência da atualização

A OpenAI estima que, com a atualização, as respostas inadequadas do ChatGPT relacionadas a questões de saúde mental agora serão entre 65% e 80% menos frequentes, de acordo com o comportamento desejado pela empresa. Já em casos de suicídio e automutilação, a taxa de conformidade com as diretrizes aumentou para 91%, frente a 77% da versão anterior.

Segundo a empresa, uma rede global com cerca de 300 médicos e psicólogos, atuantes em 60 países, foi formada para orientar as pesquisas. Desses, mais de 170 participaram diretamente da análise e avaliação das respostas do modelo. Embora os avanços sejam significativos, a OpenAI afirmou que continuará refinando suas abordagens e expandindo as capacidades do ChatGPT para melhor apoiar os usuários em momentos de vulnerabilidade.