Uma conversa entre um brasileiro e o ChatGPT, da OpenAI, virou caso de polícia na última semana. No Espírito Santo, um homem de 36 anos contou ao chatbot de inteligência artificial (IA) planos para matar seu filho, de 10 anos.

A empresa enviou as mensagens para o Federal Bureau of Investigation (FBI), a polícia federal dos Estados Unidos, que acionou as autoridades brasileiras, e a prisão aconteceu um dia antes da data em que o crime supostamente seria cometido.

Nas conversas, segundo a Polícia Civil do Espírito Santo, o suspeito detalhou o plano, relatou que pretendia contratar um pistoleiro, mencionou ter arma, corda e cianeto, e chegou a manifestar a intenção de atacar escolas, igrejas e autoridades.

A motivação, apurou a polícia, seria deixar de pagar pensão alimentícia. O que ele não imaginava era que, do outro lado da tela, suas mensagens foram lidas por humanos.

A investigação não começou com uma denúncia de vizinho nem com um parente assustado, mas sim nos servidores da OpenAI, nos Estados Unidos. Identificado o risco, o alerta percorreu uma cadeia internacional até virar mandado.

A empresa avisou o FBI, que repassou o caso ao CyberLab do Ministério da Justiça brasileiro, que por sua vez acionou a Polícia Civil capixaba. Uma conversa digitada num aplicativo terminou em uma prisão no interior do Brasil, costurada por três instâncias em dois países.

Procurada pela EXAME, a OpenAI confirmou ter sido a origem do alerta e explicou por que agiu.

"Nossos sistemas são projetados para ajudar a manter as pessoas seguras, tanto em nossas plataformas quanto no mundo real. Quando identificamos conversas que indicam um risco iminente e crível de dano a outras pessoas, podemos notificar as autoridades competentes", afirmou a empresa, em nota.

Como a IA percebe um plano de crime

O que fez o sistema soar o alarme não foi uma frase isolada, mas o acúmulo das conversas.

Em seu documento público sobre segurança, a OpenAI explica que mantém sistemas automáticos, classificadores e listas de bloqueio, varrendo as interações em busca de padrões de risco.

A própria empresa admite a fragilidade do método e diz que uma mensagem solta pode parecer inofensiva, e o perigo só aparece no conjunto.

Quando algo grave é sinalizado, segundo a companhia, o caso não vai direto para a polícia. Passa antes por revisores humanos, que avaliam o contexto para separar uma ameaça real de uma conversa legítima sobre violência, ficcional, histórica ou jornalística.

Só depois de confirmada a gravidade é que a empresa age: revoga o acesso do usuário e, nos casos extremos, como o capixaba, aciona as autoridades.

Ninguém obrigou a OpenAI a fazer isso

O caso evitou um final trágico, mas expõe um detalhe que incomoda: tudo o que a OpenAI fez partiu de uma decisão da própria empresa, não de uma exigência legal.

Não há na legislação brasileira nenhuma norma que obrigue empresas de IA a avisar as autoridades quando identificam risco à vida. A medida depende da política de cada companhia, escrita em seus termos de uso.

Na prática, cada plataforma decide sozinha quando romper o sigilo de uma conversa para evitar um crime. A OpenAI optou por prever isso em contrato. Outra empresa pode adotar um critério mais rígido, mais frouxo — ou simplesmente não ter critério algum.