A China passou a proibir nesta quarta-feira, 15, que chatbots de companhia, programas de inteligência artificial criados para simular vínculos pessoais, estimulem dependência emocional nos usuários. A regulamentação determina que sistemas com personalidade e comunicação semelhantes às humanas não incentivem apego excessivo, vício emocional nem o afastamento de relações sociais reais.

A norma foi publicada por cinco órgãos do governo chinês, entre eles a Administração do Ciberespaço da China, conhecida pela sigla CAC. O texto estabelece mecanismos de prevenção, monitoramento e responsabilização para empresas que oferecem companheiros virtuais.

Antes da entrada em vigor das exigências, ByteDance, Alibaba e Tencent já haviam suspendido funções de companhia disponíveis, respectivamente, nos aplicativos Doubao, Qwen e Yunbao. Com o desligamento dos recursos, milhões de usuários perderam o acesso imediato ao histórico de conversas mantido com esses sistemas.

O Doubao, que reúne cerca de 345 milhões de usuários, informou que os dados poderão ser consultados e exportados até meados de outubro. A medida permite que clientes preservem parte das interações antes da retirada definitiva do serviço.

A legislação atinge diretamente dois mecanismos usados para tornar esses produtos mais convincentes: a memória persistente, capacidade de guardar informações sobre a vida do usuário, e a adaptação contínua do tom emocional das respostas.

Pelas novas regras, os sistemas deverão informar, a cada duas horas de uso contínuo, que não são pessoas. Também terão de identificar sinais de dependência psicológica em tempo real, passar por avaliação regulatória antes do lançamento e impedir que menores de idade utilizem companheiros virtuais com finalidade romântica.

As multas por descumprimento podem chegar a 50 milhões de yuans, cerca de R$ 35 milhões, ou a 5% do faturamento anual da empresa infratora.

Segundo representantes do setor citados no texto, adaptar os modelos existentes deixou de ser financeiramente atraente porque os recursos que sustentam a sensação de intimidade são justamente o alvo da regulamentação. A adequação exigiria, na prática, reconstruir parte relevante dos produtos.

A ByteDance decidiu seguir esse caminho. A empresa passou a direcionar usuários do Doubao para o Maoxiang, novo aplicativo desenvolvido com os mecanismos de controle previstos pelas autoridades chinesas.

Pressão sobre companheiros virtuais cresce fora da China

A decisão chinesa é justificada pelas autoridades como uma resposta à expansão dos chamados “namorados e namoradas virtuais”. O governo afirma que esses serviços podem dificultar a formação de vínculos sociais fora das plataformas.

Segundo a agência estatal Xinhua, o mercado chinês de humanos digitais, personagens virtuais usados em serviços de atendimento, entretenimento ou companhia, movimentou 4,1 bilhões de yuans em 2024, aproximadamente R$ 3 bilhões. O crescimento anual teria sido de 85%.

Plataformas populares no Ocidente, como Replika e Character.AI, adotam recursos semelhantes de memória e personalização emocional. Estados Unidos e União Europeia, porém, não aprovaram até agora uma proibição equivalente à descrita pela regulamentação chinesa.

A pressão regulatória aumentou após processos judiciais nos Estados Unidos associarem interações com esses sistemas ao agravamento de problemas de saúde mental. Entre os casos citados está o de um adolescente de 14 anos da Flórida que morreu por suicídio em 2024 depois de desenvolver forte vínculo com um bot, programa automatizado, da Character.AI.

Outro processo envolve Adam Raine, de 16 anos, e interações mantidas com o ChatGPT. A OpenAI afirma que a ferramenta não foi criada para substituir relações pessoais ou oferecer apoio clínico, enquanto o caso segue em discussão judicial.

Nova York e Califórnia passaram a exigir alertas periódicos sobre a natureza artificial desses sistemas e mecanismos de encaminhamento para serviços de emergência quando houver sinais de risco à vida do usuário.

No Brasil, não há uma regra específica para chatbots de companhia. O tema aparece nas discussões sobre o ECA Digital, proposta voltada à proteção de crianças e adolescentes no ambiente digital, com deveres de transparência, mitigação de riscos e proteção de menores, mas sem proibição expressa ao estímulo de vínculos emocionais por assistentes virtuais.