Governo mira 13 apps de 'namorados de IA' por riscos a crianças e adolescentes

Uma nota técnica do Ministério da Justiça e Segurança Pública (MJSP) divulgada nesta quinta-feira, 24, aponta que aplicativos de "companheiros" com inteligência artificial descumprem, em maior ou menor grau, o Estatuto Digital da Criança e do Adolescente (ECA Digital). Plataformas como Character.AI e Replika, usadas por milhões de pessoas no mundo, incluindo adolescentes, estão agora na mira do governo brasileiro.

O documento, assinado pelo secretário nacional de Direitos Digitais, Victor Oliveira Fernandes, recomenda que o caso seja levado à Agência Nacional de Proteção de Dados (ANPD) e à Secretaria Nacional do Consumidor (Senacon).

A nota analisa 13 aplicativos de "AI Companions", definidos pela Secretaria Nacional de Direitos Digitais (SEDIGI) como agentes de IA capazes de manter interações contínuas e personalizadas, simular personalidades, recordar informações e adaptar respostas ao histórico e às preferências do usuário.

O documento cita o crescimento acelerado desse mercado. O número de plataformas passou de 16, em 2022, para mais de 128 até julho de 2025, enquanto os serviços somaram 60 milhões de downloads apenas no primeiro semestre daquele ano.

Quais aplicativos foram analisados?

Os 13 serviços avaliados são Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, Eva AI, Anima, Swipey e SpicyChat.AI.

Segundo a nota, esses sistemas podem permitir a criação de personagens, conversas recorrentes, simulação de vínculos afetivos, apoio emocional e retenção de informações pessoais para personalizar as interações.

Um estudo citado, do AI Hub da FGV Direito Rio, simulou perfis de adolescentes em Character.AI, Replika e Chai e concluiu que os mecanismos de proteção “são insuficientes para impedir o acesso desse público ou para protegê-los durante as interações”.

O que diz o ECA Digital?

A análise jurídica parte da Lei nº 15.211/2025, o ECA Digital, e do Decreto nº 12.880/2026, que regulamenta deveres para chatbots e agentes conversacionais.

A nota afirma que estabelecer apenas uma idade mínima não é suficiente para demonstrar o cumprimento da legislação. Também questiona sistemas de verificação baseados exclusivamente em autodeclaração.

Segundo o documento, mecanismos “exclusivamente autodeclaratórios” ou sem consequências concretas sobre a experiência podem ser insuficientes.

Outro levantamento citado aponta que, em testes com 21 aplicativos, nenhum impediu a falsificação da data de nascimento, e 20 continuaram a conversa mesmo depois de o usuário informar ter 12 anos.

Quais são os possíveis descumprimentos?

A nota organiza os problemas em seis frentes:

• Verificação de idade considerada insuficiente;
• Falta de transparência sobre a natureza artificial da interação;
• Mecanismos potencialmente manipulativos;
• Ausência de proteção contra uso excessivo ou compulsivo;
• Exposição a conteúdo sexualizado;
• E uso de dados das conversas para perfilamento e direcionamento comercial.

Sobre este último ponto, o documento afirma que, quando a empresa usa informações extraídas do histórico para decidir “o que oferecer, quando oferecer e de que forma oferecer”, pode deixar de apenas responder ao usuário e passar a direcionar seu comportamento em benefício do próprio interesse comercial.

A nota também afirma que interações automatizadas de teor sexualmente explícito podem ser enquadradas como conteúdo pornográfico, conforme o decreto.

Quais casos foram citados?

A nota menciona dois processos nos Estados Unidos como exemplos dos riscos debatidos. Um envolve um adolescente de 14 anos que, segundo a petição citada, desenvolveu vínculo intenso e sexualizado com um chatbot da Character.AI e morreu por suicídio em fevereiro de 2024.

O outro trata de uma adolescente de 13 anos que teria relatado isolamento e pensamentos suicidas ao mesmo aplicativo, sem que o sistema tivesse feito encaminhamento para serviços de apoio.

A própria nota ressalva que essas alegações “não demonstram nexo causal” entre o uso das plataformas e as mortes.

O documento cita ainda que 12 estados americanos aprovaram leis específicas sobre chatbots de companhia, todas com protocolos para respostas à ideação suicida. Também registra que a China proibiu, desde 15 de julho, a oferta de AI Companions a crianças e adolescentes.

O que o governo recomenda?

A conclusão da nota é encaminhar o material à ANPD, para avaliação dos riscos dos AI Companions sob a perspectiva do ECA Digital, e à Senacon, para análise de possíveis problemas relacionados à proteção do consumidor, práticas comerciais e desenho dos serviços.

O Ministério da Justiça ressalta, porém, que se trata de uma análise preliminar. O documento afirma que seu objetivo é identificar possíveis irregularidades a partir de informações públicas, sem antecipar juízo de mérito, e que os envolvidos devem ter garantidos o contraditório e a ampla defesa.