A Comissão Federal de Comércio dos Estados Unidos (FTC) anunciou na quinta-feira, 11, que iniciou uma investigação envolvendo sete empresas que fornecem chatbots com tecnologia de inteligência artificial para o consumidor.

Entre as empresas estão Alphabet, Meta, OpenAI, Character.AI, Instagram, Snap e xAI.

De acordo com a Reuters, um documento interno do Meta revelou que as políticas do chatbot da empresa permitiam que suas IAs participassem de "conversas românticas" com crianças, gerassem informações médicas falsas e ajudassem usuários a produzir conteúdos racistas.

A FTC disse que os chatbots de IA podem ser usados para simular comunicação semelhante à humana.

Assim, é necessário entender quais medidas estão sendo adotadas para “avaliar a segurança desses chatbots ao atuar como companheiros de menores de idade". Ainda de acordo com a FTC, "proteger as crianças online é uma prioridade a Casa Branca".

As empresas ainda não haviam se pronunciado sobre o assunto

Investigação

O objetivo da apuração é obter informações sobre como essas empresas medem, testam e monitoram possíveis impactos negativos de suas tecnologias.

A FTC também busca detalhes sobre a monetização do engajamento dos usuários, o processamento das entradas enviadas pelos usuários, a geração de respostas e o uso das informações coletadas nas interações.