Namoradas virtuais no ChatGPT estão incomodando a OpenAI

O GPTStore da OpenAI, que funciona como uma loja de IAs pré-programadas, se encontra em uma situação controversa com a proliferação de chatbots orientados para o romance, apesar de claramente violarem as políticas de uso da empresa.

Tal como o protragonista do longa Blade Runner 2049 se relaciona com uma IA em forma de holograma, os usuários do ChatGPT parecem gostar de investir romanticamente com o serviço. Conforme relatado pelo Quartz na semana passada, esses chatbots, que não deveriam existir segundo as diretrizes da OpenAI, estão se tornando cada vez mais presentes na plataforma.

Para contornar o problema, a empresa agiu rapidamente, removendo vários desses aplicativos, incluindo alguns com nomes como "Judy" e "Korean Girlfriend". No entanto, apesar dessas ações, novos chatbots semelhantes continuam surgindo.

Para encontrá-los, basta uma busca pela palavra-chave "girlfriend" e várias opções que parecem desrespeitar as regras da empresa, com nomes como "Nadia, minha namorada" e "Sua namorada Tiffany" surgirão.

Além disso, a busca por termos relacionados à sexualidade no GPT Store traz resultados variados. Alguns, como o chatbot "Sexy Advisor", parecem enquadrar-se nas exceções da OpenAI para conteúdos sexuais "criados para fins científicos ou educacionais". No entanto, a presença de outros, como "SUCCUBUS - Sexy Enigmatic Woman-Enchanter of Men" e "Sexy", sugere uma violação das regras contra conteúdo sexualmente explícito.