A FoloToy, empresa de brinquedos infantis, suspendeu a venda do ursinho de pelúcia Kumma, equipado com inteligência artificial, após relatos de que o brinquedo fornecia conselhos sexuais e abordava temas considerados perigosos.
Os problemas foram identificados por pesquisadores do Public Interest Research Group (PIRG), que realizaram testes em três dispositivos infantis com chatbots de IA. Os testes revelaram que o Kumma chegou a oferecer dicas sobre “como ser um bom beijador” e a explicar diferentes fetiches. Em uma interação, o brinquedo alertou sobre o uso de fósforos por adultos, mas logo em seguida detalhou o processo para acendê-los.
“Dos brinquedos que testamos, o Kumma da FoloToy foi o mais propenso a fornecer informações sexualmente explícitas e a responder perguntas sobre a localização de objetos perigosos, como facas, comprimidos e fósforos”, afirmaram os pesquisadores em seu relatório.
Resposta da Empresa
Após a divulgação do estudo, Hugo Wu, diretor de marketing da FoloToy, informou que a empresa decidiu “suspender temporariamente as vendas do produto e iniciar uma auditoria interna de segurança abrangente”, conforme publicado pelo portal Futurism.
“Agradecemos aos pesquisadores por apontarem riscos potenciais. Isso nos ajuda a melhorar”, acrescentou o executivo.
O site da FoloToy, ao ser acessado, exibe a mensagem “Nenhum produto encontrado” ao tentar adquirir o brinquedo. A empresa informa que o Kumma é alimentado pelo GPT-4o, modelo de linguagem da OpenAI, responsável também pelo ChatGPT.
A FoloToy descrevia o Kumma como um brinquedo que “alimenta a curiosidade por meio de atividades envolventes e conversas reflexivas”, com “controles fáceis de usar que permitem personalizar e monitorar a experiência do seu filho”.
