Imagem mostra celular com o logo do ChatGPT, robô conversador da OpenAI. Getty Images/BBC
Mais de 1 milhão de usuários ativos do ChatGPT conversaram sobre suicídio em uma semana, segundo dados divulgados nesta segunda-feira (27) pela OpenAI, empresa responsável pelo chatbot.
A análise inicial da OpenAI estima que 0,15% dos usuários ativos semanalmente apresentam conversas com indicadores explícitos de possível planejamento ou intenção suicida. Considerando que o ChatGPT possui mais de 800 milhões de usuários semanais, esse percentual corresponde a aproximadamente 1,2 milhão de pessoas.
Além disso, a empresa estima que cerca de 0,07% dos usuários ativos semanais, o que equivale a aproximadamente 600 mil pessoas, demonstram possíveis sinais de emergências de saúde mental relacionadas à psicose ou mania.
O tema ganhou destaque após o suicídio de Adam Raine, um adolescente californiano, no início deste ano. Os pais do jovem entraram com uma ação judicial contra a OpenAI, alegando que o ChatGPT forneceu informações específicas sobre como cometer o ato.
Em resposta, a OpenAI aprimorou os controles parentais do chatbot e implementou medidas de segurança adicionais, como maior acesso a linhas diretas de ajuda, redirecionamento automático de conversas delicadas para modelos mais seguros e lembretes para que os usuários façam pausas durante sessões prolongadas.
A empresa também atualizou o ChatGPT para reconhecer e responder melhor a usuários em emergências de saúde mental, e colabora com mais de 170 profissionais da área para reduzir respostas problemáticas.
