Adolescente é preso por pergunta sobre assassinato ao ChatGPT Mais de um milhão de usuários ativos em uma semana conversam com o ChatGPT sobre suicídio. É o que mostram dados divulgados nesta segunda-feira (27), pela OpenAI (dona do chatbot). "Nossa análise inicial estima que cerca de 0,15% dos usuários ativos em uma semana têm conversas que incluem indicadores explícitos de possível planejamento ou intenção suicida", disse a empresa. Como mais de 800 milhões de pessoas usam o ChatGPT semanalmente, segundo a companhia, essa porcentagem corresponde a aproximadamente 1,2 milhão de usuários. 📱Baixe o app do g1 para ver notícias em tempo real e de graça Suicídios de adolescentes impulsionam onda de processos contra plataformas de IA nos EUA No comunicado, a OpenAI também informou que estima que cerca de 0,07% dos usuários ativos semanais, um pouco menos de 600 mil pessoas, apresentam possíveis sinais de emergências de saúde mental relacionadas à psicose ou mania. Casos de suicídio chamaram atenção para o tema Imagem mostra celular com o logo do ChatGPT, robô conversador da OpenAI Getty Images/BBC O problema ganhou destaque depois que o adolescente californiano Adam Raine cometeu suicídio no início deste ano. Seus pais entraram com uma ação judicial contra o ChatGPT porque a ferramenta forneceu conselhos específicos sobre como fazê-lo. Desde então, a OpenAI aprimorou os controles parentais para seu chatbot e introduziu outras medidas de segurança. Entre elas: maior acesso a linhas diretas de ajuda, o redirecionamento automático de conversas delicadas para modelos mais seguros e lembretes sutis para que os usuários façam pausas durante sessões prolongadas. A companhia também atualizou o ChatGPT para reconhecer e responder melhor aos usuários que enfrentam emergências de saúde mental, e diz que está trabalhando com mais de 170 profissionais de saúde mental para reduzir significativamente as respostas problemáticas. Veja mais: Mãe diz que filho cometeu suicídio após se apegar a personagem criado por IA e processa startup e Google nos EUA Mãe processa Roblox e Discord após filho de 15 anos sofrer abuso online e tirar a própria vida Saiba como ativar proteção para controlar tempo e atividade de crianças no celular
Nenhum comentário:
Postar um comentário