ChatGPT terá recurso de proteção de adolescentes após ser acusado de contribuir com suicídio de jovem nos EUA

Empresa OpenAI lançou novo modelo de IA capaz de raciocinar e resolver questões complexas Dado Ruvic/Reuters A OpenAI anunciou nesta terça-feira (2) que o ChatGPT terá recursos de controle parental, que ajudam pais a monitorarem como seus filhos adolescentes usam o aplicativo. A atualização será liberada em outubro, segundo a empresa. Com o recurso, adultos poderão se vincular às contas de filhos e receber notificações se o ChatGPT detectar que o usuário menor de idade está passando por "um momento de grande sofrimento", explicou a OpenAI. "A contribuição de especialistas orientará esse recurso para promover a confiança entre pais e adolescentes", continuou a empresa. 📱Baixe o app do g1 para ver notícias em tempo real e de graça A atualização foi anunciada uma semana após a OpenAI ser processada por pais de um jovem de 16 anos que se suicidou nos Estados Unidos. Eles afirmam que o ChatGPT deu orientações sobre métodos de autoagressão. Os adultos também poderão controlar como o ChatGPT apresenta suas respostas para adolescentes e desativar outros recursos, como a memória e o histórico do assistente de inteligência artificial. A OpenAI anunciou o controle parental como uma proteção para adolescentes porque suas regras não permitem o uso do ChatGPT por crianças com menos de 13 anos de idade. Avaliação de médicos O recurso faz parte da iniciativa da OpenAI para melhorar como seus modelos respondem a "sinais de sofrimento mental e emocional" com base no apoio de especialistas. A empresa disse compartilhará detalhes sobre esse esforço nos próximos 120 dias. A empresa disse ainda que, no início do ano, criou um conselho de especialistas em desenvolvimento juvenil, saúde mental e interação humano-computador. O grupo deverá definir "como a IA pode contribuir para o bem-estar das pessoas e ajudá-las a prosperar". O conselho vai trabalhar com a Global Physician Network, uma entidade com mais de 250 médicos de 60 países que ajuda a avaliar como o comportamento do ChatGPT em interações ligadas à saúde. "Embora o conselho nos aconselhe sobre nossos produtos, pesquisas e decisões políticas, a OpenAI permanece responsável pelas escolhas que fazemos", disse a empresa.