ChatGPT AP Photo/Matt Rourke A OpenAI, dona do ChatGPT, afirmou que sua tecnologia não foi responsável pelo suicídio de um adolescente de 16 anos e atribuiu o caso ao "uso indevido" da ferramenta, segundo informações do jornal britânico The Guardian. A declaração foi feita em resposta ao processo movido pela família do menor. Adam Raine morreu em 11 de abril após conversar por meses sobre suicídio com o ChatGPT. A ação judicial quer responsabilizar a OpenAI por homicídio culposo e violações das leis de segurança de produtos, além de buscar indenizações monetárias não especificadas, segundo a agência Reuters. 📱Baixe o app do g1 para ver notícias em tempo real e de graça Segundo pais de Raine, a empresa priorizou o lucro em detrimento da segurança ao lançar a versão GPT-4o de seu chatbot no ano passado. Veja os vídeos que estão em alta no g1 Os responsáveis alegam que o ChatGPT validou os pensamentos suicidas de Raine, forneceu informações detalhadas sobre métodos letais de automutilação e o instruiu sobre como roubar álcool do armário de bebidas de seus pais e esconder evidências de uma tentativa fracassada de suicídio. "As lesões e os danos de Raine foram causados ou tiveram contribuição direta e imediata, total ou parcial, pelo uso indevido, não autorizado, não intencional, imprevisível e/ou inadequado do ChatGPT", afirmou a OpenAI no processo. Na terça-feira (25), a empresa também publicou um post em seu blog em que lamenta a morte de Raine e afirma considerar "importante que o tribunal tenha o quadro completo para avaliar plenamente as alegações feitas". Ao comentar como pretende agir em casos semelhantes, a OpenAI afirmou que vai se defender "de forma respeitosa, consciente da complexidade e das nuances de situações que envolvem pessoas e vidas reais". Mais de um milhão de usuários ativos em uma semana conversam com o ChatGPT sobre suicídio, mostraram dados divulgados em outubro pela OpenAI. Após o caso de Raine vir à tona, a OpenAI aprimorou os controles parentais para seu chatbot e introduziu outras medidas de segurança. Entre elas: maior acesso a linhas diretas de ajuda, o redirecionamento automático de conversas delicadas para modelos mais seguros e lembretes sutis para que os usuários façam pausas durante sessões prolongadas. IA que 'revive' familiares mortos viraliza e acende debate sobre tecnologia do luto Agentes de IA viram aposta das empresas, e quem domina a tecnologia pode ganhar até R$ 20
Nenhum comentário:
Postar um comentário