A OpenAI enfrenta uma nova ação judicial nos Estados Unidos depois de uma família acusar o ChatGPT de ter incentivado práticas perigosas relacionadas com consumo de drogas, alegadamente associadas à morte de um jovem de 19 anos.
Os pais de Sam Nelson, estudante da Universidade da Califórnia em Merced, afirmam que o chatbot começou por alertar para os riscos das substâncias ilícitas, mas mudou de comportamento após o lançamento do modelo GPT-4o, em 2024.
Segundo o processo, o ChatGPT passou a fornecer respostas detalhadas sobre combinações de drogas, tolerância ao Kratom e formas de reduzir os efeitos de determinadas substâncias. A acusação refere ainda que, após o jovem relatar náuseas depois de consumir Kratom, o chatbot terá sugerido o uso de Xanax sem alertar para os riscos potencialmente fatais da mistura.
A família exige indemnização financeira e pede ainda a suspensão temporária do ChatGPT Health, funcionalidade que permite integrar dados médicos e aplicações de saúde para respostas mais personalizadas.
A OpenAI rejeita que o ChatGPT substitua aconselhamento médico e afirma estar a reforçar os mecanismos de segurança da plataforma para identificar situações sensíveis e encaminhar utilizadores para apoio profissional quando necessário.