O estado da Flórida tornou-se o primeiro nos Estados Unidos a processar a empresa responsável pelo ChatGPT, a OpenAI, acusando-a de ter lançado a tecnologia sem salvaguardas adequadas para proteger utilizadores, especialmente menores.
O procurador-geral da Flórida alega que a empresa ignorou alertas de segurança e privilegiou a rápida expansão comercial em detrimento da proteção dos utilizadores. Entre as acusações estão alegados casos de dependência comportamental, influência negativa sobre jovens vulneráveis e fornecimento de informações a pessoas que mais tarde estiveram envolvidas em atos violentos.
O processo destaca ainda a ausência de mecanismos eficazes de verificação de idade, argumentando que menores podem aceder facilmente à plataforma sem supervisão parental.
A OpenAI rejeita as acusações e afirma que os seus modelos são treinados para recusar pedidos relacionados com violência, incentivar a procura de ajuda profissional em situações de risco e colaborar com as autoridades quando identifica ameaças credíveis. A empresa sublinha ainda que o ChatGPT é utilizado diariamente por centenas de milhões de pessoas para fins legítimos.
O caso poderá tornar-se uma referência importante no debate sobre a responsabilidade das empresas de inteligência artificial, sobretudo no que diz respeito à proteção de crianças e adolescentes.