Os pais de uma adolescente de 13 anos apresentaram uma ação judicial contra a Google, na Califórnia, alegando que a filha utilizou ferramentas de Inteligência Artificial integradas no motor de pesquisa da empresa para procurar informações relacionadas com suicídio e preparar o próprio funeral.
Segundo a queixa, a jovem acedeu às funcionalidades através de um computador disponibilizado pela escola. Embora aplicações como o Gemini e o ChatGPT estivessem bloqueadas, o equipamento permitia utilizar a pesquisa da Google com recursos de IA. A família sustenta que a adolescente desenvolveu uma grave crise psicológica durante esse período.
A situação foi identificada em março, quando um sistema de monitorização escolar detetou um documento relacionado com um funeral. Posteriormente, os pais descobriram outros sinais preocupantes e intervieram. Os advogados da família defendem que as escolas devem restringir o acesso a estas funcionalidades até existirem garantias de segurança adequadas.
A Google afirmou que dispõe de mecanismos destinados a prevenir conteúdos associados à automutilação e ao suicídio, garantindo que está a analisar as acusações. O processo surge num contexto de crescente escrutínio judicial sobre os riscos da Inteligência Artificial para crianças e adolescentes.