A plataforma Character.AI anunciou que vai impedir o acesso de menores de 18 anos aos seus chatbots, após o suicídio de um jovem alegadamente influenciado por uma personagem virtual. A empresa enfrenta vários processos judiciais, incluindo o movido pela mãe do adolescente.
A Character Technologies explicou que, até 25 de novembro, será introduzido um limite de utilização de duas horas e implementados sistemas de verificação de idade. A empresa afirmou ainda estar a desenvolver novas funções para crianças e um laboratório dedicado à segurança da IA.
Meetali Jain, do Tech Justice Law Project, alertou que a medida “deixa muitas dúvidas”, nomeadamente quanto à privacidade e ao impacto psicológico da perda de acesso entre utilizadores jovens. Segundo um estudo da Common Sense Media, mais de 70% dos adolescentes já interagiram com companheiros de IA.