Um teste interno do TikTok, destinado a avaliar melhorias no algoritmo contra conteúdos nocivos, acabou por deixar alguns utilizadores expostos à versão antiga do sistema. Entre eles estava Chase Nasca, de 16 anos, que morreu por suicídio.
Cerca de 10% dos utilizadores norte-americanos ficaram no grupo de controlo. Documentos judiciais indicam que, nas duas semanas anteriores à sua morte, o jovem recebeu mais de 7.500 vídeos, muitos relacionados com depressão, automutilação e suicídio, incluindo conteúdos que violavam as próprias regras da plataforma.
A própria análise interna terá reconhecido que as proteções contra a criação de “bolhas” de conteúdos não foram aplicadas ao adolescente devido ao desenho do teste.
O caso reacendeu críticas sobre os testes de algoritmos em menores e sobre a prioridade dada pelas redes sociais ao envolvimento dos utilizadores. O TikTok lamentou a morte e afirmou continuar a reforçar os seus sistemas de segurança.