No Reino Unido, a crescente utilização de aplicações de inteligência artificial (IA) para criar imagens falsas de nudez envolvendo menores gerou um forte apelo à intervenção legislativa. O alerta surge num relatório publicado esta semana pela Comissária para a Infância, Dame Rachel de Souza, que destaca o impacto alarmante destas tecnologias na vida das crianças e adolescentes.
Segundo a responsável, ferramentas digitais que permitem a criação de imagens sexualmente explícitas com recurso a IA — muitas vezes a partir de simples fotografias — tornaram-se amplamente acessíveis online.
De acordo com o relatório, a mera existência destas aplicações já provoca medo entre os jovens, sobretudo raparigas, que receiam ser alvo de manipulações e evitam partilhar imagens nas redes sociais.
Dame Rachel de Souza afirmou que a tecnologia de deepfakes representa uma nova forma de ameaça à integridade das crianças, e lamentou a ausência de regulamentação clara para controlar o seu uso.
A par, salientou ainda que a maioria das ferramentas de “nudification” parece ter como alvo exclusivo corpos femininos, representando um risco desproporcional para raparigas e mulheres jovens.
A comissária apelou a uma proibição total destas aplicações e defendeu que os criadores de software de IA generativa passem a ser legalmente responsáveis pelos riscos que os seus produtos possam representar.
De entre outras medidas, propôs a obrigatoriedade de mecanismos eficazes para remoção de material de abuso sexual infantil (MASI) gerado por IA e o reconhecimento formal de deepfakes sexuais como uma forma de violência de género.
Embora o Reino Unido já tenha introduzido crimes específicos contra a partilha e produção de conteúdos deepfake com teor sexual, o relatório destaca que a resposta legal atual continua insuficiente face aos danos causados aos mais jovens.
O documento menciona ainda possíveis consequências psicológicas graves, como perturbação de stress pós-traumático e pensamentos suicidas, associadas a este tipo de abuso digital.
Dame Rachel reforçou que as próprias crianças pedem medidas firmes para conter este fenómeno e advertiu que nenhuma justificação pode ser aceite para permitir o funcionamento e a difusão de ferramentas que exploram sexualmente menores com recurso à inteligência artificial.