A Indonésia e a Malásia tornaram-se os primeiros países a proibir o Grok, o chatbot de Inteligência Artificial do X, detido por Elon Musk, após denúncias de que a ferramenta estava a ser usada para criar imagens sexualmente explícitas e não consensuais, incluindo conteúdos com mulheres e menores.
As autoridades dos dois países afirmam que as salvaguardas existentes falharam na prevenção da criação e disseminação de deepfakes pornográficos. A Indonésia bloqueou temporariamente o acesso no sábado, seguindo-se a Malásia no domingo, como medida preventiva enquanto decorrem processos legais e regulatórios.
Segundo o governo indonésio, os deepfakes sexuais não consensuais representam uma grave violação dos direitos humanos, da dignidade e da segurança digital, podendo causar danos psicológicos, sociais e reputacionais às vítimas. Já o regulador malaio criticou a dependência excessiva de mecanismos de denúncia por parte dos utilizadores, considerando-os insuficientes.
Lançado em 2023, o Grok é gratuito no X e passou a incluir geração de imagens em 2025, com funcionalidades que permitiam conteúdos para adultos. As proibições no Sudeste Asiático surgem num contexto de crescente escrutínio internacional, incluindo na União Europeia, Reino Unido, França e Índia, apesar de recentes limitações impostas pela empresa à geração de imagens.