A rede social X anunciou que o chatbot de IA Grok, desenvolvido pela xAI de Elon Musk, deixará de criar ou editar imagens sexualizadas de pessoas reais em países onde essa prática é ilegal. A decisão surge após críticas internacionais e investigações sobre a criação de conteúdos explícitos não consensuais, incluindo imagens envolvendo mulheres e menores.
Segundo a xAI, foram implementadas medidas técnicas para impedir a edição de imagens com roupas reveladoras e para bloquear geograficamente conteúdos que violem a lei local. A criação e edição de imagens passa também a estar limitada a assinantes pagos, de forma a reforçar a responsabilização por abusos.
A polémica intensificou-se depois de vários governos reagirem ao chamado “modo picante” do Grok. Países como a Malásia e a Indonésia bloquearam o acesso ao chatbot, enquanto a União Europeia, o Reino Unido, França, Índia e Brasil abriram ou ponderam investigações. Nos Estados Unidos, a Califórnia lançou um inquérito sobre a produção de imagens íntimas deepfake não consensuais.
As autoridades sublinham que existe tolerância zero para conteúdos sexualmente explícitos não consentidos ou que envolvam crianças, mesmo quando gerados por inteligência artificial.