A Comissão Europeia abriu uma investigação formal ao Grok, chatbot de inteligência artificial da xAI integrado na plataforma X, para apurar possíveis violações da Lei dos Serviços Digitais (DSA).
Em causa está a alegada criação e circulação de imagens sexualizadas geradas por IA, incluindo deepfakes não consentidos e representações de menores. Bruxelas quer avaliar se a empresa identificou e mitigou adequadamente os riscos associados às funcionalidades do Grok no mercado europeu.
A investigação analisará as medidas técnicas e operacionais adotadas para impedir conteúdos ilegais, bem como a governação interna da moderação. A Comissão exigirá ainda documentação que comprove o cumprimento das obrigações previstas na DSA.
Segundo estudos citados por investigadores, o Grok poderá ter sido usado para gerar milhões de imagens sexualizadas num curto período de tempo, o que reforçou as preocupações dos reguladores.
O incumprimento das regras pode resultar em sanções significativas, incluindo multas calculadas sobre o volume de negócios global da empresa.