A xAI apresentou uma ação judicial contra um utilizador de 67 anos, acusado de usar o Grok para criar imagens e vídeos pornográficos falsos de adultos e menores, contornando os mecanismos de segurança da plataforma.
Segundo a empresa, o suspeito alterava repetidamente os pedidos até conseguir gerar conteúdos explícitos, incluindo a partir da fotografia de uma criança. O caso é um dos primeiros em que uma empresa de inteligência artificial processa um utilizador pela utilização abusiva da tecnologia.
O homem foi detido em março e responde por vários crimes relacionados com exploração sexual de menores e divulgação de material ilícito. Entretanto, a xAI reforçou os filtros de segurança do Grok, enquanto continua sob investigação de reguladores internacionais devido às falhas do sistema.