O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) avaliaram como insuficientes as ações da plataforma X para combater o uso indevido de sua ferramenta de inteligência artificial, o Grok. As entidades já haviam solicitado medidas concretas para impedir a geração de imagens sexualizadas ou pornográficas de menores e de adultos sem consentimento, considerando ilegal esse tipo de conteúdo.
Em uma ação conjunta, o MPF, a ANPD e a Senacon instauraram procedimentos próprios para investigar a falta de controle efetivo sobre os conteúdos gerados pelo Grok. Como resultado, a ANPD determinou que o X implemente proteções contra abusos em todas as versões da ferramenta, enquanto o MPF exigiu relatórios mensais a partir de fevereiro sobre as ações tomadas pela plataforma.
A Senacon também solicitou provas do cumprimento das medidas, demandando um relatório com dados verificáveis sobre a identificação, moderação e exclusão de conteúdos nocivos. O MPF alertou que, em caso de descumprimento, a empresa poderá enfrentar multas diárias e outras sanções legais, incluindo a possibilidade de ação judicial.
Em resposta à recomendação, o X afirmou ter removido milhares de publicações e suspendido contas por violação de políticas. Contudo, as instituições consideraram que as informações fornecidas carecem de evidências concretas e relatórios técnicos que comprovem a eficácia das ações, apontando que testes preliminares indicam a continuidade das falhas na geração de conteúdos impróprios.
