O governo federal e o Ministério Público Federal (MPF) concluíram que o X não demonstrou ter adotado ações eficazes para conter a criação e disseminação de imagens eróticas geradas pela ferramenta Grok, que altera fotos sem consentimento. As autoridades afirmam que as informações fornecidas pela empresa não foram acompanhadas de evidências concretas e testes indicam que ainda é possível gerar e compartilhar imagens sexualizadas sem autorização.
A situação está sendo analisada pela Agência Nacional de Proteção de Dados (ANPD), pelo MPF e pela Secretaria Nacional do Consumidor (Senacon). Desde o final do ano passado, surgiram milhares de denúncias em vários países, relatando que a ferramenta modifica imagens de mulheres nas redes sociais, fazendo com que elas apareçam nuas ou de biquíni. Ao menos duas brasileiras afirmam ter sido vítimas desses deepfakes.
Em 20 de janeiro, ANPD, MPF e Senacon recomendaram que o X impedisse a adulteração feita pelo Grok. A plataforma informou que removeu milhares de publicações com essas imagens e suspendeu centenas de contas por violação de suas políticas. Contudo, as autoridades brasileiras avaliaram que as informações fornecidas pela empresa não apresentaram evidências concretas ou mecanismos de monitoramento suficientes para aferir sua efetividade.
A ANPD e a Senacon estabeleceram um novo prazo de cinco dias úteis para que o X implemente medidas que impeçam a criação desse tipo de conteúdo. Caso a determinação não seja cumprida, a empresa poderá enfrentar sanções severas, incluindo multas e possíveis ações judiciais. A atuação do X também está sob investigação na Europa, onde buscas foram realizadas nos escritórios da empresa na França em uma investigação preliminar sobre a disseminação de conteúdo ilegal.
