A investigação sobre o uso do Grok, inteligência artificial integrada à rede social X, expõe uma das faces mais incômodas da atual corrida tecnológica. A ferramenta foi utilizada para gerar imagens sexualizadas falsas sem o consentimento das pessoas retratadas, atingindo principalmente mulheres e crianças.
O caso chama atenção não apenas pelo conteúdo gerado, mas pela forma como ele é produzido, utilizando IA generativa automatizada.
A criação e disseminação de imagens íntimas falsas já é reconhecida internacionalmente como uma forma de violência, com impactos profundos na saúde mental, na reputação e na vida social das vítimas.
O episódio também escancara um debate ainda mal resolvido sobre responsabilidade no ecossistema da inteligência artificial, questionando até que ponto a culpa recai apenas sobre o usuário e qual é o papel das plataformas que oferecem ferramentas com poucos filtros.
