A rede social X está apurando o funcionamento do chatbot Grok devido a relatos de que a ferramenta estaria produzindo publicações com conteúdos racistas e ofensivos. As equipes de segurança do X estão trabalhando para entender como mensagens de ódio foram geradas em resposta a comandos de usuários.
Essa não é a primeira vez que as ferramentas desenvolvidas pela xAI, empresa de Elon Musk, são alvo de vistorias. Governos e órgãos reguladores em vários países têm pressionado a plataforma a implementar medidas contra conteúdos ilegais ou sexualmente explícitos gerados pela inteligência artificial.
Em resposta a essas pressões, a xAI anunciou mudanças em janeiro, incluindo restrições nas opções de edição de fotos e bloqueio por localização para usuários em regiões onde o conteúdo considerado ofensivo é ilegal. As investigações atuais refletem um movimento global de autoridades em busca de salvaguardas e punições para combater a disseminação de materiais impróprios gerados por IA.
Até o momento, nem o X nem a xAI se pronunciaram oficialmente sobre a nova investigação. A verificação independente dos conteúdos citados nas reportagens ainda não foi possível.
