UE ordena que X salve dados do chatbot Grok após casos de fotos manipuladas e disseminação de conteúdo ilegal
A Comissão Europeia, o braço executivo da União Europeia, determinou que a rede social X, de Elon Musk, preserve todos os documentos internos e dados relacionados ao seu chatbot de inteligência artificial (IA), o Grok, até o final de 2026.
A decisão foi tomada em resposta às críticas direcionadas ao Grok por permitir que usuários alterassem fotos de outras pessoas, incluindo mulheres e crianças, para criar imagens com conteúdo sexualmente explícito ou sugestivo. A plataforma tem sido palco de casos de manipulação de imagens, como a disseminação da chamada “trend do biquini”, onde fotos são alteradas para simular a vítima vestindo trajes de banho.
Na segunda-feira, a Comissão Europeia classificou as imagens de mulheres e crianças despidas compartilhadas no X como ilegais e “horríveis”. A medida estende uma ordem de retenção de documentos enviada ao X no ano passado, relacionada a algoritmos e à disseminação de conteúdo ilegal, conforme explicado pelo porta-voz Thomas Regnier.
“Isso significa dizer à plataforma: guarde seus documentos internos, não se livre deles, porque temos dúvidas sobre sua conformidade, e precisamos poder acessá-los se solicitarmos”, afirmou Regnier. A Comissão Europeia ressalta que a medida não representa o início de uma nova investigação formal contra o X com base na Lei de Serviços Digitais (DSA).
A retenção de dados visa garantir que a Comissão Europeia tenha acesso às informações necessárias para avaliar a conformidade do X com as regulamentações da UE, especialmente no que diz respeito à moderação de conteúdo e à proteção de usuários contra conteúdo ilegal e prejudicial. A polêmica envolvendo o Grok e a manipulação de imagens reacende o debate sobre a responsabilidade das plataformas de mídia social no combate à desinformação e à exploração online.
Usuárias têm relatado o uso indevido de suas imagens no X, expressando sentimentos de violação e desconforto. A situação levanta questões importantes sobre a privacidade, o consentimento e a necessidade de ferramentas eficazes para combater a disseminação de conteúdo manipulado e abusivo nas redes sociais.
Com informações do G1
