Resumo
- O Grok gerou 6.700 imagens sexuais ilegais por hora, superando outros sites similares que registraram média de 79 imagens por hora.
- Segundo a pesquisadora Genevieve Oh, o aumento no uso do Grok começou em dezembro, com usuários solicitando alterações em fotos comuns no X.
- Elon Musk afirmou que usuários que solicitarem conteúdo ilegal serão punidos, mas o X não comentou oficialmente os casos.
Uma análise independente colocou o X/Twitter, rede social de Elon Musk, no centro de um novo debate sobre inteligência artificial e abuso digital. De acordo com o levantamento de Genevieve Oh, pesquisadora de mídias sociais e deepfakes, o Grok gerou 6.700 imagens sexuais por hora.
Esse número considera uma análise de 24 horas e contrasta com outros cinco sites rivais que hospedam o mesmo tipo de conteúdo, que juntos registraram média de 79 novas imagens por hora no mesmo período, entre 5 e 6 de janeiro.
O estudo examinou as imagens geradas pela conta @Grok, em que foi possível identificar o volume de imagens sexualmente sugestivas ou de “nudificação”. O resultado da pesquisa foi veiculado na Bloomberg.
Grok é usado para criar deepfakes no X
Segundo a pesquisadora, o aumento começou no fim de dezembro, quando usuários passaram a solicitar que o Grok alterasse fotos comuns publicadas no X. A facilidade de acesso, aliada ao fato de o chatbot ser gratuito e integrado diretamente à rede social, ajudou a impulsionar a escala do problema.
Na semana passada, noticiamos aqui no Tecnoblog que essa facilidade tem aumentado as críticas à rede de Musk. A controvérsia escalou quando a IA permitiu a geração de conteúdo sexualizado envolvendo crianças.
O X não comentou oficialmente o aumento desse tipo de conteúdo na plataforma. Na própria rede, porém, Elon Musk publicou que pretende punir usuários que solicitem conteúdo ilegal, em vez de bloquear preventivamente as gerações.
“Qualquer pessoa que use o Grok para fazer conteúdo ilegal sofrerá as mesmas consequências como se tivesse carregado conteúdo ilegal”, escreveu.
Apesar das regras de uso da xAI (empresa de IA de Musk) proibirem a representação de pessoas reais de maneira pornográfica, a aplicação prática dessas diretrizes tem falhado. À Bloomberg, uma estudante de 23 anos afirmou que teve fotos manipuladas após publicar uma imagem comum com o namorado.
“Meu coração disparou”, disse. “Me senti sem esperança, impotente e simplesmente enojada”. Segundo ela, as denúncias feitas ao X não tiveram retorno, e parte do conteúdo continuava disponível.
