Grok, IA de Elon Musk, está sob investigação global após gerar imagens sexualizadas de mulheres e crianças. Países já baniram a ferramenta
Países ao redor do mundo estão pressionando o Grok, a inteligência artificial (IA) do bilionário Elon Musk, após a proliferação de imagens falsas e sexualizadas de mulheres e crianças criadas por usuários da plataforma X. A ferramenta, que se tornou gratuita para usuários do X, tem sido utilizada para gerar conteúdo íntimo falso sem o consentimento das pessoas retratadas.
O Reino Unido abriu uma investigação formal contra a plataforma nesta segunda-feira (12), enquanto Indonésia e Malásia já proibiram o uso do chatbot. A Índia, por sua vez, solicitou explicações ao X e exigiu medidas de proteção mais eficazes contra esse tipo de ocorrência. Em 2 de janeiro, autoridades francesas denunciaram ao regulador de mídia do país imagens que mostravam menores em “roupas mínimas”.
O Grok admitiu “falhas nos mecanismos de proteção” e informou que melhorias estavam sendo implementadas para evitar a criação desse tipo de conteúdo. No entanto, a onda de denúncias e a pressão internacional continuam a crescer. Recentemente, o g1 divulgou o caso de uma brasileira que teve uma foto de biquíni manipulada pela IA. “Sentimento horrível”, relatou a vítima ao ser informada sobre a existência da imagem.
Esse tipo de manipulação, conhecido como deepfake (alteração de imagens reais por inteligência artificial), não é um fenômeno novo, mas ganhou força no X no mês passado, tornando-se uma espécie de “trend” tanto no Brasil quanto em outros países. No Brasil, a jornalista Julie Yukari denunciou à polícia que teve suas fotos manipuladas pela mesma ferramenta no dia 2 de fevereiro.
O Instituto de Defesa do Consumidor (Idec) pediu ao governo brasileiro que suspenda o uso do Grok no país. A rede social X restringiu o acesso ao Grok a usuários pagantes na semana passada e afirmou que remove todo conteúdo ilegal da plataforma, suspendendo permanentemente as contas envolvidas. “Qualquer pessoa que use ou provoque o Grok a produzir conteúdo ilegal sofrerá as mesmas consequências que se fizesse o upload de conteúdo ilegal”, declarou a empresa.
A investigação no Reino Unido, conduzida pela Ofcom, tem como objetivo determinar se as deepfakes geradas pelo Grok violaram o dever da plataforma de proteger os usuários contra conteúdos ilegais. Segundo o órgão regulador, imagens sexualizadas de crianças podem ser consideradas “material de abuso sexual infantil”. O primeiro-ministro Keir Starmer classificou as imagens como “repugnantes” e “ilegais”, afirmando que o X precisa “assumir o controle” do Grok.
No Reino Unido, a criação ou compartilhamento de imagens íntimas sem consentimento, assim como material de abuso sexual infantil, é ilegal. As plataformas de tecnologia são obrigadas a impedir o acesso a conteúdo ilegal e removê-lo assim que tomarem conhecimento de sua existência.
Com informações do G1
