Chatbot de Elon Musk, o Grok, está sendo bloqueado em países como Malásia e Indonésia após gerar imagens íntimas falsas
A Malásia suspendeu o acesso ao chatbot Grok, integrado à rede social X de Elon Musk, devido à geração de conteúdo pornográfico pela inteligência artificial (IA). O anúncio foi feito pelo órgão regulador de tecnologia do país no domingo (11).
A decisão veio à tona após a constatação de que a função de criação de imagens do Grok permitia a sexualização de imagens de mulheres e crianças através de simples comandos de texto. A Indonésia foi o primeiro país a negar o acesso à ferramenta, que até o momento está disponível apenas para assinantes pagos em outras regiões.
O caso ganhou destaque também após relatos de vítimas. Uma brasileira, por exemplo, expressou seu desconforto ao ter sua imagem editada pelo Grok para criar uma foto íntima falsa. Ela declarou: “Sentimento horrível. Me sinto suja”.
A Comissão de Comunicações e Multimídia da Malásia (MCMC) emitiu um comunicado afirmando que “ordenou uma restrição temporária do acesso à inteligência artificial do Grok” com efeito imediato. A MCMC justificou a medida como resposta ao “uso indevido reiterado do Grok para gerar imagens obscenas, sexualmente explícitas, indecentes, extremamente ofensivas e manipuladas sem consentimento”.
O Grok é uma inteligência artificial desenvolvida por Elon Musk e integrada ao X (antigo Twitter). A ferramenta tem como objetivo fornecer respostas rápidas e informações em tempo real, mas tem sido criticada por sua capacidade de gerar conteúdo inadequado e potencialmente prejudicial.
A suspensão do acesso ao Grok na Malásia e na Indonésia levanta questões sobre a regulamentação de inteligências artificiais e a responsabilidade das empresas em controlar o conteúdo gerado por suas ferramentas. A discussão sobre os limites da IA e a proteção contra abusos deve ganhar ainda mais força nos próximos meses.
A situação demonstra a crescente preocupação com o uso indevido de tecnologias de IA para criar conteúdo explícito e não consensual, e a necessidade de medidas para proteger os usuários e evitar a disseminação de materiais prejudiciais.
Com informações do G1
