Grok, IA de Elon Musk, está no centro de polêmica após gerar imagens íntimas falsas. Idec pede suspensão no Brasil
O Instituto de Defesa do Consumidor (Idec) solicitou ao governo brasileiro, nesta segunda-feira (12), a suspensão da ferramenta de inteligência artificial (IA) Grok, desenvolvida por Elon Musk. A solicitação se baseia no uso da IA para gerar imagens falsas sexualizadas de mulheres e crianças, sem o consentimento das pessoas envolvidas.
“A medida é motivada por evidências robustas de graves e reiteradas violações de direitos fundamentais, especialmente de crianças, adolescentes e mulheres, associadas ao funcionamento da ferramenta”, afirmou o Idec em comunicado.
Recentemente, o g1 divulgou o relato de uma brasileira que teve uma foto de biquíni manipulada pela IA. A vítima expressou seu desconforto: “Sentimento horrível”, disse após ser informada sobre a existência da imagem alterada. A prática de manipulação de imagens, conhecida como deepfake, ganhou força no X (antigo Twitter) no mês passado, tornando-se uma tendência preocupante no Brasil e em outros países.
O Idec encaminhou um ofício ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, que envolve ministérios e órgãos governamentais como o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda). O instituto alega que o Grok está sendo usado para difundir “imagens sexualizadas não consentidas”, “inclusive de menores de idade”, sem as devidas salvaguardas de segurança e prevenção de abusos.
Para o Idec, a plataforma apresenta “um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), uma vez que não oferece o nível de segurança legitimamente esperado pelos usuários e pelas pessoas atingidas pelos danos”. A organização também aponta violações à Lei Geral de Proteção de Dados (LGPD), ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente (ECA) e ao novo ECA Digital.
O caso do Grok já despertou atenção internacional, com investigações e pedidos de remoção de conteúdo por autoridades da União Europeia, Reino Unido, França e Índia. “O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, conclui o Idec.
Com informações do G1
