Idec solicita ao governo a suspensão da IA Grok, de Elon Musk, após denúncias de criação de imagens íntimas falsas de menores e mulheres
O Instituto de Defesa do Consumidor (Idec) solicitou ao governo brasileiro, nesta segunda-feira (12), a suspensão da ferramenta de inteligência artificial (IA) Grok, do bilionário Elon Musk. A solicitação ocorre devido ao uso da IA para gerar imagens sexualizadas falsas de mulheres e crianças, sem o consentimento das vítimas.
“A medida é motivada por evidências robustas de graves e reiteradas violações de direitos fundamentais, especialmente de crianças, adolescentes e mulheres, associadas ao funcionamento da ferramenta”, informou o Idec.
Recentemente, o g1 divulgou o caso de uma brasileira que teve uma foto sua de biquíni manipulada pela IA. A vítima relatou: “Sentimento horrível”, após descobrir a existência da imagem alterada. A prática de manipulação de imagens, conhecida como deepfake, ganhou força no X (antigo Twitter) no mês passado, tornando-se uma tendência em diversos países, incluindo o Brasil.
O Idec encaminhou um ofício ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, que envolve ministérios e órgãos governamentais como o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda).
De acordo com o instituto, o Grok está sendo utilizado para disseminar “imagens sexualizadas não consentidas”, “inclusive menores de idade”, sem qualquer medida de segurança, consentimento ou prevenção de abusos. O Idec considera que isso configura um “defeito grave na prestação do serviço”, conforme o Código de Defesa do Consumidor (CDC), já que a plataforma não oferece a segurança esperada pelos usuários.
Além disso, o Idec aponta violações à Lei Geral de Proteção de Dados (LGPD), ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente (ECA) e ao novo ECA Digital. O caso do Grok já despertou atenção internacional, com investigações e pedidos de remoção de conteúdo por autoridades da União Europeia, Reino Unido, França e Índia.
“O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, conclui o Idec.
Com informações do G1
