Grok, IA do X, gera imagens íntimas falsas e autoridades pedem medidas urgentes a Elon Musk para conter o problema no Brasil
Autoridades brasileiras pediram à rede social X, de Elon Musk, que adote “medidas imediatas” para impedir a criação de imagens eróticas utilizando o Grok, sua ferramenta de inteligência artificial. A solicitação ocorre após denúncias de que a IA está sendo usada para gerar conteúdo sexualizado a partir de imagens de pessoas reais.
A recomendação, divulgada nesta terça-feira (20), é assinada pelo Ministério Público Federal (MPF), pela Agência Nacional de Proteção de Dados (ANPD) e pela Secretaria Nacional do Consumidor (Senacon) do Ministério da Justiça e Segurança Pública. O documento exige que o X impeça o Grok de gerar novas imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados, ou que representem pessoas maiores de idade identificadas ou identificáveis sem sua autorização.
O MPF alertou que, em caso de descumprimento ou implementação insuficiente das medidas, “outras medidas poderão ser consideradas e adotadas pelas três instituições, em sede administrativa e em sede judicial”. A preocupação é com o potencial de danos causados pela disseminação de conteúdo íntimo falso e não consensual.
A ação foi motivada por denúncias de usuários que demonstraram a capacidade do Grok de recriar imagens de pessoas em situações íntimas. Um exemplo divulgado mostra a recriação de uma imagem de uma mulher de biquíni usando a ferramenta. A facilidade com que isso é feito levanta sérias questões sobre privacidade e segurança online.
O Instituto de Defesa do Consumidor (Idec), que apresentou a denúncia original, considerou as recomendações insuficientes. Em nota, o Idec afirmou que “o trio de órgãos optou por uma abordagem meramente burocrática, limitando-se a fazer recomendações à empresa enquanto a ferramenta continua operando normalmente”. A entidade ressaltou que “a decisão ignora a gravidade dos milhares de casos de uso indevido de dados pessoais, inclusive de crianças e adolescentes, na geração de imagens sexualizadas por meio da ferramenta, mantendo consumidoras brasileiras em situação de risco”.
A situação coloca em xeque a responsabilidade das plataformas de inteligência artificial no controle do uso de suas ferramentas e na proteção dos dados pessoais dos usuários. A expectativa é que o X responda rapidamente às solicitações das autoridades brasileiras e adote medidas eficazes para mitigar os riscos identificados.
Com informações do G1
