Governo alemão pressiona plataformas a combater imagens falsas geradas por IA que banalizam o Holocausto e desinformam sobre a história
O governo da Alemanha e instituições de memória do Holocausto estão exigindo que plataformas de redes sociais parem de disseminar imagens falsas geradas por inteligência artificial (IA) que, segundo eles, distorcem e banalizam a história do assassinato de mais de seis milhões de judeus pelos nazistas durante a Segunda Guerra Mundial.
Memoriais de campos de concentração e centros de documentação manifestaram profunda preocupação, em uma carta divulgada nesta semana, com a onda do chamado “AI slop” — imagens falsas geradas por inteligência artificial. Entre os conteúdos citados estão ilustrações emocionais de episódios inventados, como encontros entre prisioneiros de campos de concentração e seus libertadores ou crianças atrás de arame farpado.
“O conteúdo gerado por IA distorce a história por meio da trivialização e da kitschificação”, diz a carta, datada de 13 de janeiro. As instituições alertam que essas imagens também contribuem para aumentar a desconfiança dos usuários em relação a documentos históricos autênticos.
O ministro da Cultura e da Mídia da Alemanha, Wolfram Weimer, afirmou que apoia os esforços das instituições memoriais para que imagens geradas por IA sejam claramente identificadas e, quando necessário, removidas. “Essa é uma questão de respeito pelos milhões de pessoas que foram mortas e perseguidas sob o regime de terror nazista”, disse ele em um e-mail enviado à Reuters.
As instituições memoriais também apontam que parte dessas imagens é criada para gerar engajamento e lucro, enquanto outra parte tem o objetivo de “diluir fatos históricos, inverter os papéis de vítimas e perpetradores ou espalhar narrativas revisionistas”. Centros memoriais de Bergen-Belsen, Buchenwald, Dachau e outros campos de concentração, onde judeus foram mortos, assim como outras pessoas, incluindo ciganos e sinti, minorias sexuais e pessoas com deficiência, estão entre os signatários da carta.
As plataformas de mídia social devem agir de forma proativa contra imagens falsas geradas por IA sobre o Holocausto, em vez de esperar que usuários façam denúncias. As medidas defendidas incluem a identificação clara desse tipo de conteúdo e a proibição de sua monetização. A disseminação de “AI slop” de baixa qualidade tem despertado o alerta de especialistas, que temem que esse material polua o ambiente informativo e torne cada vez mais difícil para os usuários distinguir o que é verdadeiro do que é falso.
Empresas de inteligência artificial, como a xAI, de Elon Musk, responsável pelo chatbot Grok, também enfrentam pressão após a circulação online de milhares de imagens deepfake sexualizadas de mulheres e menores de idade.
Com informações do G1
