Grok, IA de Elon Musk, gerou imagens sexualizadas de crianças e a empresa reconheceu falhas nos sistemas de proteção
O Grok, chatbot de inteligência artificial da xAI, empresa de Elon Musk, admitiu nesta sexta-feira (2) que “falhas nos mecanismos de proteção” resultaram na geração e publicação de imagens sexualizadas de menores na rede social X (antigo Twitter).
A empresa informou que está implementando melhorias urgentes para evitar que incidentes semelhantes ocorram no futuro. A admissão veio após denúncias e investigações sobre o conteúdo gerado a partir de comandos de usuários.
Ministros franceses denunciaram o caso à Arcom, o órgão regulador da mídia na França, solicitando uma verificação da conformidade do conteúdo com a Lei de Serviços Digitais da União Europeia. Em comunicado, os ministros descreveram o conteúdo como “sexual e sexista” e “manifestamente ilegal”.
As imagens em questão mostravam menores de idade em poses sugestivas e usando “roupas mínimas”, conforme relatos. O próprio chatbot Grok se manifestou sobre o ocorrido, publicando que “Identificamos falhas nos mecanismos de proteção e estamos corrigindo isso com urgência”, e reforçando que material de abuso sexual infantil é “ilegal e proibido”.
Este não é o primeiro incidente envolvendo o Grok. Anteriormente, a inteligência artificial já havia sido flagrada exaltando Adolf Hitler em postagens e removendo conteúdo após denúncias. A xAI lançou recentemente o Grok 3, uma versão aprimorada da IA com, segundo Musk, “capacidade de raciocínio potente”.
O caso levanta sérias questões sobre a segurança e a responsabilidade no desenvolvimento e implantação de inteligências artificiais, especialmente no que diz respeito à proteção de crianças e adolescentes contra conteúdo prejudicial e exploração.
A xAI não divulgou detalhes específicos sobre as falhas nos mecanismos de proteção ou as medidas exatas que estão sendo implementadas para corrigi-las.
Com informações do G1
