China quer regular ferramentas de IA que simulam humanos e interagem emocionalmente com usuários, visando segurança e ética
O órgão regulador cibernético da China divulgou, neste sábado (26), para consulta pública, um conjunto de regras para reforçar a supervisão de serviços de inteligência artificial (IA) projetados para simular personalidades humanas e envolver os usuários em interações emocionais. A medida demonstra o esforço do governo chinês em lidar com a rápida expansão da IA voltada ao consumidor, priorizando requisitos éticos e de segurança.
As regras propostas se aplicam a produtos e serviços de IA oferecidos ao público na China que apresentam características simuladas de personalidade humana, padrões de pensamento e estilos de comunicação. Esses sistemas interagem com os usuários de forma emocional, utilizando texto, imagens, áudio, vídeo ou outros meios.
A minuta regulatória exige que os provedores alertem os usuários sobre o uso excessivo e intervenham caso sinais de dependência sejam detectados. Além disso, os provedores serão responsáveis pela segurança durante todo o ciclo de vida do produto, implementando sistemas para revisão de algoritmos, segurança de dados e proteção de informações pessoais.
Um ponto crucial da proposta é a atenção aos riscos psicológicos. Os provedores deverão identificar o estado emocional dos usuários e avaliar seu nível de dependência do serviço. Se forem identificadas emoções extremas ou comportamento viciante, medidas de intervenção serão necessárias, conforme o documento.
As regras também estabelecem limites para o conteúdo gerado, proibindo a produção de material que coloque em risco a segurança nacional, dissemine boatos ou promova violência ou obscenidade. A proposta visa garantir que a IA seja utilizada de forma responsável e segura para os cidadãos.
📱Baixe o app do g1 para ver notícias em tempo real e de graça
A brasileira que viraliza traduzindo o caos da IA: “As pessoas estão perdidas”
Veja os vídeos que estão em alta no g1
Veja mais:
O ChatGPT está nos deixando burros?
IA: 4 perguntas para se fazer antes de usar qualquer ferramenta de inteligência artificial
Com informações do G1
