Empresa usa inteligência artificial para criar perfis falsos no TikTok e promover produtos, sem revelar que o conteúdo é gerado por IA
Um ataque hacker revelou detalhes de uma operação que utilizava centenas de perfis falsos no TikTok para promover produtos de diversos clientes. A reportagem foi publicada pelo site de notícias sobre tecnologia 404 Media na quarta-feira (17).
A empresa responsável, Doublespeed, cria personagens virtuais com inteligência artificial para substituir influenciadores em campanhas publicitárias. Em seu site, a empresa se promove com a frase: “Nunca pague por um ser humano de novo”.
A Doublespeed admite simular interações online para aumentar a visibilidade de determinados assuntos nas plataformas digitais, buscando alcançar um público maior. Para contornar as políticas das redes sociais, que proíbem interações artificiais, a empresa utiliza centenas de celulares para simular o uso por usuários reais – as chamadas “fazendas de cliques” ou “fazendas de celulares”, conforme detalhado pelo 404 Media. O hacker conseguiu controlar mais de 1.100 desses dispositivos.
De acordo com o site, o invasor descobriu, em 31 de outubro, uma brecha que permitiu identificar os modelos dos smartphones, as contas falsas em operação no TikTok e os produtos que estavam sendo promovidos. Das 400 contas da Doublespeed analisadas, 200 promoviam produtos, muitas vezes sem indicar que o conteúdo era gerado por IA. Entre os itens divulgados, estavam aplicativos de idiomas, de relacionamento e até mesmo uma Bíblia, além de suplementos e massageadores.
Vários perfis falsos utilizavam um formato com múltiplas imagens geradas por IA em uma única postagem, acompanhadas de legendas promocionais. Alguns também publicavam vídeos criados por inteligência artificial. As regras do TikTok exigem que conteúdos gerados ou alterados por IA sejam devidamente sinalizados, e a plataforma removeu vídeos identificados pela reportagem do 404 Media.
A Doublespeed recebeu um investimento de US$ 1 milhão (R$ 5,5 milhões) do fundo Andreessen Horowitz em outubro e já anunciou planos para expandir seus perfis de IA para outras plataformas, como Instagram, X (antigo Twitter) e Reddit.
Com informações do G1
