Um recente ciberataque expôs informações sobre uma empresa que gerencia centenas de perfis fraudulentos no TikTok, com o objetivo de impulsionar as vendas de seus clientes, conforme uma matéria divulgada na quarta-feira (17) pelo portal de notícias tecnológicas 404 Media. A empresa, chamada Doublespeed, utiliza avatares criados por inteligência artificial (IA) como substitutos de influenciadores em suas campanhas publicitárias. Em seu site, afirmam: “Nunca pague por um ser humano novamente”.
Interações simuladas são uma prática admitida pela empresa, que confessa criar interações artificiais em torno dos temas de interesse de seus clientes, visando aumentar a visibilidade nas plataformas e alcançar usuários reais. Como as redes sociais proíbem esse tipo de interação, a Doublespeed utiliza uma quantidade considerável de dispositivos móveis para simular que estão sendo manuseados por usuários autênticos.
A reportagem destaca que a companhia opera o que são conhecidos como “fazendas de cliques” ou “fazendas de celulares”, com o hacker tendo conseguido controlar mais de 1.100 dispositivos da Doublespeed. Ele descobriu, em 31 de outubro, uma vulnerabilidade que permitiu identificar os modelos dos smartphones, as contas falsas ativas no TikTok e os produtos que estavam sendo divulgados.
Das 400 contas do TikTok da Doublespeed analisadas pela reportagem, 200 estavam engajadas na promoção de produtos, muitas vezes sem esclarecer que o conteúdo era gerado por IA. Os itens promovidos incluíam aplicativos voltados para aprendizado de idiomas, relacionamentos e até mesmo bíblias, além de suplementos e dispositivos de massagem. Vários perfis fraudulentos usaram um formato que apresentava diversas imagens criadas por IA em uma única postagem, acompanhadas de legendas promocionais, conforme relatado pelo 404 Media. Um dos perfis chegou a publicar vídeos gerados por IA.
As diretrizes do TikTok estabelecem que conteúdos criados ou modificados por IA devem ser claramente sinalizados pelos criadores. A plataforma já removeu vídeos mencionados na matéria do 404 Media. Em outubro, a Doublespeed arrecadou US$ 1 milhão (equivalente a R$ 5,5 milhões) de um fundo de investimento gerido pela Andreessen Horowitz e já anunciou planos para expandir suas operações com perfis de IA para outras redes sociais, como Instagram, X e Reddit.
