Falsos humanos são construídos com ferramentas de IA e atuam com produção em escala industrial, com roteiros adaptados para diferentes idiomas
Reprodução / TikTok
“Ela não existe, mas paga meu cartão todo mês”. “Tenho um plano infalível para o milhão”. As frases, retiradas de tutoriais publicados nas redes sociais, expõem a engrenagem de um mercado em ascensão no Brasil e no mundo: o dos avatares gerados por inteligência artificial (IA).
Embora não existam no mundo real, esses personagens hiper-realistas acumulam milhares de seguidores em redes como TikTok, Youtube e Instagram, atuando como vendedores, influenciadores e até falsos especialistas, transformando canais automatizados em um negócio lucrativo.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
Os produtores ganham dinheiro de diferentes formas: monetização de vídeos, comissões sobre vendas em marketplaces, divulgação de produtos digitais e até a valorização de perfis que posteriormente podem ser revendidos ou utilizados para outros objetivos em razão do alto engajamento.
Diferentemente dos chatbots, os influenciadores de IA simulam pessoas reais e interações humanas em vídeos, lives e anúncios. Em alguns casos, promovem produtos de saúde, oferecem conselhos ou divulgam tratamentos sem comprovação científica.
Agora no g1
Fernando Ferreira, pesquisador do NetLab da Universidade Federal do Rio de Janeiro (UFRJ) e doutor em IA, explica que a estratégia consiste em converter a atenção dos usuários em receita.
Com o suporte dos algoritmos, que direcionam os vídeos a públicos específicos, a produção desses avatares chega justamente a usuários que procuram respostas para problemas específicos ou demonstram interesse em determinados temas.
Já com ferramentas de automação cada vez mais acessíveis, a produção ganhou escala industrial.
“Antes a automação era só um ato de curtir, compartilhar, agora pode dar voz, pode dar imagem, então isso é uma coisa mais personalizada e mais difícil ainda do usuário conseguir identificar que aquilo é realmente uma campanha, por exemplo, alguma coisa nesse sentido”, afirma Ferreira.
Da saúde ao entretenimento infantil
Mapeamentos realizados pela organização Ctrl Z mostram que os nichos de atuação variam de conteúdos históricos (como o período escravocrata) e infantis a narrativas apelativas, como a de um suposto fazendeiro viúvo em busca de uma esposa. No entanto, a manipulação de sentimentos básicos é o elemento comum a todos eles.
“Todos eles, de algum jeito, têm uma coisa muito em comum que é mexer com o medo das pessoas, com a curiosidade, com a esperança. Nos de saúde tem essa coisa do senso de urgência. Tipo: faça isso agora, não faça isso, compartilhe com alguém”, aponta Luã Cruz, diretor de litigância da Ctrl Z.
Segundo Cruz, a produção em massa utiliza o mesmo roteiro traduzido para diferentes idiomas e encenado por dezenas de avatares sintéticos. Em tutoriais publicados nas plataformas, criadores desses perfis citam que um único roteiro pode ser traduzido e encenado por 20 avatares diferentes para atingir países e públicos distintos.
No YouTube, por exemplo, a estratégia serve também para cumprir os requisitos de monetização (como as 4 mil horas de exibição exigidas e mil inscritos) por meio do envio massivo de vídeos genéricos conhecidos como slop – conteúdos de baixa qualidade gerados por IA. Para Cruz, o slop não necessariamente é esteticamente ruim, mas são “IAs mal feitas” em relação às informações, com erros históricos e desinformação, e que utilizam conteúdos sensacionalistas para atrair públicos vulneráveis.
Atingida a meta, o canal pode ser redirecionado para outros nichos, com aposta em infoprodutos (como a venda de ebooks de receitas para curar determinadas doenças) ou até vendido para uso em campanhas políticas.
O impacto mais grave, contudo, recai sobre a saúde. “Vemos uma série de comentários de pessoas que de fato existem e que falam que estão seguindo aquele tratamento, que abandonaram o tratamento tradicional para seguir, enfim, aquele tratamento que [a IA] sugere”, diz o integrante da Ctrl Z.
A ilusão da hiper-realidade
Se antes imperfeições em mãos, vozes robotizadas ou cenários distorcidos denunciavam a natureza sintética do vídeo, o avanço tecnológico reduziu drasticamente essas falhas. Diante de conteúdos consumidos em telas pequenas de celular, os especialistas dizem que transferir ao usuário a responsabilidade de checar a veracidade do material tornou-se inviável.
“Em um olhar mais atento ainda conseguimos ver se há sincronia entre a voz e a boca. São imagens muito brilhantes, é uma coisa ainda um pouco robotizada, menos do que já foi, mas ainda tem uma coisa meio robotizada. Mas são coisas muito imperceptíveis”, diz Cruz.
“Cada vez vai estar melhor. Tem alguns detalhes, como observar um texto que não fica bem formatado no fundo, coisas milagrosas também. Uma pessoa que você nunca viu na vida e agora virou um influenciador”, diz Ferreira. Mas ele pondera: “acho que a responsabilidade não é do usuário final. A gente tem que entrar em uma maneira de monitoramento e de clara intenção das plataformas de indicar que aquilo ali é um conteúdo de IA”.
Os especialistas defendem uma sinalização obrigatória (e em destaque) para esse tipo de conteúdo, além de uma atuação das plataformas na moderação de conteúdos monetizados que são gerados por IA para proteger os usuários de manipulações e evitar crimes.
Para os especialistas, a responsabilização deve recair sobre as empresas de tecnologia. Atualmente, a maioria das plataformas exige apenas uma autodeclaração do criador indicando o uso de IA, sem mecanismos de verificação eficazes.
“A plataforma em si não é responsabilizada se está vinculando o conteúdo porque ela diz: ‘eu não tenho como saber, quem tem que dizer é o usuário’. Mas quem está fazendo a divulgação, quem está fazendo o canal é a própria plataforma. A ação de recomendação do conteúdo é da plataforma. A plataforma tende a passar a responsabilidade para a ponta, e dizer assim: ‘eu me protejo disso dizendo que ele não pode fazer, mas se ele faz e eu recomendo, paciência’. Então é esse o problema”, afirma Ferreira.
Crimes e relações no ambiente digital
Do ponto de vista jurídico, o uso de ferramentas avançadas não isenta os criadores de responsabilidade criminal. A advogada e especialista em cibersegurança Gisele Kauer destaca que a atuação de perfis sintéticos pode se enquadrar da mesma forma em crimes já previstos no Código Penal Brasileiro, como estelionato, fraude, exercício ilegal da medicina e falsidade ideológica. “O crime continua sendo crime independente do meio utilizado.”
Além dos impactos financeiros e jurídicos, a proliferação desses avatares hiper-realistas criados por inteligência artificial transforma a percepção da realidade. Diogo Cortiz, professor da PUC-SP e que lidera um grupo que pesquisa intimidade artificial, aponta que a criação de padrões estéticos inalcançáveis e de interações afetivas simuladas pode aprofundar a insegurança humana, afetando tanto quem consome o conteúdo, como também quem produz.
Para ele, a IA é uma “caixa de multiversos” capaz de fabricar realidades paralelas que intensificam distorções sociais já iniciadas pelas redes sociais, como no caso dos famosos filtros utilizados em fotos.
“Começamos a criar realidades que são verossímeis, que poderiam ser possíveis, mas que não são. E isso traz uma certa insegurança, um certo desejo muito maior do que a gente tinha antes”, diz o professor e pesquisador. “Temos modelos, influencers, com um corpo perfeito que é anatomicamente quase impossível chegar nele, tudo feito por inteligência artificial. Então, se a gente já se comparava com uma realidade produzida por pessoas que eram reais, imagina com uma questão sintética?”, indaga ele.
Para a advogada, o problema não é o uso de personagens de IA em si para ganhar dinheiro, mas a utilização deles para induzir usuários ao erro e obter vantagens financeiras ilícitas.
O que dizem as plataformas
Procurado, o YouTube informou que todo conteúdo na rede, incluindo o gerado por IA, deve seguir as diretrizes da comunidade, o que inclui regras contra desinformação médica, que proíbem dados incorretos capazes de gerar danos à saúde.
A plataforma também disse que exige que criadores divulguem o uso de mídia alterada ou sintética fotorrealista e que insere rótulos nesses vídeos para alertar os espectadores. “Embora dependamos da autodivulgação do criador, o YouTube usa tecnologia e análise humana para identificar conteúdos que deveriam ter sido rotulados, mas não foram”, afirmou a empresa, ressaltando que pode aplicar os avisos de forma proativa nos casos em que o criador não faz a autodeclaração.
O Youtube diz, ainda, que materiais que violam as diretrizes estão sujeitos à remoção e que o descumprimento recorrente pode levar à exclusão do conteúdo e à suspensão do canal do seu programa de parcerias (YPP).
O TikTok, em resposta à DW Brasil, também afirmou que exige que criadores sinalizem conteúdos gerados por IA e disse que proíbe vídeos que induzam o público ao erro. A plataforma disse também disponibilizar rótulos para informar aos espectadores quando um conteúdo foi criado com o uso de IA. Já em relação à monetização, o TikTok afirma que perfis que violarem as regras podem ter a conta removida de forma permanente ou temporária do Programa de Recompensas do Criador, dependendo da gravidade da violação.
A Meta, responsável pelo Instagram e pelo Facebook, informou que não iria comentar.
