A bolha que envolvia as redes sociais sempre foi terreno fértil para discussões acaloradas, mas um novo fenômeno alarmante está emergindo: a IA sendo usada para amplificar o discurso de ódio e a desinformação. O que antes era uma preocupação local, agora ganha contornos globais e revela uma teia complexa onde jovens empreendedores de países em desenvolvimento, como Sri Lanka e Paquistão, estão lucrando ao criar e disseminar conteúdo ofensivo.
Imagine navegar por qualquer feed do Facebook no Reino Unido. Entre as inevitáveis fotos de bebês e as trivialidades da vizinhança, é cada vez mais comum topar com perfis que exibem orgulhosamente uma bandeira do Reino Unido e nomes genéricos como “Grã-Bretanha Hoje”. Estes não são meros grupos de entusiastas. São frentes que, à primeira vista, se apresentam como o trabalho de patriotas britânicos, mas que são operados de muito longe.
Centenas, talvez milhares, dessas contas inundam a plataforma com mensagens inflamatórias. Em muitos casos, o conteúdo é gerado por inteligência artificial. Um vídeo típico, por exemplo, mostra um homem de meia-idade lamentando que seu café local parou de servir carne de porco “apenas para não ofender as pessoas”. Outro post, da mesma conta, exibe imagens sépia da Londres vitoriana, evocando uma nostalgia por um tempo em que a cidade era “inglesa, de primeiro mundo e bonita”. Ao lado dessa nostalgia reacionária, é comum encontrar memes que rotulam o Islã como um “câncer”, condenam muçulmanos rezando em público como uma “invasão do Ocidente” ou promovem a infame “teoria da grande substituição”, que alega um plano deliberado para substituir populações brancas por imigrantes não-brancos.
A Origem Inesperada do Discurso de Ódio Online
A investigação do Bureau of Investigative Journalism revelou uma dinâmica surpreendente por trás desses ataques digitais. Em vez de extremistas britânicos operando em porões escuros, estamos falando de uma rede operada, em grande parte, por jovens empreendedores no Sri Lanka e no Paquistão. Esses indivíduos, muitas vezes com menos de 30 anos, gerenciam dezenas ou até centenas de páginas do Facebook, cada uma adaptada para atiçar o ódio e a polarização em diferentes países ocidentais.
O modus operandi é relativamente simples: eles identificam nichos de descontentamento e usam ferramentas de IA para gerar conteúdo que ecoa esses sentimentos. A monetização vem através de anúncios e do engajamento gerado por postagens virais. Quanto mais raiva e indignação, mais cliques, mais compartilhamentos e, consequentemente, mais dinheiro. Essa é uma nova fronteira para a desinformação, onde o lucro é o motor. Não é uma questão de ideologia política, mas de pura oportunidade de negócio.
“É surpreendente ver como o ódio pode ser uma commodity tão lucrativa. Esses jovens não estão necessariamente alinhados com as ideologias que promovem; eles estão apenas capitalizando a polarização existente e a facilidade de criação de conteúdo por IA”,
afirma Niamh McIntyre, repórter sênior do Bureau of Investigative Journalism e autora da pesquisa. Ela destaca que a barreira de entrada é baixa: com acesso a um computador e à internet, qualquer um pode se juntar a essa “indústria” do ódio.
O Brasil, por sua vez, não está imune a essa dinâmica. Embora a investigação se concentre no Reino Unido, mecanismos semelhantes podem estar em operação aqui, com atores externos ou internos usando táticas parecidas para influenciar o debate público e a opinião política. A disseminação de notícias falsas e a polarização ideológica são temas presentes na realidade brasileira, e a capacidade da IA de escalar esse problema é uma preocupação crescente para a democracia e o tecido social.
O Papel da IA: Uma Espada de Dois Gumes
A inteligência artificial tem um potencial imenso para o bem, mas essa pesquisa mostra seu lado sombrio. Ferramentas de IA generativa, como modelos de linguagem e criadores de imagens, podem produzir textos, vídeos e imagens extremamente realistas e persuasivos em questão de segundos. Isso permite que os operadores dessas redes churnem uma quantidade massiva de conteúdo, superando as capacidades de moderação das plataformas.
A detecção é um desafio contínuo. As plataformas de mídias sociais têm dificuldades para acompanhar a velocidade e a sofisticação com que o conteúdo gerado por IA é produzido. Além disso, a atribuição da origem é complexa. Mesmo que uma conta seja rastreada até um país como o Paquistão, é difícil responsabilizar legalmente os indivíduos que operam essas redes transnacionais.
A questão não é apenas tecnológica, mas também social e econômica. Nesses países em desenvolvimento, onde as oportunidades de emprego são limitadas, a “economia do engajamento” das redes sociais oferece uma fonte de renda, ainda que questionável moralmente. É um dilema que expõe a complexidade de combater a desinformação em um mundo hiperconectado.
O que nos resta é a necessidade de um olhar mais crítico sobre o que consumimos online. A familiaridade com os símbolos nacionais ou a linguagem local não é garantia de autenticidade. Em um cenário onde máquinas são treinadas para imitar a voz humana e amplificar divisões, a vigilância se torna a nossa principal defesa contra a máquina de ódio digital.