A Inteligência Artificial (IA), que prometia revolucionar tantas esferas da vida, parece ter tropeçado logo no teste mais delicado de todos: a democracia. Uma pesquisa recente aponta que chatbots como o ChatGPT, o Gemini e até o Grok da xAI, cometeram falhas graves e disseminaram desinformação nas últimas eleições da Escócia, levantando um alerta urgente sobre o uso desregulado dessas ferramentas em processos eleitorais.
O think tank Demos, responsável pelo levantamento, revelou que os serviços de IA forneceram respostas incorretas ou enganosas em 34% das questões que lhes foram postas sobre as eleições escocesas. Isso não se resumiu a pequenos equívocos; tratou-se de invenção de escândalos, criação de candidatos inexistentes e até a indicação de datas de votação erradas. Um cenário digno de um filme de ficção científica distópico, mas que aconteceu de verdade.
Diante desse quadro preocupante, a Comissão Eleitoral britânica, responsável por supervisionar a integridade das eleições, manifestou sua preocupação e clamou por novas regulamentações legais para controlar a desinformação gerada por chatbots de IA. Eles alertam que, sem controles adequados, a IA pode se tornar uma ferramenta poderosa para minar a confiança pública e manipular resultados democráticos.
Erros da IA: de invenções a datas falsas
A investigação do Demos simulou perguntas que um eleitor comum faria a um chatbot sobre as eleições escocesas. Os resultados foram alarmantes. Os bots não apenas inventaram informações, como também as apresentaram com a usual confiança que caracteriza essas ferramentas, tornando difícil para um usuário desavisado distinguir a verdade da ficção. Para se ter uma ideia, a pesquisa incluiu diversas plataformas, cada uma com seu próprio conjunto de vieses e potenciais para desinformação. O estudo especificamente menciona:
“Os serviços de IA forneciam desinformação aos eleitores em 34% das perguntas que lhes eram feitas, o que levanta questionamentos preocupantes sobre a falta de regulamentação das plataformas de IA no Reino Unido.”
Imagine um eleitor buscando a data correta para votar e recebendo uma informação falsa, ou lendo sobre um candidato que nunca existiu e supostos escândalos que são pura invenção. Isso não apenas confunde o público, mas mina a base de um processo democrático, que depende de informações precisas e transparentes.
O estudo aponta para problemas como a falta de atribuição de fontes, a incapacidade de distinguir fatos de opiniões e a tendência de alucinação – um termo técnico para quando a IA gera informações falsas que soam plausíveis. Esses comportamentos, antes vistos como curiosidades ou falhas menores em outros contextos, ganham uma dimensão crítica quando se trata de eleições.
A pressão por regulamentação e o cenário global
A reação da Comissão Eleitoral britânica é um reflexo de uma preocupação crescente em nível global. Governos e organizações civis em diversos países têm debatido a necessidade de regulamentar a IA, especialmente em áreas sensíveis como a política e a segurança nacional. No Brasil, por exemplo, o debate sobre a regulamentação da IA avançou no Congresso, com discussões que buscam equilibrar inovação e segurança.
A questão principal é como criar salvaguardas sem sufocar o desenvolvimento tecnológico. A IA tem um potencial imenso para o bem social, desde a medicina até a educação. No entanto, se usada de forma irresponsável, pode se tornar uma arma perigosa contra a estabilidade democrática. Os próprios desenvolvedores de IA, como a OpenAI, criadora do ChatGPT, e a Google, por trás do Gemini, afirmam estar cientes dos riscos e comprometidos em desenvolver sistemas mais seguros. Contudo, a velocidade do avanço da tecnologia muitas vezes supera a capacidade dos marcos regulatórios de acompanhá-la.
Um dos desafios é a identificação do conteúdo gerado por IA. À medida que as ferramentas se tornam mais sofisticadas, torna-se cada vez mais difícil para o olho humano distinguir um texto, imagem ou áudio verdadeiro de um criado artificialmente. Isso abre a porta para campanhas de desinformação ainda mais elaboradas e difíceis de combater.
O caso escocês serve como um alerta para eleições futuras em todo o mundo. Com a proliferação da IA, a capacidade de gerar e disseminar desinformação aumentou exponencialmente. As próximas eleições, sejam elas municipais, estaduais ou nacionais, serão um teste crucial para a capacidade das sociedades de se defenderem contra essa nova ameaça digital. Será que teremos mecanismos eficazes para garantir que a tecnologia seja uma aliada da democracia, e não sua algoz?