A cada poucos séculos, a forma como a informação se move muda radicalmente a maneira como as sociedades se governam. Pense na prensa de Gutenberg, que difundiu a alfabetização, impulsionou a Reforma e, por fim, abriu caminho para os governos representativos. Depois veio o telégrafo, que permitiu administrar nações vastas e, com isso, acelerou o crescimento do estado burocrático moderno. Mais tarde, a mídia de massa criou audiências nacionais compartilhadas, alimentando a democracia como a conhecemos.
Agora, estamos no limiar de outra transformação monumental. Mais rápido do que muitos percebem, a Inteligência Artificial (IA) está se tornando a principal interface através da qual formamos nossas crenças e participamos do autogoverno democrático. Se deixada sem supervisão, essa mudança pode tensionar ainda mais instituições já fragilizadas. Mas também pode, quem sabe, resolver problemas antigos, como o baixo engajamento cívico e a polarização crescente. O que acontecerá a seguir depende de decisões de design que já estão sendo tomadas, estejamos cientes ou não.
A Camada Epistêmica: Como a IA Modela Nossas Crenças
Comecemos pelo que poderíamos chamar de camada epistêmica: como chegamos a saber as coisas. As pessoas dependem cada vez mais da IA para descobrir o que é verdade, o que está acontecendo e em quem confiar. A busca online já é, em grande parte, mediada pela IA. A próxima geração de assistentes de IA irá sintetizar informações, organizá-las e apresentá-las com uma autoridade que desafia o discernimento. Para um número crescente de pessoas, perguntar a uma IA se tornará a forma padrão de formar opiniões sobre um candidato, uma política ou uma figura pública.
“Quem controla o que esses modelos dizem, portanto, tem uma influência crescente sobre o que as pessoas acreditam.”
Essa frase, embora não diretamente atribuída, sintetiza a preocupação central de especialistas em ética e tecnologia. É um ponto crucial: se a IA se torna o filtro primário da realidade, quem programa esses filtros detém um poder imenso.
Agentes Pessoais de IA e o Risco da Mediação Oculta
A tecnologia sempre moldou a forma como os cidadãos interagem com a informação. Mas um novo problema logo surgirá com os agentes pessoais de IA, sistemas que podem mudar não apenas como as pessoas recebem informações, mas como agem sobre elas. Imagine ter um assistente digital que realiza pesquisas, elabora comunicações, destaca causas e faz lobby em seu nome. Esses sistemas informarão decisões cruciais como em quem votar, quais organizações apoiar ou como responder a um aviso governamental.
Eles começarão, de forma significativa, a mediar o relacionamento entre os indivíduos e as instituições que os governam. Já vimos nas redes sociais o que acontece quando algoritmos otimizam para o engajamento em detrimento da compreensão. As plataformas não precisam ter uma agenda política explícita para produzir polarização e radicalização. Um agente que conhece suas preferências e suas ansiedades – um programado para mantê-lo engajado – representa os mesmos riscos. E, neste caso, os riscos podem ser ainda mais difíceis de detectar.
“Um agente apresenta-se frequentemente como seu defensor, fala por você, age em seu nome e pode conquistar confiança precisamente por meio dessa intimidade.”
A personalização excessiva pode criar bolhas de informação herméticas, onde o usuário é exposto apenas a visões que corroboram as suas.
O Cenário Coletivo: Um Campo Minado Digital
Agora, vamos ampliar o foco para o coletivo. Agentes de IA e humanos em breve poderão participar dos mesmos fóruns, onde pode ser impossível distingui-los. Mesmo que cada agente de IA individual fosse bem projetado e alinhado aos interesses de seu usuário, as interações de milhões de agentes poderiam produzir resultados que ninguém individualmente desejava ou escolheu. Por exemplo, pesquisas mostram que agentes que não exibem viés individual ainda podem gerar vieses coletivos em larga escala, levando a resultados inesperados e potencialmente negativos para a coesão social.
Além disso, há o que esses agentes fazem por seus usuários. Uma esfera pública onde todos têm um agente personalizado, sintonizado com suas visões existentes, não é, em última análise, uma esfera pública. É uma coleção de mundos privados, cada um internamente coerente, mas coletivamente inóspito ao tipo de deliberação compartilhada que a democracia exige desesperadamente. Essa fragmentação da realidade pode minar a capacidade de construir consensos e de resolver problemas coletivamente.
A Textura da Cidadania em Transformação
Juntas, essas três transformações – em como sabemos, como agimos e como nos envolvemos na governança coletiva – equivalem a uma mudança fundamental na textura da cidadania. Num futuro próximo, as pessoas formarão suas visões políticas através de filtros de IA, exercerão sua agência cívica através de agentes de IA e participarão de instituições e discussões públicas que serão moldadas pelas interações de milhões de tais agentes.
A democracia de hoje não está pronta para isso. Nossas instituições foram projetadas para um mundo onde o poder era exercido visivelmente, a informação viajava lentamente o suficiente para ser contestada e a realidade parecia mais compartilhada, ainda que imperfeitamente. Tudo isso já vinha se desgastando muito antes da chegada da IA Generativa. E, no entanto, esta não precisa ser uma história de declínio. Evitar esse desfecho exige que projetemos algo melhor, com propósito e ética.
Como a IA Pode Reduzir a Polarização?
Olhando para a camada informacional, as empresas de IA devem intensificar os esforços existentes para garantir que as saídas dos modelos sejam verdadeiras, verificáveis e imparciais. Elas também devem explorar algumas descobertas iniciais promisoras que indicam que modelos de IA podem ajudar a reduzir a polarização. Uma avaliação de campo recente sobre as verificações de fatos geradas por IA no X (antigo Twitter) descobriu que pessoas com uma variedade de pontos de vista políticos consideraram as notas escritas por IA mais úteis e menos enviesadas do que as escritas por humanos.
Isso sugere que a tecnologia, se bem aplicada, pode ser uma ferramenta para o diálogo, não apenas para a discórdia. Contudo, é um equilíbrio delicado. A capacidade de um modelo de IA de identificar e apresentar fatos de forma neutra pode ser um antídoto contra a desinformação, mas a criação de “realidades alternativas” por algoritmos manipulados é um risco sempre presente. A transparência na forma como esses modelos são treinados e operam será crucial para construir a confiança necessária.
O Papel do Desenvolvedor e do Cidadão na Era da IA
A discussão sobre a IA e a democracia transcende o ambiente acadêmico e as grandes corporações de tecnologia. O desenvolvedor, no seu dia a dia, deve considerar as implicações éticas de cada linha de código. Quais vieses podem estar sendo inadvertidamente embutidos nos algoritmos? Como garantir que as ferramentas criadas promovam o acesso à informação de qualidade e não aprofundem divisões sociais?
No Brasil, onde a discussão sobre democracia digital e regulação de plataformas ainda engatinha, as lições aqui são ainda mais urgentes. A LGPD já aponta para a necessidade de atenção à privacidade e ao uso de dados, mas o impacto da IA na formação de opinião pública e na integridade de processos eleitorais ainda é um campo pouco explorado. A atuação de tribunais como o Tribunal Superior Eleitoral (TSE) em monitorar a desinformação durante campanhas políticas será ainda mais desafiadora com a disseminação de agentes de IA.
Em última análise, o futuro da nossa democracia pode não estar apenas nas mãos de políticos, mas também nas linhas de código e nas escolhas de design dos sistemas de IA. Será que conseguiremos guiar essa revolução tecnológica para fortalecer o debate público e a participação cívica, ou permitiremos que ela nos empurre para uma era de fragmentação e desconfiança sem precedentes?