A mais recente encíclica do Papa Leão XIV sobre inteligência artificial, batizada de Magnifica Humanitas, traz uma observação que merece a atenção de tecnólogos e legisladores: “A tecnologia nunca é neutra.” O documento, cujo título significa “Humanidade Magnífica”, é descrito como um chamado à ação. Nele, todas as pessoas são convocadas a agir com coragem e solidariedade neste momento de transformação pela inteligência artificial, que a encíclica compara à Revolução Industrial em termos de impacto na vida humana.
Para o pontífice, a escolha que a IA nos apresenta está entre a Torre de Babel e a reconstrução da nossa humanidade comum. A metáfora da Torre de Babel remete à história bíblica onde os humanos buscaram construir uma estrutura que alcançasse os céus, mas tiveram seu projeto frustrado quando Deus os impediu de se entenderem. Foi uma busca por crescimento desenfreado, desvinculada de mandamentos divinos ou custos humanos, resultando em fracasso e atomização.
Em contraste, o Livro de Neemias oferece uma narrativa diferente. Nele, a reconstrução de Jerusalém após um período de violência e deslocamento se torna uma oportunidade para a humanidade demonstrar resiliência colaborativa. A encíclica observa:
A cidade renasce, não pela iniciativa de um homem, mas pela responsabilidade compartilhada de todos: homens, mulheres, sacerdotes, artesãos, chefes de família e jovens, todos desempenham um papel. É um empreendimento com Deus no centro, que reconstrói relacionamentos antes de reconstruir com pedras.
Essa comparação levanta uma questão crucial: qual caminho estamos trilhando? E qual deveríamos, como sociedade, escolher percorrer juntos?
A IA como produto comercial e a luta de investidores
Dois membros de comunidades religiosas e defensores do investimento socialmente responsável destacam que o Papa Leão XIV reforça um ponto central: a IA não é uma força da natureza ou uma entidade inefável. Em vez disso, ela é “ultimamente outro produto comercial”, surgindo num momento histórico em que o poder excessivo sobre o comércio e a sociedade está concentrado nas mãos de um número cada vez menor de pessoas. Essa é uma mensagem potente e que, segundo eles, os investidores institucionais já vêm agindo há anos.
A encíclica, nesse sentido, não desbrava um terreno totalmente novo, mas “ratifica um esforço de governança que já está em andamento, liderado não por estados ou organismos internacionais, mas por acionistas”. Quando governos falham em regulamentar de forma significativa e corporações não são confiáveis para agir além do próprio lucro, as pessoas ainda têm o direito e o dever de nos colocar no caminho certo.
Sistemas de IA estão sendo implementados em larga escala globalmente com pouca supervisão institucional. Segundo os autores, não existe um conselho de segurança para IA. A Comissão Federal de Comércio dos EUA tem jurisdição sobre práticas injustas, mas pouca autoridade sobre o design algorítmico. O Instituto Nacional de Padrões e Tecnologia publica guias que a maioria das empresas ignora, e a Lei de IA da UE, mesmo que parcialmente em vigor, aborda apenas uma pequena parte da superfície de implementação.
O papel dos acionistas na responsabilidade da IA
Nesse vácuo regulatório, investidores institucionais têm agido. Coalizões, como o Interfaith Center on Corporate Responsibility, que representa investidores com mais de 400 bilhões de dólares em ativos, têm apresentado resoluções nos últimos anos, exigindo transparência, avaliação de riscos e prestação de contas sobre a implementação da IA. Investidores institucionais seculares também se juntaram a essa causa, tratando as falhas na governança da IA como riscos materiais para os negócios.
Acionistas têm questionado gigantes da tecnologia como Alphabet, Amazon, Nvidia, Palantir e Uber, exigindo que a IA não seja usada para atos de violência ou violações dos direitos humanos. A relevância desse aspecto da governança corporativa foi tragicamente evidenciada nas primeiras horas da guerra contra o Irã, quando a IA foi utilizada para ajudar a identificar alvos para milhares de ataques de mísseis que causaram centenas de mortes.
Além disso, investidores desafiaram executivos da CVS e do UnitedHealth Group para garantir que a IA não seja empregada para prejudicar o bem-estar dos pacientes e a qualidade dos cuidados de saúde nos Estados Unidos. Em empresas como Meta e Microsoft, acionistas criticaram o impacto ambiental dos centros de dados de IA, que consomem enormes quantidades de energia e recursos hídricos valiosos, liberando grandes volumes de gases de efeito estufa. Nas indústrias criativas, investidores também levantaram preocupações com a liderança de empresas como a Disney.