No 382º dia de pontificado, o papa Leão XIV lançou, nesta segunda-feira (25/5), a sua primeira encíclica e escolheu um tema do presente e do futuro: a inteligência artificial (IA). Intitulado Magnifica humanitas ("Magnífica humanidade", em latim), o documento propõe a salvaguarda da pessoa humana na era da IA e adverte sobre o risco de a nova tecnologia contribuir para a desumanização e o reforço do poder de quem controla recursos econômicos, além do agravamento das desigualdades.
- O arsenal de IA nas eleições para promover candidatos — e atacar adversários
- Papa Leão XIV pede perdão pela demora da Igreja em condenar a escravidão
Ao mesmo tempo, Leão XIV fez um raro mea-culpa da Igreja Católica em relação à escravidão e pediu perdão. "Não podemos negar ou minimizar o atraso com que a Igreja e a sociedade condenaram o flagelo da escravatura", escreveu o líder católico. "É impossível não sentir profunda dor, ao considerar o enorme sofrimento e humilhação que a escravatura significou para tantas pessoas, em contraste com a sua limitada dignidade, amada infinitamente pelo Senhor. Assim sendo, em nome da Igreja, peço sinceramente perdão."
Com 130 páginas, Magnifica humanitas foi divulgada no 135º aniversário da Rerum novarum, a enciclica escrita por Leão XIII que serviu de inspiração para o sucessor e abordou a condição dos operários. "Na era da inteligência artificial, em que a dignidade humana corre o risco de ser ofuscada por novas formas de desumanização, temos o dever urgente de permanecer profundamente humanos, salvaguardando com amor essa magnífica humanidade, que nos foi plenamente dada e manifestada em Cristo, e que jamais alguma máquina poderá substituir no seu esplendor", afirma Leão XIV no documento. "Não podemos considerar a IA moralmente neutra".
O chefe da Igreja Católica defende o desarmamento da inteligência artificial. "Desarmar a IA significa subtraí-la à lógica da competição armada, que hoje não é apenas militar, mas também econômica e cognitiva. Trata-se da corrida ao algoritmo mais eficaz e ao banco de dados mais vasto, com o objetivo de consolidar uma vantagem geopolítica ou comercial sobre todos os outros", observa. Leão XIV convidou especialistas em IA, incluindo Christopher Olah, cofundador da empresa Anthropic, para a apresentação do documento à imprensa, na Cidade do Vaticano.
Visão anti-humana
De acordo com a encíclica do papa norte-americano, os programadores (de IA) assumem um "particular peso ético e espiritual". "Cada escolha feita no projeto expressa uma visão da humanidade", lembra. Leão XIV adverte que o risco não é apenas o mau uso de tecnologias. Ele adverte que o paradigma tecnocrático em que a humanidade está imersa, potencializado pela revolução digital e pela IA, pode normalizar e fazer parecer justa uma visão anti-humana, segundo a qual a plenitude da vida consistiria em possuir mais.
Doutor em teologia pela Università Pontificia Gregoriana (Roma) e professor do Departamento de Teologia da Pontifícia Universidade Católica do Rio de Janeiro (PUC-RJ), Paulo Fernando Carneiro de Andrade afirmou ao Correio que não considera uma surpresa a abdordagem da IA por Leão XIV. "Na tradição da Igreja, a instituição sempre se colocou sobre temas que, em cada momento da história, despertava questões que afetavam não só a religião em si e a relação com Deus, mas também a humanidade", disse. "Desde Leão XIII, com o surgimento da 'doutrina social da Igreja', uma série de encíclicas, a partir da Rerum novarum, ocupou-se dos temas cadentes daquele momento histórico. Se o papa Francisco toma como grande desafio a crise socio-ambiental, em continuidade, Leão toma como grande desafio lidar com a IA."
O teólogo avalia que a Magnifica humanitas trata de maneira muito apropriada o tema da IA. "Ela não demoniza o assunto, destaca que a IA pode ser um bem para humanidade, mas também coloca todos os seus riscos. Sobretudo quando o desenvolvimento da IA é feito por grandes grupos privados e conglomerados econômicos, podendo levar à maior concentração de poder em detrimento da humanodade", explicou Andrade.
Ele sublinha que a encíclica destaca a relação entre IA e democracia, os pobres e o futuro da humanidade. "O documento chama a atenção para o fato de que a inteligência artificial não pode ser comparada à inteligência humana. São diferentes. A humana compreende não só a capacidade de organizar dados, mas também a inteligência emocional e afetiva, e a experiência de vida", conclui o professor da PUC-RJ.
TRECHOS // MAGNIFICA HUMANITAS
"Na era da inteligência artificial, em que a dignidade humana corre o risco de ser ofuscada por novas formas de desumanização, temos o dever urgente de permanecer profundamente humanos."
"Não podemos limitar-nos a invocar a moralização da máquina, o chamado 'alinhamento' da IA com os valores humanos, sem termos a coragem de impor uma condição adicional: a possibilidade de discutir o código ético a ser utilizado, submetendo-o a critérios de justiça social partilhada. Caso contrário, quem controla a IA imporá a própria visão moral."
"Para salvaguardar a pessoa humana na era da inteligência artificial, devemos voltar a refletir sobre o bem comum, a destinação universal dos bens, a subsidiariedade, a solidariedade e a justiça social."
"As inovações tecnológicas — entre elas a inteligência artificial — não são neutras: podem aumentar a participação e a justiça, ou, pelo contrário, agravar desigualdades, controle e exclusão."
"Tal como acontece com qualquer grande avanço tecnológico, a IA tende a reforçar sobretudo o poder daqueles que já dispõem de recursos económicos, competências e acesso aos dados."
"O risco não é apenas o do mau uso de algumas tecnologias, mas que o paradigma tecnocrático em que estamos imersos, potencializado pela revolução digital e pela IA, faça parecer justa e normal uma visão anti-humana."
"A transformação tecnológica pode ser enfrentada sem destruir o que torna generativa uma sociedade: a capacidade de construir futuro."
"Se uma tecnologia promete emancipação, mas produz novas formas de subordinação global, contradiz o princípio fundamental da dignidade da pessoa."
"As mesmas tecnologias que facilitam a comunicação e o acesso aos recursos podem sustentar modelos que exploram os mais fracos, alimentam novas formas de escravatura e transformam o conflito numa oportunidade de lucro."
"A luta contras as novas formas de escravatura é um teste decisivo para o discernimento ético da IA e da transformação digital."
"Não podemos negar ou minimizar o atraso com que a Igreja e a sociedade condenaram o flagelo da escravatura."
"As novas expressões de escravatura alimentam-se de cadeias económicas e infraestruturas digitais."