Mensagem do Papa Francisco para o Dia Mundial da Paz 2024

INTELIGÊNCIA ARTIFICIAL E PAZ

No início do novo ano, tempo de graça concedido pelo Senhor a cada um de nós, quero dirigir-me ao Povo de Deus, às nações, aos Chefes de Estado e de Governo, aos Representantes das diversas religiões e da sociedade civil, a todos os homens e mulheres do nosso tempo para lhes expressar os meus votos de paz.

1. O progresso da ciência e da tecnologia como caminho para a paz

A Sagrada Escritura atesta que Deus deu aos homens o seu Espírito a fim de terem «sabedoria, inteligência e capacidade para toda a espécie de trabalho» (Ex 35, 31). A inteligência é expressão da dignidade que nos foi dada pelo Criador, que nos fez à sua imagem e semelhança (cf. Gn 1, 26) e nos tornou capazes, através da liberdade e do conhecimento, de responder ao seu amor. Esta qualidade fundamentalmente relacional da inteligência humana manifesta-se de modo particular na ciência e na tecnologia, que são produtos extraordinários do seu potencial criativo.

Na Constituição pastoral Gaudium et spes, o Concílio Vaticano II reafirmou esta verdade, declarando que «sempre o homem procurou, com o seu trabalho e engenho, desenvolver mais a própria vida». [1] Quando os seres humanos, «recorrendo à técnica», se esforçam por que a terra «se torne habitação digna para toda a humanidade», [2] agem segundo o desígnio divino e cooperam com a vontade que Deus tem de levar à perfeição a criação e difundir a paz entre os povos. Assim o próprio progresso da ciência e da técnica – na medida em que contribui para uma melhor organização da sociedade humana, para o aumento da liberdade e da comunhão fraterna – leva ao aperfeiçoamento do homem e à transformação do mundo.

Justamente nos alegramos e sentimos reconhecidos pelas extraordinárias conquistas da ciência e da tecnologia, graças às quais se pôs remédio a inúmeros males que afligiam a vida humana e causavam grandes sofrimentos. Ao mesmo tempo, os progressos técnico-científicos, que permitem exercer um controle – até agora inédito – sobre a realidade, colocam nas mãos do homem um vasto leque de possibilidades, algumas das quais podem constituir um risco para a sobrevivência humana e um perigo para a casa comum. [3]

Deste modo os progressos notáveis das novas tecnologias da informação, sobretudo na esfera digital, apresentam oportunidades entusiasmantes mas também graves riscos, com sérias implicações na prossecução da justiça e da harmonia entre os povos. Por isso torna-se necessário interrogar-nos sobre algumas questões urgentes: quais serão as consequências, a médio e longo prazo, das novas tecnologias digitais? E que impacto terão elas sobre a vida dos indivíduos e da sociedade, sobre a estabilidade e a paz?

2. O futuro da inteligência artificial, por entre promessas e riscos

Os progressos da informática e o desenvolvimento das tecnologias digitais, nas últimas décadas, começaram já a produzir profundas transformações na sociedade global e nas suas dinâmicas. Os novos instrumentos digitais estão a mudar a fisionomia das comunicações, da administração pública, da instrução, do consumo, dos intercâmbios pessoais e de inúmeros outros aspetos da vida diária.

Além disso as tecnologias que se servem duma multiplicidade de algoritmos podem, dos vestígios digitais deixados na internet, extrair dados que permitem controlar os hábitos mentais e relacionais das pessoas para fins comerciais ou políticos, muitas vezes sem o seu conhecimento, limitando o exercício consciente da sua liberdade de escolha. De facto, num espaço como a web caraterizado por uma sobrecarga de informações, pode-se compor o fluxo de dados segundo critérios de seleção nem sempre enxergados pelo utente.

Devemos recordar-nos de que a pesquisa científica e as inovações tecnológicas não estão desencarnadas da realidade nem são «neutrais», [4] mas estão sujeitas às influências culturais. Sendo atividades plenamente humanas, os rumos que tomam refletem opções condicionadas pelos valores pessoais, sociais e culturais de cada época. E o mesmo se diga dos resultados que alcançam: enquanto fruto de abordagens especificamente humanas do mundo envolvente, têm sempre uma dimensão ética, intimamente ligada às decisões de quem projeta a experimentação e orienta a produção para objetivos particulares.

Isto aplica-se também às formas de inteligência artificial. Desta, até ao momento, não existe uma definição unívoca no mundo da ciência e da tecnologia. A própria designação, que já entrou na linguagem comum, abrange uma variedade de ciências, teorias e técnicas destinadas a fazer com que as máquinas, no seu funcionamento, reproduzam ou imitem as capacidades cognitivas dos seres humanos. Falar de «formas de inteligência», no plural, pode ajudar sobretudo a assinalar o fosso intransponível existente entre estes sistemas, por mais surpreendentes e poderosos que sejam, e a pessoa humana: em última análise, aqueles são «fragmentários» já que têm possibilidades de imitar ou reproduzir apenas algumas funções da inteligência humana. Além disso o uso do plural destaca que tais dispositivos, muito diferentes entre si, devem ser sempre considerados como «sistemas sociotécnicos». Com efeito o seu impacto, independentemente da tecnologia de base, depende não só da projetação, mas também dos objetivos e interesses de quem os possui e de quem os desenvolve, bem como das situações em que são utilizados.

Por conseguinte a inteligência artificial deve ser entendida como uma galáxia de realidades diversas e não podemos presumir a priori que o seu desenvolvimento traga um contributo benéfico para o futuro da humanidade e para a paz entre os povos. O resultado positivo só será possível se nos demonstrarmos capazes de agir de maneira responsável e respeitar valores humanos fundamentais como «a inclusão, a transparência, a segurança, a equidade, a privacidade e a fiabilidade». [5]

E não é suficiente presumir, por parte de quem projeta algoritmos e tecnologias digitais, um empenho por agir de modo ético e responsável. É preciso reforçar ou, se necessário, instituir organismos encarregados de examinar as questões éticas emergentes e tutelar os direitos de quantos utilizam formas de inteligência artificial ou são influenciados por ela. [6]

Assim, a imensa expansão da tecnologia deve ser acompanhada por uma adequada formação da responsabilidade pelo seu desenvolvimento. A liberdade e a convivência pacífica ficam ameaçadas, quando os seres humanos cedem à tentação do egoísmo, do interesse próprio, da ânsia de lucro e da sede de poder. Por isso temos o dever de alargar o olhar e orientar a pesquisa técnico-científica para a prossecução da paz e do bem comum, ao serviço do desenvolvimento integral do homem e da comunidade. [7]

A dignidade intrínseca de cada pessoa e a fraternidade que nos une como membros da única família humana devem estar na base do desenvolvimento de novas tecnologias e servir como critérios indiscutíveis para as avaliar antes da sua utilização, para que o progresso digital possa verificar-se no respeito pela justiça e contribuir para a causa da paz. Os avanços tecnológicos que não conduzem a uma melhoria da qualidade de vida da humanidade inteira, antes pelo contrário agravam as desigualdades e os conflitos, nunca poderão ser considerados um verdadeiro progresso. [8]

A inteligência artificial tornar-se-á cada vez mais importante. Os desafios que coloca não são apenas de ordem técnica, mas também antropológica, educacional, social e política. Deixa esperar, por exemplo, poupança de esforços, produção mais eficiente, transportes mais fáceis e mercados mais dinâmicos, bem como uma revolução nos processos de recolha, organização e verificação de dados. Precisamos de estar conscientes das rápidas transformações em curso e geri-las de forma a salvaguardar os direitos humanos fundamentais, respeitando as instituições e as leis que promovem o progresso humano integral. A inteligência artificial deveria estar ao serviço dum melhor potencial humano e das nossas mais altas aspirações, e não em competição com eles.

3. A tecnologia do futuro: máquinas que aprendem sozinhas

Nas suas múltiplas formas, a inteligência artificial, baseada em técnicas de aprendizagem automática (machine learning), embora ainda numa fase pioneira, já está a introduzir mudanças notáveis no tecido das sociedades, exercendo uma influência profunda nas culturas, nos comportamentos sociais e na construção da paz.

Desenvolvimentos como a aprendizagem automática (machine learning) ou a aprendizagem profunda (deep learning) levantam questões que transcendem os âmbitos da tecnologia e da engenharia e têm a ver com uma compreensão intimamente ligada ao significado da vida humana, aos processos basilares do conhecimento e à capacidade que tem a mente de alcançar a verdade.

A capacidade de alguns dispositivos produzirem textos sintática e semanticamente coerentes, por exemplo, não é garantia de fiabilidade. Diz-se que podem «alucinar», isto é, gerar afirmações que à primeira vista parecem plausíveis, mas na realidade são infundadas ou preconceituosas. Isto coloca um sério problema quando a inteligência artificial é utilizada em campanhas de desinformação que espalham notícias falsas e levam a uma desconfiança crescente relativamente aos meios de comunicação. A confidencialidade, a posse dos dados e a propriedade intelectual são outros âmbitos em que as tecnologias em questão comportam graves riscos, aos quais se vêm juntar outras consequências negativas ligadas a um uso indevido, como a discriminação, a interferência nos processos eleitorais, a formação duma sociedade que vigia e controla as pessoas, a exclusão digital e a exacerbação dum individualismo cada vez mais desligado da coletividade. Todos estes fatores correm o risco de alimentar os conflitos e obstaculizar a paz.

4. O sentido do limite, no paradigma tecnocrático

O nosso mundo é demasiado vasto, variado e complexo para ser completamente conhecido e classificado. A mente humana nunca poderá esgotar a sua riqueza, nem sequer com a ajuda dos algoritmos mais avançados. De facto, estes não oferecem previsões garantidas do futuro, mas apenas aproximações estatísticas. Nem tudo pode ser previsto, nem tudo pode ser calculado; no fim de contas, «a realidade é superior à ideia» [9] e, por mais prodigiosa que seja a nossa capacidade de calcular, haverá sempre um resíduo inacessível que escapa a qualquer tentativa de quantificação.

Além disso, a grande quantidade de dados analisados pelas inteligências artificiais não é, por si só, garantia de imparcialidade. Quando os algoritmos extrapolam informações, correm sempre o risco de as distorcer, replicando as injustiças e os preconceitos dos ambientes onde têm origem. Quanto mais rápidos e complexos eles se tornam, mais difícil é compreender por que produziram um determinado resultado.

As máquinas inteligentes podem desempenhar as tarefas que lhes são atribuídas com uma eficiência cada vez maior, mas a finalidade e o significado das suas operações continuarão a ser determinados ou capacitados por seres humanos com o seu próprio universo de valores. O risco é que os critérios subjacentes a certas escolhas se tornem menos claros, que a responsabilidade de decisão seja ocultada e que os produtores possam subtrair-se à obrigação de agir para o bem da comunidade. Em certo sentido, isto é favorecido pelo sistema tecnocrático, que alia a economia à tecnologia e privilegia o critério da eficiência, tendendo a ignorar tudo o que não esteja ligado aos seus interesses imediatos. [10]

Isto deve fazer-nos refletir sobre um aspeto transcurado frequentemente na atual mentalidade tecnocrática e eficientista, mas decisivo para o desenvolvimento pessoal e social: o «sentido do limite». Com efeito o ser humano, mortal por definição, pensando em ultrapassar todo o limite mediante a técnica, corre o risco, na obsessão de querer controlar tudo, de perder o controle sobre si mesmo; na busca duma liberdade absoluta, de cair na espiral duma ditadura tecnológica. Reconhecer e aceitar o próprio limite de criatura é condição indispensável para que o homem alcance ou, melhor, acolha a plenitude como uma dádiva; ao passo que, no contexto ideológico dum paradigma tecnocrático animado por uma prometeica presunção de autossuficiência, as desigualdades poderiam crescer sem medida, e o conhecimento e a riqueza acumular-se nas mãos de poucos, com graves riscos para as sociedades democráticas e uma coexistência pacífica. [11]

5. Temas quentes para a ética

No futuro, a fiabilidade de quem solicita um mútuo, a idoneidade dum indivíduo para determinado emprego, a possibilidade de reincidência dum condenado ou o direito a receber asilo político ou assistência social poderão ser determinados por sistemas de inteligência artificial. A falta de níveis diversificados de mediação que tais sistemas introduzem está particularmente exposta a formas de preconceito e discriminação: os erros do sistema podem multiplicar-se facilmente, gerando não só injustiças em casos individuais, mas também, por efeito dominó, verdadeiras formas de desigualdade social.

Além disso, por vezes, as formas de inteligência artificial parecem capazes de influenciar as decisões dos indivíduos através de opções predeterminadas associadas a estímulos e dissuasões, ou então através de sistemas de regulação das opções pessoais baseados na organização das informações. Estas formas de manipulação ou controle social requerem atenção e vigilância cuidadosas, implicando uma clara responsabilidade legal por parte dos produtores, de quem os contrata e das autoridades governamentais.

O ato de se confiar a processos automáticos que dispõem os indivíduos por categorias, por exemplo, através dum uso invasivo da vigilância ou da adoção de sistemas de crédito social, poderia ter repercussões profundas também no tecido civil, estabelecendo classificações inadequadas entre os cidadãos. E estes processos artificiais de classificação poderiam levar também a conflitos de poder, envolvendo não apenas destinatários virtuais, mas também pessoas de carne e osso. O respeito fundamental pela dignidade humana requer a rejeição de que a unicidade da pessoa seja identificada com um conjunto de dados. Não se deve permitir que os algoritmos determinem o modo como entendemos os direitos humanos, ponham de lado os valores essenciais da compaixão, da misericórdia e do perdão, ou eliminem a possibilidade de um indivíduo mudar e deixar para trás o passado.

Neste contexto, não podemos deixar de considerar o impacto das novas tecnologias no âmbito laboral: trabalhos, que outrora eram prerrogativa exclusiva da mão-de-obra humana, acabam rapidamente absorvidos pelas aplicações industriais da inteligência artificial. Também neste caso, há substancialmente o risco duma vantagem desproporcionada para poucos à custa do empobrecimento de muitos.  A Comunidade Internacional, ao ver como tais formas de tecnologia penetram cada vez mais profundamente nos locais de trabalho, deveria considerar como alta prioridade o respeito pela dignidade dos trabalhadores e a importância do emprego para o bem-estar económico das pessoas, das famílias e das sociedades, a estabilidade dos empregos e a equidade dos salários.

6. Transformaremos as espadas em relhas de arado?

Nestes dias, contemplando o mundo que nos rodeia, não se pode ignorar as graves questões éticas relacionadas com o setor dos armamentos. A possibilidade de efetuar operações militares através de sistemas de controle remoto levou a uma perceção menor da devastação por eles causada e da responsabilidade da sua utilização, contribuindo para uma abordagem ainda mais fria e destacada da imensa tragédia da guerra. A pesquisa sobre as tecnologias emergentes no setor dos chamados «sistemas de armas letais autónomas», incluindo a utilização bélica da inteligência artificial, é um grave motivo de preocupação ética. Os sistemas de armas autónomos nunca poderão ser sujeitos moralmente responsáveis: a exclusiva capacidade humana de julgamento moral e de decisão ética é mais do que um conjunto complexo de algoritmos, e tal capacidade não pode ser reduzida à programação duma máquina que, por mais «inteligente» que seja, permanece sempre uma máquina. Por esta razão, é imperioso garantir uma supervisão humana adequada, significativa e coerente dos sistemas de armas.

Também não podemos ignorar a possibilidade de armas sofisticadas caírem em mãos erradas, facilitando, por exemplo, ataques terroristas ou intervenções visando desestabilizar instituições legítimas de Governo. Em resumo, o mundo não precisa realmente que as novas tecnologias contribuam para o iníquo desenvolvimento do mercado e do comércio das armas, promovendo a loucura da guerra. Ao fazê-lo, não só a inteligência, mas também o próprio coração do homem, correrá o risco de se tornar cada vez mais «artificial». As aplicações técnicas mais avançadas não devem ser utilizadas para facilitar a resolução violenta dos conflitos, mas para pavimentar os caminhos da paz.

Numa ótica mais positiva, se a inteligência artificial fosse utilizada para promover o desenvolvimento humano integral, poderia introduzir inovações importantes na agricultura, na instrução e na cultura, uma melhoria do nível de vida de inteiras nações e povos, o crescimento da fraternidade humana e da amizade social. Em última análise, a forma como a utilizamos para incluir os últimos, isto é, os irmãos e irmãs mais frágeis e necessitados, é a medida reveladora da nossa humanidade.

Um olhar humano e o desejo dum futuro melhor para o nosso mundo levam à necessidade dum diálogo interdisciplinar voltado para um desenvolvimento ético dos algoritmos – a algor-etica -, em que sejam os valores a orientar os percursos das novas tecnologias. [12] As questões éticas deveriam ser tidas em consideração desde o início da pesquisa, bem como nas fases de experimentação, projetação, produção, distribuição e comercialização. Esta é a abordagem da ética da projetação, na qual as instituições educativas e os responsáveis pelo processo de decisão têm um papel essencial a desempenhar.

7. Desafios para a educação

O desenvolvimento duma tecnologia que respeite e sirva a dignidade humana tem implicações claras para as instituições educativas e para o mundo da cultura. Ao multiplicar as possibilidades de comunicação, as tecnologias digitais permitiram encontrar-se de novas formas. Todavia continua a ser necessária uma reflexão contínua sobre o tipo de relações para onde nos estão encaminhando. Os jovens estão a crescer em ambientes culturais impregnados de tecnologia, o que não pode deixar de pôr em causa os métodos de ensino e formação.

A educação para o uso de formas de inteligência artificial deveria visar sobretudo a promoção do pensamento crítico. É necessário que os utentes das várias idades, mas principalmente os jovens, desenvolvam uma capacidade de discernimento no uso de dados e conteúdos recolhidos na web ou produzidos por sistemas de inteligência artificial. As escolas, as universidades e as sociedades científicas são chamadas a ajudar os estudantes e profissionais a assumir os aspetos sociais e éticos do progresso e da utilização da tecnologia.

A formação no uso dos novos instrumentos de comunicação deveria ter em conta não só a desinformação, as notícias falsas, mas também a recrudescência preocupante de «medos ancestrais (…) que souberam esconder-se e revigorar-se por detrás das novas tecnologias». [13] Infelizmente, encontramo-nos mais uma vez a combater «a tentação de fazer uma cultura dos muros, de erguer os muros (…), para impedir este encontro com outras culturas, com outras pessoas» [14] e o desenvolvimento duma coexistência pacífica e fraterna.

8. Desafios para o desenvolvimento do direito internacional

O alcance global da inteligência artificial deixa claro que, juntamente com a responsabilidade dos Estados soberanos de regular a sua utilização internamente, as Organizações Internacionais podem desempenhar um papel decisivo na obtenção de acordos multilaterais e na coordenação da sua aplicação e implementação. [15] A este respeito, exorto a Comunidade das Nações a trabalhar unida para adotar um tratado internacional vinculativo, que regule o desenvolvimento e o uso da inteligência artificial nas suas variadas formas. Naturalmente o objetivo da regulamentação não deveria ser apenas a prevenção de más aplicações, mas também o incentivo às boas aplicações, estimulando abordagens novas e criativas e facilitando iniciativas pessoais e coletivas. [16]

Em última análise, na busca de modelos normativos que possam fornecer uma orientação ética aos criadores de tecnologias digitais, é indispensável identificar os valores humanos que deveriam estar na base dos esforços das sociedades para formular, adotar e aplicar os quadros legislativos necessários. O trabalho de elaboração de diretrizes éticas para a produção de formas de inteligência artificial não pode prescindir da consideração de questões mais profundas relativas ao significado da existência humana, à proteção dos direitos humanos fundamentais, à busca da justiça e da paz. Este processo de discernimento ético e jurídico pode revelar-se preciosa ocasião para uma reflexão compartilhada sobre o papel que a tecnologia deveria ter na nossa vida individual e comunitária e sobre a forma como a sua utilização possa contribuir para a criação dum mundo mais equitativo e humano. Por este motivo, nos debates sobre a regulamentação da inteligência artificial, dever-se-ia ter em conta as vozes de todas as partes interessadas, incluindo os pobres, os marginalizados e outros que muitas vezes permanecem ignorados nos processos de decisão globais.

* * *

Espero que esta reflexão encoraje a fazer com que os progressos no desenvolvimento de formas de inteligência artificial sirvam, em última análise, a causa da fraternidade humana e da paz. Não é responsabilidade de poucos, mas da família humana inteira. De facto, a paz é fruto de relações que reconhecem e acolhem o outro na sua dignidade inalienável, e de cooperação e compromisso na busca do desenvolvimento integral de todas as pessoas e de todos os povos.

No início do novo ano, a minha oração é que o rápido desenvolvimento de formas de inteligência artificial não aumente as já demasiadas desigualdades e injustiças presentes no mundo, mas contribua para pôr fim às guerras e conflitos e para aliviar muitas formas de sofrimento que afligem a família humana. Possam os fiéis cristãos, os crentes das várias religiões e os homens e mulheres de boa vontade colaborar harmoniosamente para aproveitar as oportunidades e enfrentar os desafios colocados pela revolução digital, e entregar às gerações futuras um mundo mais solidário, justo e pacífico.

Vaticano, 8 de dezembro de 2023.

Francisco

[1]N. 33.

[2] Ibid., 57.

[3]Cf. Francisco, Carta enc. Laudato si’ (24/V/2015), 104.

[4]Cf. ibid., 114.

[5]Francisco,  Discurso aos participantes no Encontro dos «Minerva Dialogues» (27/III/2023).

[6]Cf. ibid.

[7]Cf. Francisco, Mensagem ao Presidente Executivo do «World Economic Forum» em Davos-Klosters (12/I/2018).

[8]Cf. Carta enc. Laudato si’, 194; Francisco,  Discurso aos participantes no Seminário «O bem comum na era digital» (27/IX/2019).

[9]Francisco,Exort. ap. Evangelii gaudium (24/XI/2013), 233.

[10]Cf. Carta enc. Laudato si’, 54.

[11]Cf. Francisco, Discurso aos participantes na Plenária da Pontifícia Academia em prol da Vida (28/II/2020).

[12]Cf. ibid.

[13]Francisco, Carta enc. Fratelli tutti (03/X/2020), 27.

[14]Cf. ibid.

[15]Cf. ibid., 170-175.

[16]Cf. Carta enc. Laudato si’, 177.