Papa Leão XIV defende o desarmamento de sistemas de IA

Leão XIV também pede que países avancem na proibição de armas autônomas letais e afirma que decisões sobre a vida humana exigem controle humano

O papa Leão XIV pediu que sistemas de inteligência artificial sejam desenvolvidos com limites e supervisão humana, defendendo que decisões relacionadas à vida das pessoas continuem sob responsabilidade humana. O pontífice também incentivou os países integrantes da ONU a avançarem na criação de medidas que proíbam o uso de armas autônomas letais.

Durante um evento dedicado à inteligência artificial, o líder da Igreja Católica demonstrou preocupação com os riscos de transferir decisões importantes para máquinas. Além disso, destacou a necessidade de estabelecer normas internacionais para orientar o avanço e a utilização dessa tecnologia.

Máquinas são ferramentas, não pessoas
Em seu pronunciamento durante o encontro “O futuro da IA: um diálogo entre o Vaticano e o mundo científico sobre os avanços e as aplicações das tecnologias inteligentes”, Leão XIV apresentou cinco diretrizes para orientar o desenvolvimento da inteligência artificial. O evento foi promovido pela Pontifícia Academia para a Vida em parceria com o Future of Life Institute.

Segundo o pontífice, os rumos da tecnologia são determinados pelas decisões humanas. Dessa forma, cabe às pessoas conduzir seu desenvolvimento, ajustar suas aplicações e até mesmo recusá-las quando necessário.

Leão XIV também ressaltou que essa responsabilidade não deve ser atribuída às máquinas. O papa questionou a possibilidade de reconhecer direitos ou personalidade jurídica aos sistemas de IA, argumentando que eles não possuem experiências próprias, corpo, sentimentos ou vínculos humanos. Além disso, não compreendem conceitos como amor, trabalho e responsabilidade.

Na avaliação do pontífice, conceder reconhecimento jurídico à inteligência artificial pode acabar escondendo a responsabilidade das pessoas envolvidas e dificultar a busca por justiça de quem sofrer eventuais prejuízos causados por essas tecnologias.

O posicionamento acompanha os princípios apresentados na encíclica Magnifica Humanitas, dedicada à defesa da dignidade humana diante dos avanços da inteligência artificial.

Papa pede proibição de armas autônomas letais
A necessidade de manter a supervisão humana se torna ainda mais relevante quando a inteligência artificial é empregada em decisões que podem comprometer a vida e a liberdade das pessoas. Leão XIV mencionou, como exemplos, a seleção de indivíduos para listas de alvos militares e sua inclusão em sistemas de monitoramento de fronteiras, situações em que seres humanos podem acabar sendo tratados apenas como dados.

“Decisões que afetam a vida humana, a liberdade e o uso da força devem permanecer sempre sujeitas a uma supervisão humana eficaz, informada e responsável”, declarou o pontífice.

Diante desse cenário, o papa incentivou os países que participarão de uma reunião em Genebra, prevista para novembro, a adotarem medidas concretas para impedir o desenvolvimento e a utilização de armas autônomas letais.

Essa preocupação também esteve presente em um pronunciamento de seu antecessor, Francisco, durante o encontro do G7, em 2024. Na ocasião, ele descreveu a inteligência artificial como uma tecnologia capaz de despertar entusiasmo e preocupação, ressaltando que nenhuma máquina deveria receber autoridade para decidir sobre a vida de uma pessoa.

Leão XIV também explicou que a escolha de seu nome papal está relacionada aos desafios impostos pelas transformações tecnológicas. A decisão faz referência a Leão XIII, que liderou a Igreja Católica durante um período marcado pelas mudanças provocadas pela Revolução Industrial.

Tecnologia deve servir ao bem comum
Outro ponto destacado por Leão XIV é que a inteligência artificial deve contribuir para o bem-estar coletivo, sem beneficiar exclusivamente grupos privilegiados. Na visão do pontífice, o avanço dessas tecnologias precisa estimular a solidariedade e garantir que suas vantagens sejam distribuídas de forma mais justa entre a população.

O papa também ressaltou a importância de criar instituições capazes de transformar valores éticos em ações práticas. Para alcançar esse objetivo, ele apresentou três mecanismos considerados fundamentais:

• Padrões compartilhados internacionalmente para orientar o desenvolvimento da IA;
  
• Supervisão independente das tecnologias e de suas aplicações;
  
• Mecanismos de responsabilização, contestação de decisões e reparação por danos.

Leão XIV encerrou o discurso agradecendo aos participantes pelas contribuições ao debate e incentivando a continuidade da cooperação internacional em torno do desenvolvimento responsável da inteligência artificial.

Fonte: Olhar Digital