Papa Francisco torna-se o primeiro pontífice a abordar uma cúpula do G7, levanta alarme sobre IA

BARI, Itália (AP) - O Papa Francisco desafiou líderes das democracias mais ricas do mundo na sexta-feira a manter a dignidade humana em primeiro lugar no desenvolvimento e uso da inteligência artificial, advertindo que essa tecnologia poderosa corre o risco de transformar as próprias relações humanas em meros algoritmos.

Francisco fez valer sua autoridade moral no Grupo dos Sete, convidado pela anfitriã Itália para falar em uma sessão especial em sua cúpula anual sobre os perigos e promessas da IA. Ao fazê-lo, ele se tornou o primeiro papa a participar do G7, oferecendo uma abordagem ética sobre um tema que está cada vez mais na agenda de cúpulas internacionais, políticas governamentais e conselhos corporativos.

Francisco disse que os políticos devem liderar para garantir que a IA permaneça centrada no ser humano, de modo que as decisões sobre quando usar armas ou até mesmo ferramentas menos letais sempre permaneçam nas mãos de humanos e não de máquinas.

“Condenaríamos a humanidade a um futuro sem esperança se retirássemos a capacidade das pessoas de tomarem decisões sobre si mesmas e suas vidas, condenando-as a depender das escolhas de máquinas”, afirmou ele. “Precisamos garantir e salvaguardar um espaço para o controle humano adequado sobre as escolhas feitas por programas de inteligência artificial: A própria dignidade humana depende disso.”

Francisco se junta a um coro de países e órgãos globais que defendem guarda-chuvas mais fortes sobre a IA, após o boom na inteligência artificial generativa iniciado pelo chatbot ChatGPT da OpenAI.

O papa argentino usou sua mensagem anual de paz deste ano para pedir um tratado internacional para garantir que a IA seja desenvolvida e usada de forma ética. Ele argumenta que uma tecnologia carente de valores humanos como compaixão, misericórdia, moralidade e perdão é perigosa demais para ser desenvolvida sem controle.

Ele não repetiu esse apelo explicitamente em seu discurso na sexta-feira, mas deixou claro que a responsabilidade recai sobre os políticos liderarem sobre a questão. E ele os exortou a proibir o uso de armas autônomas letais, conhecidas coloquialmente como “robôs assassinos”.

“Nenhuma máquina deve escolher tirar a vida de um ser humano”, disse ele. Direcionando-se aos líderes ao redor da mesa, ele concluiu: “Cabe a todos fazer bom uso disso, mas a responsabilidade política é criar as condições para que tal bom uso seja possível e frutífero.”

A primeira-ministra da Itália, Giorgia Meloni, convidou Francisco e anunciou sua participação, sabendo o potencial impacto de seu prestígio e autoridade moral sobre o G7. Os presentes à mesa pareciam devidamente impressionados, e o zumbido animado na sala ficou absolutamente silencioso quando Francisco chegou.

“O papa é, bom, um tipo muito especial de celebridade”, disse John Kirton, cientista político da Universidade de Toronto que lidera o think tank G7 Research Group.

Kirton lembrou que a última cúpula que teve esse tipo de poder estelar, que então se traduziu em ação, foi a reunião de 2005 em Gleneagles, na Escócia. Lá, os líderes mundiais decidiram perdoar os US$ 40 bilhões de dívidas de 18 dos países mais pobres do mundo para o Banco Mundial e o Fundo Monetário Internacional.

Aquela cúpula foi precedida por um concerto Live 8 em Londres que contou com Sting, The Who e um Pink Floyd reformado e atraiu mais de um milhão de pessoas em um show de solidariedade contra a fome e a pobreza na África.

“Gleneagles realmente fez um grande sucesso e para alguns é uma das cúpulas mais bem-sucedidas”, disse Kirton.

Nenhuma pressão popular semelhante está sendo aplicada aos líderes do G7 na região italiana de Puglia, mas Francisco sabia que poderia usar sua própria autoridade moral para renovar suas demandas por salvaguardas para a IA e destacar as ameaças à paz e à sociedade que ela representa se a ética humana for deixada de lado.

“Falar de tecnologia é falar do que significa ser humano e, assim, de nosso status singular como seres que possuem liberdade e responsabilidade”, disse ele. “Isso significa falar sobre ética.”

A tecnologia de IA generativa deslumbrou o mundo com suas capacidades de produzir respostas semelhantes às humanas, mas também gerou temores sobre a segurança da IA e levou a uma série de esforços globais para contê-la.

Alguns se preocupam com riscos catastróficos, mas distantes para a humanidade devido ao potencial de criar novas armas biológicas e superalimentar a desinformação. Outros se preocupam com seu efeito na vida cotidiana, através do viés algorítmico que resulta em discriminação ou sistemas de IA que eliminam empregos.

Em sua mensagem de paz, Francisco ecoou essas preocupações e levantou outras. Ele disse que a IA deve manter em primeiro plano preocupações sobre garantir direitos humanos fundamentais, promover a paz e proteger contra desinformação, discriminação e distorção.

No front da regulação, Francisco estará de certa forma pregando para os convertidos, já que os membros do G7 estão na vanguarda do debate sobre supervisão da IA.

O Japão, que deteve a presidência rotativa do G7 no ano passado, lançou seu processo de IA de Hiroshima para elaborar princípios orientadores internacionais e um código de conduta para desenvolvedores de IA. Somando-se a esses esforços, o primeiro-ministro Fumio Kishida anunciou no mês passado um framework para regulação global de IA generativa, que são sistemas que podem rapidamente gerar novo texto, imagens, vídeo, áudio em resposta a prompts e comandos.

A União Europeia foi uma das precursoras com sua abrangente Lei de IA que entrará em vigor nos próximos dois anos e poderá servir como modelo global. A legislação visa qualquer produto ou serviço de IA oferecido nos 27 países do bloco, com restrições baseadas no nível de risco que representam.

Nos Estados Unidos, o presidente Joe Biden emitiu uma ordem executiva sobre salvaguardas da IA e pediu legislação para fortalecê-la, enquanto alguns estados como Califórnia e Colorado têm tentado aprovar suas próprias leis de IA, com resultados mistos.

Os órgãos de defesa da concorrência em ambos os lados do Atlântico têm vinha examinando grandes empresas de IA como Microsoft, Amazon e OpenAI para saber se suas posições dominantes sufocam a competição.

O Reino Unido iniciou um diálogo global para conter os perigos mais extremos da IA com uma cúpula no outono passado. Em uma reunião de acompanhamento em Seul, as empresas se comprometeram a desenvolver a tecnologia de forma segura. A França sediará outra reunião na série no início do próximo ano. As Nações Unidas também se manifestaram com sua primeira resolução sobre a IA.

À margem de seu discurso sobre IA, Francisco tem um dia cheio de reuniões bilaterais. Ele teve encontros com o presidente da Ucrânia, Volodymyr Zelenskyy, bem como líderes convidados da Argélia, Brasil, Índia, Quênia e Turquia. Ele também se encontrará com os membros do G7, incluindo Biden, o primeiro-ministro canadense Justin Trudeau e o presidente francês Emmanuel Macron.

Chan reportou de Londres.