PAPA FRANCISCO PARTICIPA NA SESSÃO DO G7 SOBRE INTELIGÊNCIA ARTIFICIAL
DISCURSO DO SANTO PADRE FRANCISCO
Borgo Egnazia (Apúlia - Itália)
Sexta-feira, 14 de junho de 2024
Um instrumento fascinante e tremendo
Prezadas senhoras, ilustres senhores:
Dirijo-me hoje a vocês, líderes do Fórum Intergovernamental do G7, com uma reflexão sobre os efeitos da inteligência artificial no futuro da humanidade.
«A Sagrada Escritura testemunha que Deus deu aos homens o seu Espírito para que tenham “habilidade, talento e experiência na execução de todo tipo de trabalho” ( Ex 35,31)» [1] . A ciência e a tecnologia são, portanto, um produto extraordinário do potencial criativo que o ser humano possui [2] .
Ora, a inteligência artificial origina-se justamente do uso desse potencial criativo que Deus nos deu.
Esta inteligência artificial, como sabemos, é um instrumento extremamente poderoso, utilizado em inúmeras áreas da atividade humana: da medicina ao mundo do trabalho, da cultura ao domínio da comunicação, da educação à política. E é justo assumir, então, que a sua utilização influenciará cada vez mais a nossa forma de viver, as nossas relações sociais e o futuro, até mesmo a forma como concebemos a nossa identidade como seres humanos [3] .
O tema da inteligência artificial, no entanto, é muitas vezes percebido de forma ambivalente: por um lado, é excitante pelas possibilidades que oferece; Por outro lado, causa medo das consequências que podem ocorrer. A este respeito, poderíamos dizer que todos nós, embora em graus diferentes, somos atravessados por duas emoções: ficamos entusiasmados quando imaginamos o progresso que pode ser derivado da inteligência artificial, mas, ao mesmo tempo, temos medo quando vemos os perigos inerentes ao seu uso [4] .
Certamente não podemos duvidar que a chegada da inteligência artificial representa uma autêntica revolução cognitivo-industrial, que contribuirá para a criação de um novo sistema social caracterizado por complexas transformações de época. Por exemplo, a inteligência artificial poderia permitir a democratização do acesso ao conhecimento, o progresso exponencial da investigação científica, a possibilidade de delegar trabalhos exaustivos às máquinas; mas, ao mesmo tempo, poderá trazer consigo uma maior desigualdade entre as nações avançadas e as nações em desenvolvimento, entre as classes sociais dominantes e as classes sociais oprimidas, pondo assim em perigo a possibilidade de uma “cultura do encontro” e favorecendo uma “cultura do encontro”. descartar".
A magnitude destas transformações complexas está obviamente ligada ao rápido desenvolvimento tecnológico da própria inteligência artificial.
É precisamente este poderoso avanço tecnológico que torna a inteligência artificial um instrumento ao mesmo tempo fascinante e tremendo , e requer uma reflexão proporcional à situação.
Nessa direcção talvez pudéssemos partir da constatação de que a inteligência artificial é acima de tudo um instrumento . E é espontâneo afirmar que os benefícios ou malefícios que acarreta dependerão do seu uso.
Isso é verdade, porque tem sido assim com todas as ferramentas construídas pelo homem desde o início dos tempos.
A nossa capacidade de construir ferramentas, numa quantidade e complexidade sem igual entre os seres vivos, fala-nos de uma condição tecno-humana . O ser humano sempre manteve uma relação com o meio ambiente mediada pelos instrumentos que produziu. Não é possível separar a história do homem e da civilização da história destes instrumentos. Alguns quiseram ler em tudo isto uma espécie de privação, um défice do ser humano, como se, por causa desta carência, ele fosse obrigado a dar vida à tecnologia [5] . Um olhar atento e objetivo, na verdade, nos mostra o contrário. Vivemos numa condição de ulterioridade em relação ao nosso ser biológico; Somos seres inclinados para o fora de nós, aliás, radicalmente abertos ao além. É aqui que se origina a nossa abertura aos outros e a Deus; Daí vem o potencial criativo da nossa inteligência em termos de cultura e beleza; Daí, finalmente, origina-se a nossa capacidade técnica. A tecnologia é, portanto, um vestígio da nossa ulterioridade.
Porém, o uso de nossas ferramentas nem sempre é direcionado de forma inequívoca para o bem. Mesmo quando o ser humano sente em si uma vocação ao além e ao conhecimento vivido como instrumento de bem ao serviço dos irmãos e da casa comum (cf. Gaudium et spes , 16), isso nem sempre acontece. acontecer. Além disso, não raramente, precisamente graças à sua liberdade radical, a humanidade perverteu os objetivos do seu próprio ser, tornando-se inimiga de si mesma e do planeta [6] . Os instrumentos tecnológicos podem sofrer o mesmo destino. Só se for garantida a sua vocação ao serviço da humanidade, os instrumentos tecnológicos revelarão não só a grandeza e a dignidade única do ser humano, mas também o mandato que este recebeu de “cultivar e cuidar” do planeta e de todos os seus habitantes. (cf. Gn 2.15). Falar de tecnologia é falar do que significa ser humano e, portanto, da nossa condição única entre liberdade e responsabilidade, ou seja, é falar de ética.
Na verdade, quando nossos ancestrais afiavam pedras de sílex para fazer facas, eles as usavam tanto para cortar peles para roupas quanto para eliminar umas às outras. O mesmo se poderia dizer de outras tecnologias muito mais avançadas, como a energia produzida pela fusão de átomos, como ocorre no Sol, que poderia ser utilizada para produzir energia limpa e renovável, mas também para reduzir o nosso planeta a cinzas.
Mas a inteligência artificial é uma ferramenta ainda mais complexa. Eu diria que é uma ferramenta sui generis . Assim, enquanto o uso de uma ferramenta simples – como uma faca – está sob o controle do ser humano que a utiliza e seu uso adequado depende apenas dele, a inteligência artificial, por outro lado, pode se adaptar de forma autônoma à tarefa em questão. atribuídos e, se concebidos dessa forma, poderiam tomar decisões independentemente do ser humano para atingir o objetivo definido [7] .
Vale sempre lembrar que a máquina pode, de algumas formas e com esses novos meios, escolher através de algoritmos. O que a máquina faz é uma escolha técnica entre diversas possibilidades e se baseia em critérios bem definidos ou em inferências estatísticas. O ser humano, por outro lado, não apenas escolhe, mas no seu íntimo é capaz de decidir. A decisão é um elemento que poderíamos definir como o mais estratégico de uma eleição e requer uma avaliação prática. Às vezes, muitas vezes na difícil tarefa de governar, somos também chamados a decidir com consequências para muitas pessoas. A reflexão humana sempre falou a este respeito da sabedoria, da phronesis da filosofia grega e, pelo menos em parte, da sabedoria da Sagrada Escritura. Diante das maravilhas das máquinas, que parecem saber escolher de forma independente, devemos ter muito claro que a decisão cabe sempre ao ser humano, mesmo com os tons dramáticos e urgentes com que às vezes aparece em nossas vidas. Condenaríamos a humanidade a um futuro sem esperança se retirássemos a capacidade das pessoas de decidirem por si mesmas e pelas suas vidas, condenando-as a depender das escolhas das máquinas. Precisamos garantir e proteger um espaço significativo de controle humano sobre o processo de seleção utilizado pelos programas de inteligência artificial. A própria dignidade humana está em jogo.
Precisamente sobre este tema, permitam-me insistir que, num drama como o dos conflitos armados, é urgente repensar o desenvolvimento e a utilização de dispositivos como as chamadas "armas letais autónomas" para proibir a sua utilização, começando agora com um compromisso efetivo e concreto para introduzir um controle humano cada vez maior e significativo. Nenhuma máquina deveria escolher acabar com a vida de um ser humano.
Deve-se acrescentar também que o bom uso, pelo menos das formas avançadas de inteligência artificial, não estará totalmente sob o controle nem dos usuários nem dos programadores que definiram seus objetivos iniciais no momento de desenvolvê-los. verdade, pois é muito provável que, num futuro não distante, os programas de inteligência artificial sejam capazes de comunicar diretamente entre si, para melhorar o seu desempenho. E, se no passado os seres humanos que utilizavam ferramentas simples viram a sua existência moldada por estas últimas - a faca permitiu-lhes sobreviver ao frio mas também desenvolver a arte da guerra - agora que os seres humanos modelaram um instrumento complexo, verás que isso moldará ainda mais a sua existência [8] .
O mecanismo básico da inteligência artificial
Deixe-me agora abordar brevemente a complexidade da inteligência artificial Basicamente, a inteligência artificial é uma ferramenta projetada para resolver um problema e funciona através de uma cadeia lógica de operações algébricas, realizadas com base em categorias de dados, que são comparadas para descobrir correlações e melhorar. o seu valor estatístico através de um processo de autoaprendizagem baseado na procura de dados adicionais e na automodificação dos seus procedimentos de cálculo.
A inteligência artificial está assim desenhada para resolver problemas específicos, mas para quem a utiliza a tentação de obter, a partir das soluções específicas que propõe, deduções gerais, mesmo de natureza antropológica, é muitas vezes irresistível.
Um bom exemplo é a utilização de programas destinados a auxiliar magistrados nas decisões relativas à concessão de prisão domiciliar a presos que cumprem pena em instituição penal. Neste caso, pede-se à inteligência artificial que preveja a probabilidade de reincidência do crime cometido por um condenado com base em categorias pré-determinadas (tipo de crime, comportamento na prisão, avaliação psicológica e outros), o que permite à inteligência artificial ter acesso a categorias de dados relacionados com a vida privada da pessoa detida (origem étnica, nível de escolaridade, linha de crédito, etc.). A utilização de tal metodologia – que por vezes corre o risco de delegar de facto a uma máquina a última palavra sobre o destino de uma pessoa – pode referir-se implicitamente aos preconceitos inerentes às categorias de dados utilizadas pela inteligência artificial.
Ser enquadrado em determinada etnia ou, mais prosaicamente, ter cometido uma pequena infração anos atrás - não ter pago, por exemplo, multa por estacionar em zona proibida - irá, de fato, influenciar a decisão sobre a concessão da prisão domiciliar . Pelo contrário, o ser humano está sempre em evolução e é capaz de surpreender com as suas ações, algo que a máquina não consegue levar em conta.
De referir ainda que aplicações análogas a esta de que estamos a falar irão multiplicar-se graças ao facto de os programas de inteligência artificial estarem cada vez mais dotados da capacidade de interagir diretamente com os seres humanos ( chatbots ), mantendo conversas e estabelecendo relações de proximidade. com eles, muitas vezes muito agradáveis e tranquilizadores, na medida em que tais programas de inteligência artificial são concebidos para aprender a responder, de forma personalizada, às necessidades físicas e psicológicas dos seres humanos.
Esquecer que a inteligência artificial não é outro ser humano e que não pode propor princípios gerais é por vezes um grande erro que decorre da profunda necessidade do ser humano de encontrar uma forma estável de companheirismo, ou de um orçamento subconsciente, é Ou seja, o crença de que as observações obtidas através de um mecanismo de cálculo são dotadas das qualidades de certeza indiscutível e universalidade indubitável.
Esta suposição é, no entanto, absurda, como demonstra um exame dos limites intrínsecos do próprio cálculo. A inteligência artificial utiliza operações algébricas que são realizadas de acordo com uma sequência lógica (por exemplo, se o valor de X for maior que o de Y, multiplique X por Y; caso contrário, divida X por Y). Este método de cálculo – denominado algoritmo – não é objetivo nem neutro [9] . Baseando-se na álgebra, pode examinar apenas realidades formalizadas em termos numéricos [10] .
Não devemos esquecer, além disso, que os algoritmos concebidos para resolver problemas muito complexos são sofisticados de tal forma que tornam muito difícil para os próprios programadores compreenderem exactamente como conseguem alcançar os seus resultados. Esta tendência para a sofisticação corre o risco de acelerar significativamente com a introdução de computadores quânticos que não operam com circuitos binários (semicondutores ou microchips), mas de acordo com as leis bastante articuladas da física quântica. Por outro lado, a introdução contínua de microchips cada vez mais eficientes é a causa da predominância do uso da inteligência artificial pelas poucas nações que a possuem.
A qualidade das respostas que os programas de inteligência artificial podem dar, sejam elas mais ou menos sofisticadas, depende, em última análise, dos dados que tratam e da forma como os estruturam.
Por último, gostaria de salientar uma última área em que emerge claramente a complexidade do mecanismo da chamada inteligência artificial generativa ( Generative Artificial Intelligence ). Ninguém duvida que hoje existem magníficos instrumentos de acesso ao conhecimento que permitem inclusive a autoaprendizagem e a autotutoria num grande número de áreas. Muitos de nós ficamos surpresos com os aplicativos de fácil acesso online para redigir um texto ou produzir uma imagem sobre qualquer tema ou assunto. Isso atrai especialmente os alunos que, quando precisam preparar suas tarefas, fazem uso excessivo delas.
Esses alunos, que muitas vezes estão muito mais preparados e acostumados com o uso da inteligência artificial do que seus professores, esquecem, porém, que a chamada inteligência artificial generativa, em sentido estrito, não é propriamente “generativa”. Na verdade, o que faz é buscar informações em big data e prepará-las no estilo solicitado. Não desenvolve novos conceitos ou análises. Repete o que encontra, conferindo-lhe uma forma atraente. E quanto mais repetida você encontra uma noção ou hipótese, mais você a considera legítima e válida. Mais do que “generativo”, poderia ser chamado de “reforçador”, no sentido de que reordena o conteúdo existente, ajudando a consolidá-lo, muitas vezes sem controlar se contém erros ou preconceitos.
Desta forma, corre-se não só o risco de legitimar a difusão de notícias falsas e de reforçar a vantagem de uma cultura dominante, mas também de minar o processo educativo nascente ( in nuce ). A educação, que deveria dar aos alunos a possibilidade de uma reflexão autêntica, corre o risco de ser reduzida a uma repetição de noções, que serão consideradas cada vez mais incontestáveis, simplesmente porque são continuamente apresentadas [11] .
Colocar a dignidade da pessoa novamente no centro em vista de uma proposta ética partilhada
Ao que já dissemos, acrescenta-se uma observação mais geral. A era da inovação tecnológica que atravessamos, de facto, é acompanhada por uma situação social particular e sem precedentes, em que é cada vez mais difícil encontrar pontos de encontro sobre as grandes questões da vida social. Mesmo em comunidades caracterizadas por uma certa continuidade cultural, criam-se frequentemente debates e confrontos acalorados que dificultam a obtenção de acordos e soluções políticas partilhadas, orientadas para a procura do bem e do justo. Além da complexidade das visões legítimas que caracterizam a família humana, surge um factor que parece congregar estas diferentes instâncias. Há uma perda ou pelo menos um obscurecimento do significado de humanidade e uma aparente insignificância do conceito de dignidade humana [12] . Parece que se perde o valor e o significado profundo de uma das categorias fundamentais do Ocidente: a categoria da pessoa humana. E é assim que nesta era em que os programas de inteligência artificial questionam o ser humano e as suas ações, precisamente a fragilidade do ethos ligado à percepção do valor e da dignidade da pessoa humana corre o risco de ser o maior dano (. vulnus ) na implementação e desenvolvimento destes sistemas. Não devemos esquecer que nenhuma inovação é neutra. A tecnologia nasce com um propósito e, no seu impacto na sociedade humana, representa sempre uma forma de ordem nas relações sociais e uma provisão de poder, que permite a alguém realizar determinadas ações enquanto impede que outros o façam. Esta dimensão de poder que é constitutiva da tecnologia inclui sempre, de forma mais ou menos explícita, a visão do mundo de quem a criou ou desenvolveu.
Isto também se aplica a programas de inteligência artificial. Para que estes instrumentos sejam para a construção do bem e de um futuro melhor, devem estar sempre ordenados para o bem de cada ser humano. Eles devem conter uma inspiração ética.
A decisão ética, de facto, é aquela que tem em conta não só os resultados de uma acção, mas também os valores em jogo e os deveres que derivam desses valores. É por isso que saudei a assinatura em Roma, em 2020, do Apelo de Roma à Ética da IA [13] e o seu apoio a essa forma de moderação ética de algoritmos e programas de inteligência artificial que chamei de “algorética” [14] . Num contexto plural e global, em que também se evidenciam diferentes sensibilidades e hierarquias plurais nas escalas de valores, pareceria difícil encontrar uma única hierarquia de valores. Mas na análise ética também podemos recorrer a outros tipos de instrumentos. Se tivermos dificuldade em definir um conjunto único de valores globais, poderemos encontrar princípios partilhados para enfrentar e reduzir eventuais dilemas e conflitos na vida.
Por esta razão nasceu o Chamado de Roma . O termo “algorética” condensa uma série de princípios que se revelam como uma plataforma global e plural capaz de encontrar o apoio das culturas, religiões, organizações internacionais e grandes empresas protagonistas deste desenvolvimento.
A política necessária
Não podemos, portanto, esconder o risco específico, porque é inerente ao seu mecanismo fundamental, que a inteligência artificial limite a visão do mundo a realidades que podem ser expressas em números e encerradas em categorias pré-estabelecidas, eliminando a contribuição de outras formas da verdade e impondo modelos antropológicos, socioeconômicos e culturais uniformes. O paradigma tecnológico encarnado pela inteligência artificial corre o risco de dar lugar a um paradigma muito mais perigoso, que já identifiquei com o nome “paradigma tecnocrático” [15] . Não podemos permitir que uma ferramenta tão poderosa e indispensável como a inteligência artificial reforce tal paradigma, mas devemos antes fazer da inteligência artificial um baluarte precisamente contra a sua expansão.
E é precisamente aqui que a acção política é urgente, como recorda a encíclica Fratelli tutti . Certamente «para muitos, a política hoje é um palavrão, e não se pode ignorar que por trás deste facto estão muitas vezes os erros, a corrupção e a ineficiência de alguns políticos. A isto somam-se estratégias que procuram enfraquecê-la, substituí-la pela economia ou dominá-la com alguma ideologia. Mas será que o mundo pode funcionar sem política? Pode haver um caminho eficaz para a fraternidade universal e a paz social sem uma boa política? [16] .
Nossa resposta a essas últimas perguntas é: não! A política serve! Quero reiterar nesta ocasião que «diante de tantas formas mesquinhas e imediatas de política [...] , a grandeza política se mostra quando, nos momentos difíceis, se age com base em grandes princípios e pensando no bem comum em o longo prazo. É muito difícil que o poder político assuma este dever num projecto nacional e ainda mais num projecto comum para a humanidade presente e futura” [17] .
Prezadas senhoras, ilustres senhores:
A minha reflexão sobre os efeitos da inteligência artificial no futuro da humanidade leva-nos assim a considerar a importância de uma “política sólida” para olhar para o nosso futuro com esperança e confiança. Como já disse noutra ocasião, “a sociedade mundial tem graves falhas estruturais que não podem ser resolvidas com remendos ou soluções rápidas meramente ocasionais. Há coisas que devem ser mudadas com repensamentos fundamentais e transformações importantes. Só uma política saudável poderia liderá-lo, reunindo os mais diversos setores e os mais variados conhecimentos. Desta forma, uma economia integrada num projecto político, social, cultural e popular que procura o bem comum pode “abrir caminho a diferentes oportunidades, que não implicam parar a criatividade humana e o seu sonho de progresso, mas sim direccionar essa energia através novos canais.” "( Laudato si' , 191)" [18] .
Este é precisamente o caso da inteligência artificial. Cabe a cada um fazer bom uso dele, e cabe à política criar as condições para que esse bom uso seja possível e frutífero.
Obrigado.
[1] Mensagem para o 57º Dia Mundial da Paz (1º de janeiro de 2024), 1.
[4] Esta ambivalência já havia sido alertada pelo Papa São Paulo VI em seu Discurso ao pessoal do “Centro de Automação de Análise Linguística” do Aloisiano de Gallarate (19 de junho de 1964).
[5] Cf. A. Gehlen, L'uomo. La sua natura e il suo posto nel mondo , Milão 1983, 43.
[6] Carta enc. Laudato si’ sobre o cuidado da casa comum (24 de maio de 2015), 102-114.
[7] Cf. Mensagem para o 57º Dia Mundial da Paz (1º de janeiro de 2024), 3.
[8] As ideias de Marshall McLuhan e John M. Culkin são particularmente relevantes para a compreensão das consequências do uso da inteligência artificial.
[9] Cf. Discurso aos participantes na Plenária da Pontifícia Academia para a Vida (28 de fevereiro de 2020).
[10] Cf. Mensagem para o 57º Dia Mundial da Paz (1º de janeiro de 2024), 4.
[12] Cf. Dicastério para a Doutrina da Fé, Declaração Dignitas Infinita sobre a Dignidade Humana (2 de abril de 2024).
[13] Cf. Discurso aos participantes na Plenária da Pontifícia Academia para a Vida (28 de fevereiro de 2020).
[14] Cf. Discurso aos participantes no Congresso “Promovendo a Dignidade Digital da Criança – Do Conceito à Ação” (14 de novembro de 2019); Discurso aos participantes na Plenária da Pontifícia Academia para a Vida (28 de fevereiro de 2020).
[15] Para uma exposição mais ampla, remeto-me à minha carta encíclica Laudato si' sobre o cuidado da casa comum (24 de maio de 2015).
[16] Carta enc. Fratelli tutti sobre fraternidade e amizade social (3 de outubro de 2020), 176.