Intelligence artificielle et paix

Intelligence artificielle et paix

Message du Pape François pour la célébration de la 57e Journée mondiale de la paix (1er janvier 2024)

Au début de la nouvelle année, temps de grâce que le Seigneur accorde à chacun de nous, je voudrais m'adresser au Peuple de Dieu, aux nations, aux chefs d'État et de gouvernement, aux représentants des différentes religions et à la société civile. société, et à tous les hommes et femmes de notre temps pour vous exprimer mes meilleurs vœux de paix.

1. Les progrès de la science et de la technologie comme chemin vers la paix
L'Écriture Sainte atteste que Dieu a donné son Esprit aux hommes afin qu'ils aient « de l'habileté, du talent et de l'expérience dans l'exécution de toutes sortes d'ouvrages » ( Ex 35, 31). L'intelligence est une expression de la dignité que le Créateur nous a donnée en nous créant à son image et ressemblance (cf. Gn 1, 26) et nous a rendus capables de répondre à son amour par la liberté et la connaissance. La science et la technologie manifestent d’une manière particulière cette qualité fondamentalement relationnelle de l’intelligence humaine ; toutes deux sont des produits extraordinaires de leur potentiel créatif.

Dans la Constitution pastorale Gaudium et Spes , le Concile Vatican II a insisté sur cette vérité, déclarant que « l'homme s'est toujours efforcé, par son travail et son ingéniosité, de perfectionner sa vie ». [1] Lorsque les êtres humains, « avec l'aide des moyens techniques », s'efforcent pour que la terre « devienne une demeure digne de toute la famille humaine », [2] ils agissent selon le dessein de Dieu et coopèrent avec sa volonté de porter faire disparaître la création et répandre la paix entre les peuples. De même, les progrès de la science et de la technologie, dans la mesure où ils contribuent à un meilleur ordre de la société humaine et à accroître la liberté et la communion fraternelle, conduisent au perfectionnement de l'homme et à la transformation du monde.

Nous nous réjouissons à juste titre et sommes reconnaissants des réalisations extraordinaires de la science et de la technologie, grâce auxquelles il a été possible de remédier à d'innombrables maux qui ont affecté la vie humaine et causé de grandes souffrances. Dans le même temps, les progrès techniques et scientifiques, qui permettent d'exercer un contrôle sur une réalité jamais vue auparavant, mettent entre les mains de l'homme un vaste éventail de possibilités, dont certaines représentent un risque pour la survie humaine et un danger pour l'humanité. maison commune. [3]

Les progrès notables des nouvelles technologies de l’information, notamment dans le domaine numérique, présentent donc des opportunités passionnantes et des risques sérieux, avec de graves implications pour la recherche de justice et d’harmonie entre les peuples. Il est donc nécessaire de se poser certaines questions urgentes. Quelles seront les conséquences, à moyen et long terme, des nouvelles technologies numériques ? Et quel impact auront-ils sur la vie des individus et de la société, sur la stabilité internationale et sur la paix ?

2. L’avenir de l’intelligence artificielle entre promesses et risques
Les progrès de l’informatique et le développement des technologies numériques au cours des dernières décennies ont déjà commencé à produire de profondes transformations de la société mondiale et de ses dynamiques. Les nouveaux instruments numériques changent le visage des communications, de l’administration publique, de l’éducation, de la consommation, des interactions personnelles et d’innombrables autres aspects de la vie quotidienne.

De plus, les technologies qui utilisent un grand nombre d'algorithmes peuvent extraire, à partir des traces numériques laissées sur Internet, des données qui permettent de contrôler les habitudes mentales et relationnelles des personnes à des fins commerciales ou politiques, souvent à leur insu, limitant ainsi leur exercice. conscient de la liberté de choix. En effet, dans un espace comme le web, caractérisé par une surcharge d'informations, les flux de données peuvent être structurés selon des critères de sélection qui ne sont pas toujours perçus par l'utilisateur.

Nous devons nous rappeler que la recherche scientifique et les innovations technologiques ne sont pas déconnectées de la réalité ou « neutres » [4] , mais sont soumises à des influences culturelles. En tant qu'activités pleinement humaines, les orientations qu'elles prennent reflètent des décisions conditionnées par les valeurs personnelles, sociales et culturelles de chaque époque. On peut en dire autant des résultats obtenus. Celles-ci, précisément en raison d'approches spécifiquement humaines envers le monde environnant, ont toujours une dimension éthique, strictement liée aux décisions de ceux qui planifient l'expérimentation et orientent la production vers des objectifs particuliers.

Cela s’applique également aux formes d’intelligence artificielle pour lesquelles il n’existe pas encore de définition univoque dans le monde de la science et de la technologie. Le terme lui-même, déjà entré dans le langage courant, englobe une variété de sciences, théories et techniques visant à faire reproduire ou imiter par les machines, dans leur fonctionnement, les capacités cognitives des êtres humains. Parler au pluriel des « formes d’intelligence » peut contribuer à souligner avant tout le fossé infranchissable qui existe entre ces systèmes et la personne humaine, aussi surprenants et puissants soient-ils. Celles-ci sont finalement « fragmentaires », dans le sens où elles ne peuvent qu’imiter ou reproduire certaines fonctions de l’intelligence humaine. L’usage du pluriel fait aussi comprendre que ces dispositifs, très différents les uns des autres, doivent toujours être considérés comme des « systèmes socio-techniques ». En effet, leur impact, quelle que soit la technologie sous-jacente, dépend non seulement du projet, mais aussi des objectifs et intérêts de ceux qui les possèdent et de ceux qui les développent, ainsi que des situations dans lesquelles ils sont utilisés.

L’intelligence artificielle doit donc être comprise comme une galaxie de réalités différentes et on ne peut pas supposer a priori que son développement apportera une contribution bénéfique à l’avenir de l’humanité et à la paix entre les peuples. Un résultat aussi positif ne sera possible que si nous sommes capables d’agir de manière responsable et de respecter les valeurs humaines fondamentales telles que « l’inclusion, la transparence, la sécurité, l’équité, la vie privée et la responsabilité ». [5]

Il ne suffit même pas d’assumer, de la part de ceux qui projettent les algorithmes et les technologies numériques, un engagement à agir de manière éthique et responsable. Des organismes doivent être renforcés ou, si nécessaire, créés pour examiner les questions éthiques émergentes et protéger les droits de ceux qui utilisent ou sont influencés par des formes d’intelligence artificielle. [6]

L'immense expansion de la technologie doit donc s'accompagner, pour son développement, d'une formation adéquate à la responsabilité. La liberté et la coexistence pacifique sont menacées lorsque les êtres humains cèdent à la tentation de l’égoïsme, de l’intérêt personnel, du désir de profit et de la soif de pouvoir. Nous avons donc le devoir d'élargir notre vision et d'orienter la recherche technico-scientifique vers la réalisation de la paix et du bien commun, au service du développement intégral de l'homme et de la communauté. [7]

La dignité intrinsèque de chaque personne et la fraternité qui nous lie en tant que membres d'une même famille humaine doivent être à la base du développement des nouvelles technologies et servir de critères incontestables pour les évaluer avant leur utilisation, afin que le progrès numérique puisse se réaliser avec respect de la justice et contribuer à la cause de la paix. Les développements technologiques qui ne conduisent pas à une amélioration de la qualité de vie de toute l’humanité, mais aggravent au contraire les inégalités et les conflits, ne peuvent pas être considérés comme un véritable progrès. [8]

L’intelligence artificielle deviendra de plus en plus importante. Les défis qu’elle pose ne sont pas seulement techniques, mais aussi anthropologiques, éducatifs, sociaux et politiques. Il promet, par exemple, des économies d’efforts, une production plus efficace, des transports plus agiles et des marchés plus dynamiques, ainsi qu’une révolution dans les processus de collecte, d’organisation et de vérification des données. Il est nécessaire d'être conscient des transformations rapides qui se produisent et de les gérer de manière à pouvoir sauvegarder les droits humains fondamentaux, dans le respect des institutions et des lois qui favorisent le développement humain intégral. L’intelligence artificielle doit être au service du plus grand potentiel humain et de nos aspirations les plus élevées, et non en concurrence avec eux.

3. La technologie du futur : des machines qui apprennent toutes seules
Sous ses multiples formes, l’intelligence artificielle, basée sur des techniques d’apprentissage automatique , bien qu’encore à une phase pionnière, introduit déjà des changements notables dans le tissu social, exerçant une profonde influence sur les cultures, les comportements sociaux et la consolidation de la paix.

Des développements tels que l’apprentissage automatique ou l’apprentissage profond soulèvent des questions qui transcendent les domaines de la technologie et de l’ingénierie et concernent une compréhension strictement liée au sens de la vie humaine, aux processus fondamentaux de la connaissance et à la capacité de l’esprit à atteindre la vérité.

La capacité de certains appareils à produire des textes cohérents syntaxiquement et sémantiquement, par exemple, n’est pas une garantie de fiabilité. On dit qu’ils peuvent « halluciner », c’est-à-dire générer des affirmations qui semblent plausibles à première vue, mais qui en réalité sont infondées ou révèlent des préjugés. Cela crée un problème sérieux lorsque l’intelligence artificielle est utilisée dans des campagnes de désinformation qui diffusent de fausses nouvelles et conduisent à une méfiance croissante à l’égard des médias. La confidentialité, la détention de données et la propriété intellectuelle sont d'autres domaines dans lesquels les technologies en question présentent de graves risques, auxquels s'ajoutent d'autres conséquences négatives liées à leur utilisation inappropriée, telles que la discrimination, l'ingérence dans les processus électoraux, la mise en place d'une société qui surveille et contrôle des personnes, exclusion numérique et intensification d’un individualisme de plus en plus déconnecté de la communauté. Tous ces facteurs risquent d’alimenter les conflits et d’entraver la paix.

4. Le sens de la limite dans le paradigme technocratique
Notre monde est trop vaste, varié et complexe pour être complètement connu et classé. L’esprit humain ne pourra jamais épuiser ses richesses, même avec l’aide des algorithmes les plus avancés. En effet, celles-ci n'offrent pas de prévisions garanties sur l'avenir, mais seulement des approximations statistiques. Tout ne peut pas être prédit, tout ne peut pas être calculé ; En fin de compte, « la réalité est supérieure à l'idée » [9] et, si prodigieuse que soit notre capacité de calcul, il restera toujours un résidu inaccessible qui échappe à toute tentative de quantification.

Par ailleurs, la grande quantité de données analysées par l’intelligence artificielle n’est pas en soi une garantie d’impartialité. Lorsque les algorithmes extrapolent des informations, ils courent toujours le risque de les déformer, reproduisant les injustices et les préjugés des environnements dans lesquels ils sont issus. Plus ils deviennent rapides et complexes, plus il est difficile de comprendre pourquoi ils ont généré un certain résultat.

Les machines intelligentes peuvent accomplir les tâches qui leur sont assignées avec une efficacité croissante, mais le but et la signification de leurs opérations continueront d’être déterminés ou rendus possibles par les êtres humains qui possèdent leur propre univers de valeurs. Le risque est que les critères qui sous-tendent certaines décisions deviennent moins transparents, que la responsabilité décisionnelle soit cachée et que les producteurs puissent se soustraire à l'obligation d'agir pour le bien de la communauté. D'une certaine manière, cela est favorisé par le système technocratique, qui allie l'économie à la technologie et privilégie le critère d'efficacité, tendant à ignorer tout ce qui n'est pas lié à ses intérêts immédiats. [10]

Cela devrait nous faire réfléchir sur le « sens de la limite », un aspect souvent négligé dans la mentalité technocratique et efficace actuelle, et pourtant déterminant pour le développement personnel et social. L'être humain, en effet, mortel par définition, pensant dépasser toutes les limites grâce à la technologie, court le risque, dans l'obsession de vouloir tout contrôler, de perdre le contrôle de lui-même, et dans la recherche d'une liberté absolue, de tomber dans la spirale d’une dictature technologique. Reconnaître et accepter sa propre limite en tant que créature est pour l'homme une condition indispensable pour atteindre ou, mieux encore, pour accueillir la plénitude comme un don. D’un autre côté, dans le contexte idéologique d’un paradigme technocratique, animé par une présomption prométhéenne d’autosuffisance, les inégalités pourraient se creuser de manière disproportionnée et les connaissances et les richesses s’accumuler entre les mains de quelques-uns, avec de sérieux risques pour les sociétés démocratiques et la coexistence pacifique. . [11]

5. Sujets brûlants pour l’éthique
À l’avenir, la fiabilité d’une personne demandant un prêt, l’aptitude d’une personne à un emploi, la possibilité de récidive d’une personne condamnée ou le droit à l’asile politique ou à l’assistance sociale pourraient être déterminés par des systèmes d’intelligence artificielle. Le manque de niveaux de médiation diversifiés que ces systèmes introduisent est particulièrement exposé à des formes de préjugés et de discrimination. Les erreurs systémiques peuvent facilement se multiplier, produisant non seulement des injustices dans des cas spécifiques mais aussi, par effet domino, de véritables formes d’inégalité sociale.

Par ailleurs, les formes d'intelligence artificielle semblent souvent capables d'influencer les décisions des individus via des options prédéterminées associées à des stimuli et à la persuasion, ou via des systèmes de régulation des choix personnels basés sur l'organisation de l'information. Ces formes de manipulation ou de contrôle social nécessitent une attention et une supervision précises et impliquent une responsabilité juridique claire de la part des producteurs, de ceux qui les utilisent et des autorités gouvernementales.

Le recours à des processus automatiques de classification des individus, par exemple via le recours généralisé à la surveillance ou l’adoption de systèmes de crédit social, pourrait également avoir de profondes répercussions sur le tissu social, en établissant des catégorisations inappropriées parmi les citoyens. Et ces processus de classification artificielle pourraient même conduire à des conflits de pouvoir, non seulement à l’égard de destinataires virtuels, mais aussi à l’égard de personnes réelles. Le respect fondamental de la dignité humaine postule le refus que la singularité de la personne soit identifiée par un ensemble de données. Nous ne devons pas permettre aux algorithmes de déterminer la façon dont nous comprenons les droits de l’homme, d’ignorer les valeurs essentielles de compassion, de miséricorde et de pardon, ou d’éliminer la possibilité pour un individu de changer et de laisser le passé derrière lui.

Dans ce contexte, nous ne pouvons manquer de considérer l’impact des nouvelles technologies sur le lieu de travail. Les emplois qui étaient autrefois réservés exclusivement au travail humain sont rapidement absorbés par les applications industrielles de l’intelligence artificielle. Ici aussi, il existe un risque important que des bénéfices disproportionnés profitent à quelques-uns au détriment de l’appauvrissement d’un grand nombre. Le respect de la dignité des travailleurs et l'importance de l'occupation pour le bien-être économique des individus, des familles et des sociétés, la sécurité de l'emploi et l'équité salariale devraient être une priorité élevée pour la communauté internationale, à mesure que ces formes de technologie sont de plus en plus introduites dans le monde. lieu de travail.

6. Devons-nous transformer les épées en socs de charrue ?
De nos jours, en regardant le monde qui nous entoure, nous ne pouvons éviter les graves questions éthiques liées au secteur de l’armement. La possibilité de mener des opérations militaires à l’aide de systèmes télécommandés a conduit à une moindre perception des ravages qu’ils ont causés et de la responsabilité liée à leur utilisation, contribuant ainsi à une approche encore plus froide et distante de l’immense tragédie de la guerre. La poursuite des technologies émergentes dans le domaine des « systèmes d’armes autonomes létaux », y compris l’utilisation de l’intelligence artificielle dans les combats, est une source majeure de préoccupation éthique. Les systèmes d’armes autonomes ne peuvent jamais être des sujets moralement responsables. La capacité humaine exclusive de jugement moral et de décision éthique est plus qu’un ensemble complexe d’algorithmes, et cette capacité ne peut être réduite à la programmation d’une machine qui, bien que « intelligente », reste toujours une machine. C’est pourquoi il est impératif d’assurer une surveillance humaine adéquate, significative et cohérente des systèmes d’armes.

Nous ne pouvons pas non plus ignorer la possibilité que des armes sophistiquées finissent entre de mauvaises mains, facilitant par exemple des attaques terroristes ou des actions visant à déstabiliser les institutions gouvernementales légitimes. En bref, la dernière chose dont le monde a besoin, c’est que les nouvelles technologies contribuent au développement injuste du marché et du commerce des armes, favorisant ainsi la folie de la guerre. S’il le fait, non seulement l’intelligence, mais le cœur même de l’homme risquent de devenir de plus en plus « artificiels ». Les applications techniques les plus avancées ne doivent pas être utilisées pour faciliter la résolution violente des conflits, mais pour ouvrir la voie à la paix.

Dans une perspective plus positive, si l'intelligence artificielle était utilisée pour promouvoir le développement humain intégral, elle pourrait introduire d'importantes innovations dans l'agriculture, l'éducation et la culture, une amélioration du niveau de vie de nations et de peuples entiers, la croissance de la fraternité humaine et sociale. . En fin de compte, la façon dont nous l’utilisons pour inclure les plus petits, c’est-à-dire les frères et sœurs les plus faibles et les plus nécessiteux, est la mesure qui révèle notre humanité.

Une perspective humaine et le désir d'un avenir meilleur pour notre monde conduisent à la nécessité d'un dialogue interdisciplinaire visant au développement éthique des algorithmes - l'algorithmique -, dans lequel les valeurs guident les itinéraires des nouvelles technologies. [12] Les questions éthiques doivent être prises en compte dès le début de la recherche, ainsi que dans les phases d'expérimentation, de planification, de distribution et de commercialisation. Il s’agit d’une approche de l’éthique de la planification dans laquelle les établissements d’enseignement et les responsables du processus décisionnel ont un rôle essentiel à jouer.

7. Défis pour l'éducation
Le développement d’une technologie qui respecte et sert la dignité humaine a des implications évidentes pour les établissements d’enseignement et le monde de la culture. En multipliant les possibilités de communication, les technologies numériques nous ont permis de nouvelles façons de se rencontrer. Cependant, une réflexion permanente sur le type de relations auxquelles elle nous conduit reste nécessaire. Les jeunes grandissent dans des environnements culturels imprégnés de technologie et cela ne peut que remettre en question les méthodes d’enseignement et de formation.

L’éducation à l’utilisation des formes d’intelligence artificielle devrait avant tout se concentrer sur la promotion de la pensée critique. Il est nécessaire que les utilisateurs de tous âges, mais surtout les jeunes, développent une capacité de discernement dans l'utilisation des données et contenus obtenus sur le web ou produits par les systèmes d'intelligence artificielle. Les écoles, les universités et les sociétés scientifiques sont appelées à aider les étudiants et les professionnels à s’approprier les aspects sociaux et éthiques du développement et de l’utilisation de la technologie.

La formation à l'utilisation des nouveaux instruments de communication doit tenir compte non seulement de la désinformation, des fausses nouvelles, mais aussi de la montée inquiétante des « peurs ancestrales qui [...] ont su se cacher et se renforcer derrière les nouvelles technologies ». [13] Malheureusement, nous nous retrouvons une fois de plus confrontés à « la tentation de créer une culture des murs, de construire des murs pour empêcher la rencontre avec d’autres cultures, avec d’autres personnes » [14] et le développement d’une coexistence pacifique et fraternelle.

8. Défis pour le développement du droit international
La portée mondiale de l’intelligence artificielle montre clairement que, parallèlement à la responsabilité des États souverains de discipliner leur utilisation en interne, les organisations internationales peuvent jouer un rôle décisif dans la conclusion d’accords multilatéraux et dans la coordination de leur application et de leur action. [15] À cette fin, j’exhorte la communauté des nations à travailler ensemble pour adopter un traité international contraignant qui réglemente le développement et l’utilisation de l’intelligence artificielle sous ses nombreuses formes. Naturellement, l’objectif de la réglementation ne devrait pas seulement être de prévenir les mauvaises pratiques, mais aussi d’encourager les meilleures pratiques, en stimulant des approches nouvelles et créatives et en facilitant les initiatives personnelles et collectives. [16]

En bref, dans la recherche de modèles réglementaires capables de fournir des orientations éthiques à ceux qui développent les technologies numériques, il est essentiel d'identifier les valeurs humaines qui devraient être à la base de l'engagement des sociétés à formuler, adopter et appliquer les cadres législatifs nécessaires. . El trabajo de redacción de las orientaciones éticas para la producción de formas de inteligencia artificial no puede prescindir de la consideración de cuestiones más profundas, relacionadas con el significado de la existencia humana, la tutela de los derechos humanos fundamentales y la búsqueda de la justicia y de la paix. Ce processus de discernement éthique et juridique peut se révéler comme une occasion précieuse de réflexion partagée sur le rôle que la technologie devrait avoir dans notre vie personnelle et communautaire et sur la manière dont son utilisation pourrait contribuer à la création d’un monde plus juste et plus humain. C’est pourquoi les discussions sur la réglementation de l’intelligence artificielle devraient prendre en compte la voix de toutes les parties prenantes, y compris les pauvres, les marginalisés et d’autres qui sont souvent ignorés dans les processus décisionnels mondiaux.

* * * * *

J'espère que cette réflexion encouragera les progrès dans le développement de formes d'intelligence artificielle pour contribuer, à terme, à la cause de la fraternité humaine et de la paix. Ce n’est pas la responsabilité de quelques-uns, mais de la famille humaine tout entière. La paix, en effet, est le fruit de relations qui reconnaissent et accueillent l'autre dans sa dignité inaliénable, ainsi que de coopération et d'efforts dans la recherche du développement intégral de tous les hommes et de tous les peuples.

Ma prière en ce début d'année est que le développement rapide des formes d'intelligence artificielle n'augmentera pas les inégalités et injustices déjà nombreuses présentes dans le monde, mais contribuera à mettre fin aux guerres et aux conflits, et à atténuer tant de formes de souffrance qui affecter la famille humaine. Que les fidèles chrétiens, les croyants de différentes religions et les hommes et femmes de bonne volonté puissent collaborer en harmonie pour profiter des opportunités et faire face aux défis posés par la révolution numérique, et laisser aux générations futures un monde plus solidaire, plus juste et plus pacifique. . .

Vatican, le 8 décembre 2023

Notes :
[1] N° 33.
[2] Idem. , Non. 57.
[3] Cf. Lettre enc. Laudato si' (24 mai 2015), 104.
[4] Cf. ibid. , 114.
[5] Discours aux participants à la réunion « Minerva Dialogues » (27 mars 2023).
[6] Cf. ibid.
[7] Cf. Message au président exécutif du « Forum économique mondial » de Davos-Klosters (12 janvier 2018).
[8] Cf. Lettre enc. Laudato si' , 194 ; Discours aux participants d'un séminaire sur « Le bien commun à l'ère numérique » (27 septembre 2019).
[9] Exhortez. ap. Evangelii gaudium (24 novembre 2013), 233.
[10] Cf. Lettre. enc. Laudato si' , 54.
[11] Cf. Discours aux participants à la plénière de l'Académie pontificale pour la vie (28 février 2020).
[12] Cf. ibid.
[13] Lettre enc. Fratelli tutti (3 octobre 2020), 27.
[14] Cf. ibid.
[15] Cf. ibid. , 170-175.
[16] Cf. Lettre enc. Laudato si' , 177.