Voici quelques extraits choisis de la Lettre encyclique « Magnifica Humanitas » du pape Léon XIV « sur la protection de la personne humaine à l’ère de l’intelligence artificielle ».

[Il s’agit là d’un texte majeur, de portée universelle, quant à la réflexion philosophique qu’il initie, et quant aux pistes d’action politique et sociale de grande envergure, qu’il suggère et assume.]

L’intelligence artificielle

97. Ce n’est pas mon intention de proposer ici une analyse sur l’intelligence artificielle, ni de s’attarder sur une bibliographie désormais très abondante ; il existe déjà des contributions faisant autorité, y compris dans le domaine ecclésial, auxquelles il est possible de se référer. [123] Je me limiterai à rappeler quelques éléments essentiels pour un discernement moral et social qui préserve le primat de la personne, afin que ce soit toujours l’intelligence humaine, avec sa conscience et sa liberté, qui guide les innovations techniques et en établisse avec responsabilité l’usage et les limites.

98. Il convient de formuler deux remarques préliminaires : la première est que toute affirmation concernant l’IA risque de devenir rapidement obsolète, compte tenu de la vitesse impressionnante à laquelle ces systèmes évoluent. La seconde est que nous tous, y compris ceux qui les conçoivent, en savons peu sur leur fonctionnement réel. Les intelligences artificielles modernes sont en effet davantage “cultivées ” que “construites” : les développeurs n’en conçoivent pas directement chaque détail, mais créent une architecture sur laquelle l’IA “se développe”. En conséquence, des aspects scientifiques fondamentaux – tels que les représentations internes et les processus computationnels de ces systèmes – restent pour l’instant inconnus. Il en résulte donc l’urgence d’un double engagement : d’une part, un approfondissement de la recherche scientifique ; d’autre part, un exercice de discernement moral et spirituel.

99. Il n’est pas possible de donner une définition univoque et complète de l’IA. Ce que nous pouvons affirmer, c’est qu’il faut éviter l’erreur consistant à assimiler cette intelligence à l’intelligence humaine. Ces systèmes imitent certaines fonctions de l’intelligence humaine. Ce faisant, ils la surpassent souvent en termes de vitesse et d’ampleur de calcul, offrant des avantages concrets dans de nombreux domaines. Et pourtant, cette puissance reste exclusivement liée au traitement des données : les prétendues intelligences artificielles ne vivent pas d’expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur, ne mûrissent pas dans la relation, ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié, la responsabilité. Elles n’ont pas de conscience morale : elles ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations, n’assument pas le poids des conséquences. Elles peuvent imiter des langages, des comportements, des évaluations, elles peuvent simuler de l’empathie ou de la compréhension, mais elles ne comprennent pas ce qu’elles produisent, car elles n’habitent pas l’horizon affectif, relationnel et spirituel dans lequel l’humain devient sage. Même lorsque ces outils sont présentés comme capables d’“apprendre”, leur manière de le faire diffère de celle de l’être humain. Il ne s’agit pas de l’expérience de celui qui se laisse façonner par la vie et grandit au fil du temps à travers ses choix, ses erreurs, le pardon et la fidélité ; il s’agit plutôt d’une adaptation statistique à partir de données et de résultats qui peut s’avérer très efficace, mais qui n’implique pas de croissance intérieure.

[…]

Responsabilité, transparence et gouvernance de l’IA

102. L’utilisation de l’IA n’est jamais un fait purement technique : lorsqu’elle intervient dans des processus qui ont une incidence sur la vie des personnes, elle touche aux droits, aux opportunités, à la réputation et à la liberté. Des décisions délicates qui touchent au travail, au crédit, à l’accès aux services et à la réputation des personnes risquent d’être entièrement confiées à des systèmes automatisés qui ne connaissent pas « la compassion, la miséricorde, le pardon et, surtout, l’ouverture à l’espérance d’un changement de la personne », [125] et peuvent ainsi engendrer de nouvelles formes d’exclusion. Il peut y avoir des utilisations manifestement inhumaines, comme la manipulation de l’information ou la violation de la vie privée, mais il peut aussi y avoir un danger moins évident, lorsque les systèmes d’IA, se présentant comme neutres et objectifs, reflètent et renforcent les stéréotypes ou les positions idéologiques de ceux qui les ont conçus et formés.

103. Confier, dans les faits, à un algorithme le pouvoir de sélectionner qui mérite et qui ne mérite pas sans que personne n’assume plus le poids de cette décision, revient à lui confier la tâche de redéfinir les limites des possibilités humaines. Ce qui fait défaut dans ce processus, ce n’est pas seulement l’empathie envers l’exclu, qui peut être imitée artificiellement, mais la responsabilité politique, car l’écartement des plus faibles est revêtu de neutralité et d’objectivité, face auxquelles il est impossible de protester. Ainsi, l’injustice devient silencieuse, et la compassion, la miséricorde et le pardon, non pas comme de simples apparences, mais comme des gestes politiques disparaissent de l’horizon.

104. Il en découle une conséquence simple mais incontournable : nous ne pouvons pas considérer l’IA comme moralement neutre. En réalité, tout dispositif technique implique des choix et des priorités : ce qu’il mesure, ce qu’il ignore, ce qu’il optimise, et la manière dont il classe les personnes et les situations. Si un système est conçu ou utilisé de manière à traiter certaines vies comme moins dignes ou à les exclure sans possibilité d’appel, il ne s’agit pas d’un simple instrument “à bien utiliser” ; il introduit déjà un critère qui contredit la dignité inaliénable de la personne. C’est pourquoi le discernement éthique ne peut se limiter à se demander si nous utilisons un certain système à des fins bonnes ou mauvaises, mais doit également s’interroger sur la manière dont il est conçu et sur la conception de la personne et de la société qui est inscrite dans les données et les modèles qui le guident. [126]

105. Pour que l’IA respecte la dignité humaine et serve véritablement le bien commun, il est essentiel que les responsabilités soient clairement définies à chaque étape : depuis ceux qui conçoivent et programment les systèmes jusqu’à ceux qui les utilisent ou ceux qui décident de leur confier des choix concrets. Cependant, dans de nombreux cas, les processus internes qui mènent à un résultat peuvent manquer de transparence, ce qui rend plus difficile l’attribution des responsabilités et la correction des erreurs. C’est là que la responsabilité devient décisive, à savoir la possibilité d’identifier qui doit “rendre compte” des décisions, les motiver, les contrôler et, si nécessaire, les contester et réparer les dommages qui en dérivent. [127]

[…]

107. Nous ne pouvons pas nous contenter d’invoquer la moralisation de la machine, ce qu’on appelle “l’alignement” de l’IA sur les valeurs humaines, sans avoir le courage de poser une condition supplémentaire : la possibilité de débattre du code éthique à utiliser, en le soumettant à des critères de justice sociale partagés. Sans cela ceux qui contrôlent l’IA imposeront leur propre vision morale qui deviendra l’infrastructure invisible des systèmes. Une IA plus morale ne sert à rien si cette morale est décidée par une poignée de personnes. Il faut une politique plus présente, capable de ralentir là où tout s’accélère et de protéger les espaces où les communautés peuvent encore participer et s’interroger.

108. En effet, comme c’est le cas pour toute grande avancée technologique, l’IA tend surtout à renforcer le pouvoir de ceux qui disposent déjà de ressources économiques, de compétences et de l’accès aux données. À la lumière du bien commun et de la destination universelle des biens, ce phénomène suscite de sérieuses préoccupations : de petits groupes très influents peuvent orienter l’information et la consommation, conditionner les processus démocratiques et influencer les dynamiques économiques à leur avantage, en contradiction avec la justice sociale et la solidarité entre les peuples. C’est pourquoi il est indispensable que l’utilisation de l’IA – surtout lorsqu’elle touche aux biens publics et aux droits fondamentaux – s’accompagne de critères clairs et de contrôles effectifs, inspirés de la participation et de la subsidiarité : les communautés et les corps intermédiaires ne peuvent être réduits à de simples destinataires de décisions prises ailleurs, mais doivent pouvoir contribuer au discernement et à la vigilance. En outre, la propriété des données ne peut être confiée uniquement à des acteurs privés, mais doit être réglementée. Elles sont le fruit de la contribution de nombreux acteurs et ne peuvent être vendues ou confiées à quelques-uns. Une créativité capable de les gérer comme un bien commun ou collectif est nécessaire, dans une logique de partage, comme le suggérait déjà saint Jean-Paul II à propos des biens collectifs. [128]

109. Les principes de la Doctrine sociale nous aident à lire cette nouvelle réalité. Dans un monde où quelques sujets concentrent les données, les ressources informatiques et le pouvoir réglementaire, parler de bien commun signifie démasquer cette nouvelle asymétrie épistémique, économique et politique, en dénonçant les nouveaux monopoles de l’IA. Parler de destination universelle des biens signifie trouver des moyens d’assurer l’accès universel aux technologies et à la formation. Parler de subsidiarité exige de protéger la capacité des communautés à choisir et à corriger, sans reléguer leur intervention à un simple rôle de surveillance, une fois que les normes ont été établies ailleurs. Parler de solidarité oblige à reconnaître le travail invisible, souvent exploité, qui alimente les modèles algorithmiques. Parler de justice impose de s’interroger sur les géographies du pouvoir définissant qui peut entraîner les modèles et qui n’est qu’objet d’entraînement, et de reconnaître que la justice sociale n’est pas seulement un objectif à protéger après l’adoption des technologies, mais une condition préalable à mettre en œuvre dès leur conception.

110. Je voudrais enfin employer un mot qui me tient à cœur : “désarmer”. Désarmer l’IA, c’est la soustraire à la logique de la compétition armée qui n’est plus aujourd’hui seulement militaire, mais aussi économique et cognitive. C’est la course à l’algorithme le plus performant et à la banque de données la plus vaste dans le but de consolider un avantage géopolitique ou commercial sur tous les autres. Désarmer, c’est rompre cette équivalence entre la puissance technique et le droit de gouverner. Désarmer ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain. Cela signifie la soustraire aux monopoles, la rendre discutable, contestable, et donc habitable, en la restituant à la pluralité des cultures humaines et des formes de vie. La tâche, aujourd’hui, n’est pas seulement éthique ou technique : elle est écologique au sens le plus radical, car elle met en jeu une nouvelle dimension de notre Maison commune. L’IA est déjà un environnement dans lequel nous sommes immergés et un pouvoir avec lequel nous devons composer. C’est pourquoi il ne suffit pas de la réglementer : elle doit être désarmée et rendue accessible.

111. J’adresse un appel particulier à ceux qui développent les intelligences artificielles. L’innovation technologique peut être, d’une certaine manière, une forme humaine de participation à l’acte divin de la création. Les développeurs portent donc une responsabilité éthique et spirituelle particulière, car chaque choix de conception exprime une vision de l’humanité. Tout comme l’auteur d’une œuvre artistique ou littéraire est tenu de prendre en compte les valeurs qu’elle exprime, ils sont appelés à traiter avec le sérieux qui s’impose les valeurs qu’ils insufflent à leurs projets : avec transparence, avec responsabilité envers les communautés impliquées et en veillant à vérifier que ce qui est cultivé est véritablement un bien.

Ce que nous ne pouvons pas perdre

112. Après avoir rappelé les questions de responsabilité et de gouvernance de l’IA, il faut revenir à notre thème central : que signifie préserver l’humain ? Le risque n’est pas seulement que certaines technologies soient mal utilisées, mais que le paradigme technocratique dans lequel nous sommes plongés, renforcé par la révolution numérique et l’IA, fasse passer pour juste et normale une vision anti-humaine, selon laquelle la plénitude de la vie consisterait à avoir plus, à réduire la fragilité, à éliminer l’imprévu, à contrôler chaque chose. Lorsque l’efficacité devient la mesure de la valeur, l’être humain est tenté de se considérer comme un projet à optimiser plutôt que comme une créature appelée à la relation et à la communion.

[…]

Récits de fond : transhumanisme et posthumanisme

115. En essayant de faire émerger les présupposés culturels qui accompagnent la révolution numérique en cours, je voudrais maintenant m’intéresser à certains courants qui interprètent le progrès comme un dépassement de l’humain et que l’on peut regrouper sous les noms de transhumanisme et de posthumanisme. Ils constituent les fondements idéologiques qui animent certains centres de pouvoir technologique et colonisent l’imaginaire collectif sous une forme simplifiée, en particulier dans les médias et sur les réseaux sociaux, entraînant l’enthousiasme pour les nouvelles technologies d’une vision futuriste de l’ “homme amélioré” ou de l’ “homme hybridé” avec la machine.

116. Le transhumanisme et le posthumanisme comprennent en leur sein une multitude de courants et de sensibilités, et il est difficile d’en donner une description univoque. On peut les comparer à un archipel d’îles conceptuelles différentes, reliées toutefois par le même océan de présupposés : la centralité de la technique et le rêve de dépasser les limites de la condition humaine. En général, le transhumanisme imagine un renforcement de l’être humain grâce aux technologies (biomédecine, ingénierie corporelle, dispositifs, algorithmes), avec l’ambition d’accroître les performances et les capacités. Le posthumanisme, surtout dans ses versions les plus radicales, va plus loin : il critique l’anthropocentrisme et envisage une forme d’hybridation entre l’être humain, la machine et l’environnement, allant jusqu’à imaginer un franchissement de seuil où l’humanité se surpassera en entrant dans une nouvelle étape évolutive. Même si ces hypothèses restent en grande partie spéculatives, elles acquièrent une importance, car elles modifient l’imaginaire collectif et, par conséquent, orientent les choix sociaux, économiques et politiques. [129]

117. À la lumière de la Doctrine sociale de l’Église, le point crucial n’est pas l’usage de la technique en tant que telle, mais la vision qui la sous-tend : si l’être humain est traité comme un matériau à perfectionner ou à surpasser, il devient alors plus facile d’accepter que certains soient considérés comme moins utiles, moins désirables, moins dignes. Au nom du progrès, on peut en venir à imaginer des “sacrifices nécessaires” et à faire payer aux plus fragiles le prix d’une prétendue optimisation de l’espèce. L’avertissement déjà mentionné de saint Paul VI reste alors d’une grande clairvoyance : ce sont véritablement les acquis de la science et de la technique libérés du progrès moral et social qui finissent par se retourner contre l’homme. [130] C’est pourquoi il faut distinguer clairement : une chose est d’intégrer les technologies dans une vision humaine et relationnelle ; une autre est de se laisser guider par un imaginaire qui minimise les limites et promet un “salut” purement technique.

118. Notre rapport à la vie semble aujourd’hui en crise. Tout ce qui apparaît comme une “limite” – incapacité, maladie, vieillesse, souffrance, vulnérabilité – tend à être perçu avant tout comme un défaut à corriger, plutôt qu’un espace où l’humain mûrit et s’ouvre à la relation. Or, nous devons nous rappeler que l’humain ne s’épanouit pas malgré la limite, mais souvent à travers la limite. Une vision de la réalité à la lumière de la foi aide à reconnaître ce que nous appelons la “contingence” des choses de ce monde. Si, d’une part, il est de notre devoir d’essayer d’éliminer la souffrance qui marque la vie humaine, d’autre part, il est sage de reconnaître notre finitude constitutive, sachant que « l’expérience religieuse, et en particulier la foi chrétienne, proposent d’habiter, sans simplifications, cette ambivalence entre la grandeur et la limite de l’humain, en la lisant à la lumière de la relation originelle et fondatrice avec Dieu ». [131]

119. C’est précisément dans notre nature limitée que trouvent leur place la compassion, la sincère préoccupation face aux besoins des autres, la générosité qui surprend même au milieu des ténèbres et de l’échec, l’expérience spirituelle et l’adoration de Dieu. Nous le constatons dans de nombreux moments où la limite se fait concrète dans notre vie, lorsque nous essuyons un refus, lorsque nous souffrons de la maladie ou de la mort d’un être cher, lorsque nous faisons l’expérience de l’incapacité ou de l’échec. Mystérieusement, c’est précisément dans ces moments-là que nous pouvons trouver une sagesse nouvelle, toucher de nos mains l’affection des gens et expérimenter la présence du Seigneur.

120. Même lorsque la limite se manifeste par des souffrances intérieures, la sagesse humaine nous enseigne à ne pas la refouler ni la réprimer, mais à l’intégrer. Pour éliminer totalement la douleur, il faudrait, au fond, éteindre aussi l’amour et le désir. En effet, celui qui aime et désire ne peut éviter de passer par l’épreuve et la souffrance, et c’est pourquoi, au fil des ans, nous gardons en nous des enseignements qui s’impriment comme des cicatrices, mémoire du chemin parcouru entre liberté et chutes, rêves et déceptions. Ce n’est que grâce à l’entrelacement de ces éléments que, dans le cœur, se produisent ces merveilles de l’âme qui nous font savourer la saveur la plus douce de notre humanité. [132] Renoncer à cette aventure, à la fois dramatique et splendide, au nom d’un prétendu dépassement de toutes les limites, pourrait signifier bien des choses mais pas être humain.