Brève présentation de l’encyclique de Léon XIV, Magnifique humanité
Le choix d’un nom par un pape est expressif du programme qu’il se donne. François a axé son pontificat sur la simplicité, les pauvres, le respect de la création. Léon XIV se situe dans la lignée de son prédécesseur Léon XIII qui entendit établir des relations apaisées et confiantes entre la société issue du XIXe siècle et l’Eglise catholique ; son pontificat fut marqué par une de ses encycliques Rerum novarum, première grande encyclique sociale des temps contemporains.
Léon XIV publie à son tour une encyclique sociale qu’il situe dans la lignée de celle de son prédécesseur ; il l’exprime explicitement. En son temps, Léon XIII entendit parler des « choses nouvelles » qui étaient apparues dans son siècle ; Léon XIV parle aussi d’autres choses, elles aussi nouvelles, le numérique et l’IA. Mais, auparavant, il propose une rétrospective de ce que l’on appelle la Doctrine sociale de l’Eglise catholique. Les deux premiers chapitres de cette encyclique lui sont consacrés.
« La Doctrine sociale de l’Eglise n’est pas un ensemble statique de concepts, mais un corpus vivant de vérités qui préserve et interprète la vocation de l’humanité à une vie pleine et juste » n° 3. « La Doctrine sociale de l’Eglise apparaît sous son jour le plus authentique : non pas un recueil de principes et de normes à appliquer, mais un chemin de discernement communautaire. Elle naît de la rencontre entre la vérité éternelle de l’Evangile et les questions de l’histoire, elle se laisse interroger par les signes des temps ; elle se nourrit de la contribution des sciences, des cultures et des expériences humaines » n° 27.
Faire des choix, c’est demeurer humains
L’introduction de Magnifique humanité propose une mise en regard originale de deux textes bibliques : la construction de la tour de Babel (Genèse 11) et la reconstruction du Temple de Jérusalem au retour de l’exil à Babylone (Néhémie 1-2).
« La magnifique humanité créée par Dieu se trouve aujourd’hui face à un choix décisif : ériger une nouvelle tour de Babel ou bâtir la cité où Dieu et l’humanité habitent ensemble. Chaque génération reçoit en héritage la tâche de façonner son époque : faire mûrir l’histoire comme un lieu où la dignité de toute personne est préservée, la justice promue et la fraternité rendue possible. Mais sur chaque époque pèse le risque de construire un monde inhumain et plus injuste » n° 1.
« Babel révèle la limite de toute construction qui, aussi grandiose soit-elle, naît de l’absolutisation de l’humain et de sa prétention à l’autosuffisance, sacrifie la dignité des personnes à l’efficacité et aspire à atteindre le ciel sans la bénédiction de Dieu » n° 7.
« Le récit de Néhémie 1-2 (la reconstruction du Temple après l’exil) montre comment la ville renaît non pas grâce à l’initiative d’une seule personne mais grâce à la responsabilité partagée de tout le peuple : prêtres, artisans, chefs de famille, femmes et jeunes. C’est une œuvre qui a Dieu au centre et qui rétablit les liens avant même de poser les pierres » n° 8.
Chaque génération d’humanité est placée devant des choix ; aujourd’hui ceux-ci nous situent face à la technologie.
« Au fil des siècles, le développement technologique a contribué à une amélioration significative des conditions de vie de l’humanité ; en même temps, chaque étape du progrès a également révélé le visage ambigu d’outils susceptibles de causer du tort parce qu’ils ne sont pas mis au service du bien » n° 4.
Léon XIV décline ces choix en quatre points :
- « Le premier choix ne se situe pas entre un ‘’oui’’ et un ‘’non’’ à la technologie, mais entre bâtir Babel et reconstruire Jérusalem ; entre un pouvoir qui prétend dominer le ciel et un peuple qui, en présence de Dieu, se met à travailler de manière unie pour relever les murs de la coexistence fraternelle » n° 9.
- « Édifier dans le bien signifie accepter les limites et la fragilité de l’humanité sans les considérer comme une erreur à corriger » n° 12.
- « En troisième lieu, construire un monde où chacun peut s’épanouir exige une coresponsabilité courageuse. […]
À chacun sa partie du mur : scientifiques et chercheurs, entrepreneurs et travailleurs, éducateurs et législateurs, société civile, mouvements populaires et communautés de foi. Telle est la logique de la subsidiarité qui valorise la coopération entre les générations » n° 13. - « Enfin, édifier dans le bien exige un langage évangélique. Evitons les mots qui humilient ou opposent. Choisissons la lumière qui éclaire et la franchise qui ouvre des voies » n° 14.
Poser des principes
Pour faire les choix face auxquels nous sommes, nous ne partons pas de rien ; l’Evangile, la conscience morale, la Doctrine sociale de l’Eglise donnent des repères qui éclairent et orientent.
Alors que notre époque renvoie chacun à lui-même, laisse entendre qu’échec ou réussite seraient dans les seules mains de la personne, et donc, que l’échec, la faiblesse, la fragilité seraient des sanctions méritées par celui ou celle qui n’a pas su se montrer fort, le pape Léon XIV insiste pour affirmer qu’une telle vision est tout le contraire de la grandeur de l’humanité.
« Parmi les idéologies, je considère comme particulièrement insidieuse celle qui laisse entendre que chaque personne devrait mériter ou justifier sa propre valeur, au point d’attribuer un très grand prix à celles qui sont les plus efficaces et les plus performantes. Dans une telle perspective, la personne finit par être réduite à un moyen pour obtenir des résultats, à une ressource à utiliser ou à exploiter, et n’est plus reconnue comme une fin en soi, jamais à instrumentaliser. Or la valeur de la personne ne dépend pas de ce qu’elle réalise ou produit, il existe des droits qui sont dus à tous du simple fait qu’ils sont des personnes. Aucun pouvoir humain ne peut légitimement les nier ou les limiter arbitrairement » n° 51. « La dignité fondamentale de chaque personne ne s’acquiert pas, ne se mérite pas et n’a pas besoin d’être démontrée » n° 53.
Dès lors, ainsi que l’affirme sans cesse l’Eglise, les biens, matériels, techniques, technologiques ne sont pas la propriété de ceux qui en héritent ou s’en emparent, ils sont destinés à tous.
« J’estime qu’aujourd’hui, pour préserver la personne humaine à l’ère de l’intelligence artificielle, nous devons revenir à une réflexion sur le bien commun, sur la destination universelle des biens, sur la subsidiarité, sur la solidarité et sur la justice sociale » n° 46.
« Aujourd’hui, parmi les biens universellement destinés à tous, nous devons également compter des nouvelles formes de propriété : brevets, algorithmes, plateformes numériques, infrastructures technologiques, données. Dans un contexte où la richesse des nations dépend de plus en plus des connaissances et des technologies, quand ces biens se concentrent entre les mains de quelques-uns, sans forme adéquate de partage et d’accès, il se crée un nouveau déséquilibre contredisant la destination universelle des biens et alimentant le fossé entre les inclus et les exclus, entre ceux qui peuvent participer à la révolution numérique et ceux qui en restent à l’écart » n° 67.
Refuser toute fascination au sujet de l’IA
Ayant posé les principes, le pape peut alors développer une réflexion au sujet de la mal nommée « intelligence artificielle ». Elle n’est en effet ni intelligence – c’est un formidable calculateur –, ni artificielle – elle est le produit de technologies développées par des humains.
Léon XIV, comme d’autres auteurs, dénonce la fascination face à l’IA qui conduit à perdre tout jugement critique, ou à penser que les technologies s’imposeraient d’elles-mêmes et que rien ne pourrait être fait pour les contrôler, voire en restreindre l’usage. Or, de tels choix nous en faisons : ainsi, alors que nous sommes capables aujourd’hui de développer le clonage humain, les lois votées par les Parlements l’interdisent. S’interdire de poser des limites est un déni de liberté et de conscience. Aussi quant à l’IA, il est du devoir des Etats, mais aussi de chacun de dire « non » à certaines IA comme à certains de leurs usages. Si elles sont précieuses dans le domaine de la recherche scientifique comme dans l’exercice de la médecine, leur usage, dans l’ordre de la production de la pensée, est néfaste et destructeur, en particulier pour ce qui est de la pensée religieuse. Dieu est venu à la rencontre d’humains à la fois beaux et faillibles, non d’une prétendue et illusoire perfection. Vivre ou annoncer l’Evangile par l’IA pervertit le dessein de Dieu et aliène la pensée humaine. Il y a donc nécessité à exercer sa pensée critique, à tout sujet, et donc au sujet de l’IA.
« Les innovations technologiques – notamment l’intelligence artificielle – ne sont pas neutres : elles peuvent favoriser la participation et la justice, ou bien aggraver les inégalités, le contrôle et l’exclusion. C’est pourquoi elles doivent être évaluées à l’aune d’une question décisive : contribuent-elles réellement à faire grandir les personnes et les peuples en humanité et en fraternité, dans le respect de la Maison commune et des générations futures ? » n° 85.
« La technique n’est pas un simple instrument, lorsqu’elle devient un critère, elle finit par déterminer ce qui compte et ce qui peut être écarté, réduisant la création à un objet d’exploitation et les personnes à des rouages d’un système qu’il faut rendre toujours plus performant » n° 92.
Le pape ne se montre pas technophobe, mais techno-critique, ce que nous devrions être chacun :
« En soi, ces innovations peuvent devenir une aide précieuse pour le développement humain intégral et pour la sauvegarde de notre Maison commune. Mais, précisément en raison de leur puissance, elles peuvent agir comme un accélérateur du paradigme technocratique et nécessitent un nouveau cadre spirituel, éthique et politique. Plus puissant ne signifie pas nécessairement meilleur. En ce sens, les paroles de Romano Guardini restent d’actualité : ‘’L’homme moderne n’a pas reçu l’éducation nécessaire pour faire un bon usage de son pouvoir’’ » n° 93.
« La rapidité et la simplicité avec lesquelles il est possible d’obtenir des indications, des élaborations complexes, des contenus médiatiques et des formes d’assistance concrètes simplifient nos vies, mais peuvent aussi nous habituer à trop déléguer et à rechercher des réponses immédiates, affaiblissant notre jugement personnel et notre créativité. L’impression d’objectivité que les réponses et les propositions de ces systèmes peuvent susciter risque de nous faire oublier qu’elles reflètent les paramètres culturels de ceux qui les ont conçus et formés, avec toutes leurs qualités et leurs défauts. L’imitation artificielle d’une communication humaine positive – parole de conseil, d’empathie, d’amitié, d’amour – peut s’avérer gratifiante et même utile, mais chez des utilisateurs peu avertis, elle peut induire en erreur et donner l’illusion d’être en relation avec un sujet personnel authentique. Lorsque la parole est simulée, elle ne construit pas une relation, mais son apparence » n° 100.
Il s’agit également de prendre conscience qu’il n’y a rien de magique dans l’IA comme dans n’importe quelle technique ou technologie. Derrière elles se trouvent des intelligences humaines, mais aussi des projets économiques et politiques. La nature de ces projets doit toujours être prise en compte, elle est un critère décisif pour juger de la moralité de la technologie développée.
« Rien, dans le monde de l’IA, n’est immatériel ou magique. Chaque réponse qui semble immédiate et parfaite provient d’une longue chaîne de médiations, d’un vaste réseau de ressources naturelles, d’infrastructures énergétiques et, surtout, de personnes » n° 173. « Les systèmes d’IA actuels nécessitent de grandes quantités d’énergie et d’eau, ils ont un impact significatif sur les émissions de dioxyde de carbone et consomment des ressources de manière intensive » n° 101.
« Nous ne pouvons pas considérer l’IA comme moralement neutre. […] C’est pourquoi le discernement éthique ne peut se limiter à se demander si nous utilisons un certain système à des fins bonnes ou mauvaises, mais doit également s’interroger sur la manière dont il est conçu et sur la conception de la personne et de la société qui est inscrite dans les données et les modèles qui le guident » n° 104.
« Une IA plus morale ne sert à rien si cette morale est décidée par une poignée de personnes. Il faut une politique plus présente, capable de ralentir là où tout s’accélère et de protéger les espaces où les communautés peuvent encore participer et s’interroger » n° 107.
Parmi les critères de discernement, le pape Léon XIV, dans la droite ligne des enseignements du pape François, et surtout de la personne de Jésus Christ, pauvre parmi les pauvres, pose l’attention prioritaire à ce qui est fragile, loin de se laisser fasciner par le critère de l’efficacité.
« Lorsque l’efficacité devient la mesure de la valeur, l’être humain est tenté de se considérer comme un projet à optimiser plutôt que comme une créature appelée à la relation et à la communion » n° 112.
« La qualité d’une civilisation ne se mesure pas à la puissance de ses moyens, mais à l’attention qu’elle sait offrir, à sa capacité à reconnaître l’autre comme un visage et non comme une fonction. La capacité à prendre soin les uns des autres est une dimension importante de notre humanité » n° 114.
« Notre rapport à la vie semble aujourd’hui en crise. Tout ce qui apparaît comme une ‘’limite’’ – incapacité, maladie, vieillesse, souffrance, vulnérabilité – tend à être perçu avant tout comme un défaut à corriger, plutôt que comme un espace où l’humain mûrit et s’ouvre à la relation. Nous devons nous rappeler que l’humain ne s’épanouit pas malgré la limite mais souvent à travers la limite » n° 118.
« L’humanité – magnifique et blessé – ne doit être ni remplacée ni dépassée : elle peut accueillir les progrès de la technique pour soigner les souffrances et ouvrir de nouvelles possibilités, à condition de ne pas renier ce qui fait d’elle ce qu’elle est, c’est-à-dire la capacité de relation et d’amour » n° 126.
Une question de fond : la vérité
L’IA ne fait pas surgir une question inédite. Le mensonge, le relativisme – « Qu’est-ce que la vérité ? » interrogeait Pilate –, la difficulté à distinguer le vrai du faux sont des questions permanentes, cependant, la qualité des technologies renforce nos troubles. Ainsi, combien d’artistes se voient-ils dépossédés de leur génie par l’usage d’IA qui produisent livres, chansons, films, etc. Quant à l’actualité et à ses images falsifiées, elle jette dans un trouble profond.
« La recherche de la vérité est un élément essentiel de la démocratie, qui est elle-même un instrument de participation au bien commun. Lorsque la question de savoir ce qui est vrai perd de son intérêt et qu’un pragmatisme se répand, se contentant de ce qui semble utile ou efficace, la vie démocratique s’affaiblit. En effet, celle-ci ne se nourrit pas seulement de règles et de procédures, mais avant tout d’un rapport loyal au fait et d’une réelle orientation vers le bien des personnes et de la société. Le désintérêt pour la vérité conduit lentement mais inexorablement à glisser vers le totalitarisme » n° 134.
« Le premier devoir qui nous incombe est de ne pas diaboliser ni idolâtrer les outils, mais de les maîtriser en partant d’un point d’ancrage : la vérité est un bien commun, et non la propriété de ceux qui détiennent le pouvoir ou la visibilité. Il faut donc promouvoir une écologie de la communication » n° 137.
Dans ce domaine comme de manière générale, un enjeu décisif est celui de l’éducation, celle des autres, des jeunes, mais aussi la nôtre : comment être crédible lorsque nous appelons à se passer des réseaux sociaux ou de l’IA et que nous sommes suspendus aux écrans de nos portables ? « Nous devons nous éduquer à jeûner de l’IA et protéger nos jeunes de la promesse de la machine parfaite, de cette séduction subtile qui fait paraître inutile la pensée humaine précisément au moment où elle est la plus nécessaire » n° 140.
« Si nous ne faisons pas attention, un système éducatif dépourvu d’amour pour la vérité risque de voir le jour, dans lequel le flux incessant d’informations se substitue à la recherche, à la réflexion et au discernement. Les connaissances fragmentaires se multiplient, mais il devient plus difficile d’appréhender la réalité dans son ensemble, de poser des questions sur le sens des choses et de développer une véritable pensée critique et créative » n° 146.
Eduquer les autres appelle à la maîtrise de soi-même, dont celle de notre parole, que celle-ci jaillisse de nos lèvres, ou, et c’est là que le danger est le plus grand, de ce que nous postons sur les réseaux : « La première contribution que nous pouvons apporter à une civilisation plus humaine est de prêter attention à nos paroles. Désarmons les mots et nous contribuerons à désarmer la terre. Le pouvoir des mots est immense et nous en faisons l’expérience de notre communication quotidienne » n° 214.
Pouvoir une chose, s’en savoir en capacité, disposer d’outils technologiques, n’appelle jamais à les utiliser sans discernement. Plutôt que de nous laisser fasciner, voire circonvenir par leur puissance, exerçons la vraie puissance qui est entre nos mains, et possible par la volonté du cœur : parfois dire « oui », mais, aussi, souvent, dire « non », refuser de nous servir de ce qui, pourtant, semble produire relations et compétences, mais ceci n’est que de l’ordre du paraître. « Dans le monde actuel, une culture de la puissance s’installe progressivement, où la disponibilité des moyens et la capacité de dominer tendent à dicter l’ordre du jour et les critères de décision, reléguant le bien commun de l’humanité au second plan et réduisant le drame concret des peuples en guerre à une variable secondaire par rapport aux intérêts stratégiques. Cette culture de la puissance s’infiltre dans la société, modifie les relations et les comportements, se répand en normalisant la guerre, en recherchant une puissance militaire toujours plus grande, en profitant de la crise du multilatéralisme et en alimentant un faux réalisme qui répète qu’il n’existe pas d’alternatives » n° 188
Conclusion
Je termine cette rapide présentation de l’encyclique en rappelant que les chrétiens ne se situent pas en surplomb de la société, encore moins de l’ensemble des humains. Poser une instance critique, dénoncer des choix dangereux, les appelle à se laisser, les premiers, à ce regard critique. « La doctrine sociale n’est pas seulement un message adressé à la société : c’est aussi un examen de conscience pour l’Eglise, maison et école de communion, toujours appelée à vérifier que les principes évoqués dans ce chapitre sont d’abord vécus en son sein. Le bien commun, dans le contexte ecclésial, prend le visage d’un style synodal pour la mission au service du Royaume » n° 86.
« La vigilance et la transparence sont avant tout une grave responsabilité de l’Eglise elle-même et nous ne devons pas attendre que d’autres nous obligent à affronter des vérités dérangeantes sur nous-mêmes » n° 138.