L’encyclique et la république technologique: L’intelligence artificielle prise entre deux clergés

Toute technologie révolutionnaire transforme la société parce qu’elle redistribue le pouvoir. C’est pour cela qu’on l’appelle « révolutionnaire ». Cette transformation inquiète les pouvoirs en place, qu’ils soient spirituels, industriels ou politiques. Il en va bien évidemment de même pour l’intelligence artificielle. Deux textes parus à quelques semaines d’intervalle, l’encyclique Magnifica humanitas de Léon XIV et le manifeste de Palantir, prétendent dire ce que l’humanité doit en faire. L’un veut la désarmer, l’autre l’enrôler. Tout les oppose, sauf l’essentiel : le refus de laisser cette technique aux mains des gens ordinaires.

Le 25 mai, le pape Léon XIV publiait sa première encyclique, Magnifica humanitas, sous-titrée « sur la protection de la personne humaine à l’ère de l’intelligence artificielle ». Le texte est long, plus de cent pages, et touffu et répétitif (je n’ai pas eu la patience d’aller jusqu’au bout). Il revendique explicitement une filiation. En le signant le 15 mai, jour du 135e anniversaire de Rerum novarum, Léon XIV se place dans le sillage de Léon XIII, qui avait formulé en 1891 la doctrine sociale de l’Église face à la révolution industrielle. L’idée est que l’IA constitue la question nouvelle de notre temps, comme la condition ouvrière le fut au sien.

Le texte part d’un postulat nuancé. La technologie n’est pas une force antagoniste de la personne, ni un mal en soi, mais elle n’est pas neutre non plus : elle porte des intérêts et des choix qu’il faut interroger. De ce postulat, le texte tire plusieurs orientations. Il appelle à « désarmer » l’IA, un terme remarqué, c’est-à-dire à la soustraire aux monopoles et à créer des cadres juridiques adéquats ainsi qu’une surveillance indépendante, afin qu’elle ne « domine pas l’humain ». Il refuse qu’elle serve à concentrer richesse et pouvoir entre quelques mains plutôt que le bien commun. Il évalue ses usages à l’aune de quatre exigences: la vérité, la dignité du travail, la justice sociale et la paix. Il s’inquiète enfin d’un effet plus discret : à force de déléguer à la machine la formulation de nos questions et la production de nos réponses, l’humanité perdrait sa capacité d’émerveillement, c’est-à-dire l’aptitude à s’étonner devant le réel, à le contempler et à chercher par elle-même la vérité et la beauté.

Cette dernière crainte mérite qu’on s’y arrête, car elle est plus ancienne qu’il n’y paraît. On l’a déjà opposée à l’écriture, dont Platon redoutait qu’elle ruine la mémoire, puis à l’imprimerie, accusée de noyer les esprits sous un flot de textes et de dispenser de l’effort de comprendre. Aucune de ces craintes ne s’est vérifiée. L’imprimerie n’a pas affaibli la pensée, elle a démultiplié le nombre de ceux qui pouvaient y prendre part. La capacité d’émerveillement n’est pas une réserve que chaque outil entamerait un peu plus ; elle se déplace vers de nouveaux objets à mesure que les outils en libèrent l’usage.

Une image forte structure l’ensemble du texte : l’humanité aurait à choisir entre ériger une nouvelle tour de Babel, la technologie divisant les hommes, et bâtir la cité où Dieu et les hommes habitent ensemble.

Compte tenu de l’importance du sujet et de son ambition, le texte mérite mieux que l’approbation polie qu’il a reçue en raison des bons sentiments qu’il exprime. Personne ne peut vraiment être contre une technologie plus humaine ni la dignité de l’homme. Cependant, ses présupposés gagnent à être interrogés, et ils peuvent l’être plus facilement en le rapprochant d’un autre texte paru quelques semaines plus tôt, qui semble pourtant son contraire absolu. Ce texte, c’est le manifeste de Palantir, une société américaine qui produit des logiciels de surveillance militaire basés sur l’IA, que j’ai évoqué dans un article précédent. Là où l’encyclique est universaliste et inquiète, le manifeste est nationaliste et conquérant. Il exige que les ingénieurs paient leur dette morale à la nation en mettant leur savoir au service de la défense et du renseignement, oppose des cultures jugées supérieures à d’autres tenues pour régressives, et réclame un retour de la religion, du service national et de la puissance dans la vie publique.

Le refus de l’ordinaire

Tout les sépare a priori, et pourtant leur ressemblance est frappante. Les deux textes partagent un même modèle mental, qu’on pourrait définir comme « le refus de l’ordinaire ». Il consiste à refuser que l’IA soit ce qu’elle est en train de devenir, une technique parmi d’autres à laquelle des millions de gens trouvent des usages quotidiens pour résoudre leurs problèmes et faire des choses nouvelles, du diagnostic médical à la traduction en passant par l’aide aux devoirs. Tous deux veulent l’arracher à ce quotidien pour l’inscrire dans un grand récit, salut spirituel d’un côté, destinée civilisationnelle de l’autre. Et tous deux partent du même postulat – livrée à elle-même, l’IA va opprimer – et tirent la même conclusion pratique : il faut un cadre et une autorité, morale ou séculaire, pour dire ce qu’on peut faire et ce qu’on ne peut pas faire. L’encyclique demande une surveillance « indépendante » (bien sûr, mais de qui?), le manifeste un service national et un devoir de servir l’État. Dans les deux cas, l’action libre et décentralisée des utilisateurs et des entrepreneurs est tenue pour insuffisante, voire dangereuse. Elle doit être pilotée par des sages car on ne peut pas faire confiance au peuple pour savoir ce qui est bon pour lui.

Les deux textes sont aussi contestables dans leurs analyses, et de manière symétrique. L’encyclique parle de monopoles à conjurer alors que le marché de l’IA est l’un des plus concurrentiels du moment, avec des modèles ouverts, des acteurs sur trois continents, et un seuil d’entrée qui n’a jamais été aussi bas pour un développeur isolé (comme l’a montré l’émergence soudaine du Chinois DeepSeek). L’autorité à laquelle l’encyclique appelle serait bien, en revanche, un monopole, et c’est la limite de l’argument. Le manifeste décrit une Silicon Valley qui aurait déserté la défense alors qu’elle s’y précipite. Chacun fabrique un danger dont il prétend ensuite vouloir nous protéger.

La même objection vaut donc des deux côtés. Les progrès matériels et moraux des deux derniers siècles ne sont venus ni de la sagesse d’un clergé ni de la clairvoyance d’experts, toutes deux auto-proclamées, mais de la liberté laissée à des gens ordinaires d’essayer, d’échouer et de recommencer. Et le risque que ces textes désignent n’est jamais le plus important. Il est dans les usages qui ne naîtront pas si l’on confie d’avance la technologie à des gardiens, qu’ils soient pieux ou patriotes.

C’est là le paradoxe de l’encyclique. Le texte se veut défenseur de la personne humaine, et c’est son intention la plus sincère. Mais en cherchant à contrôler le progrès dans un souci de protéger l’humanité, il dessert précisément ceux qu’il entend défendre. Car la diffusion d’une technologie nouvelle profite d’abord aux plus modestes, à qui elle donne accès à des moyens jusque-là réservés aux mieux dotés : un diagnostic là où il n’y avait pas de médecin, une traduction là où il n’y avait pas d’interprète, un savoir là où il n’y avait pas d’école. Ralentir cette diffusion au nom de la prudence, c’est demander aux plus démunis de se passer longtemps de ce qui leur manque le plus. La protection se retourne ainsi contre son objet. Vouloir mettre l’humanité à l’abri du progrès, au nom de craintes même légitimes, c’est souvent la priver de ce qui l’aiderait le plus, et le faire au nom même de son intérêt. On se concentre sur le risque que la technologie se développe, on oublie le risque qu’elle ne se développe pas et le coût d’opportunité colossal, notamment pour les plus faibles. À cet égard, le terme de « désarmer » l’IA, comme si celle-ci était une arme, est malheureux par les associations qu’il crée.

Il faut donc refuser les deux enfermements. Refuser celui d’une Église qui voit dans chaque outil une menace de Babel, et celui d’une caste technologique qui se rêve en bras armé d’une civilisation assiégée. Refuser cette fausse alternative: le contrôle ou le chaos, Babel ou la cité de Dieu – la cité des hommes ça peut très bien aller aussi. L’IA n’a pas besoin de prêtres. Elle a besoin de pluralisme réel, c’est-à-dire d’une multitude d’acteurs qui en font ce qu’ils peuvent, se corrigent en chemin et tracent leur propre voie.