La foi chrétienne n’est pas une affaire du passé. Au contraire, elle doit s’incarner dans la réalité de chaque époque, et donc aujourd’hui dans celle qualifiée par Léon XIV d’« ère de l’Intelligence Artificielle ». Cette conviction, le pape l’exprime avec force dans l’encyclique Magnifica Humanitas (MH) où sont abordées d’une façon approfondie et percutante les « choses nouvelles » de ce XXIème siècle : la mondialisation exacerbant les logiques d’efficacité et de profit, la concentration des pouvoirs en quelques mains, les innovations technologiques, l’évolution du travail dans ce contexte, la banalisation actuelle de la guerre, les armes… et transversalement, l’IA. MH porte un regard critique lucide sur le monde contemporain. Elle nous offre en particulier un plaidoyer vif et remarquable contre les guerres et la course à l’armement. En ce domaine, et d’une façon générale, est posé le problème de l’utilisation de plus en plus massive de l’IA et des menaces qu’elle représente pour le respect de la dignité humaine. MH dessine enfin, à la lumière de la doctrine sociale de l’Eglise, quelques orientations pour relever ces défis.

Pour autant, contrairement à ce que peuvent laisser penser les commentaires entendus ou lus ici et là, MH n’est pas une encyclique sur l’IA mais un texte de référence beaucoup plus large. Sur l’IA proprement dite, des points d’attention essentiels sont soulignés. Mais si on ne tire pas toutes les conséquences des mises en gardes formulées, on risque d’en rester à des conclusions comme « l’IA, tout dépend de la façon dont on l’utilise » ou « concernant l’IA, le principal défi est éducatif ». Ne faut-il pas aller plus loin dans la critique du développement de l’IA ? La remettre en cause plus fondamentalement ? Est-ce que l’IA ne pose pas des questions existentielles telles qu’il faudrait purement et simplement y renoncer ?

Un rapide historique est utile pour comprendre ce qui s’est passé

En réalité, on évoque presque toujours l’IA d’une façon générique alors qu’on devrait commencer par se demander : de quelle IA parle-t-on ? Il se trouve que j’ai commencé ma carrière d’ingénieur-chercheur en informatique en ce domaine, et soutenu une thèse de doctorat sur un sujet d’IA en 1988. Or, l’IA sur laquelle je travaillais n’était pas celle d’aujourd’hui. Plusieurs définitions de l’IA sont possibles. D’une façon simplifiée, techniquement, on peut parler d’IA dès lors qu’un dispositif logiciel est en mesure de produire des résultats efficients simplement à partir de données et d’autres formes de connaissance, sans qu’on ait besoin de décrire précisément le cheminement opératoire à suivre pour obtenir le résultat attendu. La notion d’IA n’est pas nouvelle : la première conférence consacrée à ce thème eut lieu à Dartmouth (Etats-Unis) en 1956. On y parlait même déjà des « réseaux de neurones » qui sont à la base des technologies actuelles et on affichait des objectifs ambitieux pour « faire en sorte que les machines utilisent le langage, forment des abstractions et des concepts, résolvent des types de problèmes aujourd’hui réservés aux humains » (d’après John McCarthy). Mais, les recherches qui ont suivi et leurs résultats ont été plus modestes, explorant diverses voies pour avancer vers le but fixé. Pour simplifier, on peut distinguer deux grandes approches que sont l’IA symbolique, et l’IA connexionniste, c’est-à-dire l’IA des Big Data et des réseaux neuronaux.

Pendant longtemps, l’IA symbolique a mobilisé l’essentiel des forces de recherche dans le domaine. C’est dans cette voie que j’ai travaillé personnellement jusqu’au début des années 90. L’approche assez laborieuse nécessitait de travailler sur la modélisation de la connaissance, des images, des langues naturelles parlées ou écrites, des savoir-faire, des expertises et de toutes sortes de données. Ces informations modélisées pouvaient ensuite être digérées par des « moteurs d’inférence » capables de produire des résultats. Bien que n’étant plus dans le cadre d’une programmation classique consistant à définir des composants et des tâches, il restait possible de comprendre comment on aboutissait à tel ou tel résultat.

Puis, profitant de la démultiplication des puissances de calcul, de la capacité de stockage des ordinateurs et des data centers, ainsi que de la grande quantité des données internet disponibles, l’IA connexionniste – appelons-là la « nouvelle IA » – a pu se développer d’une façon colossale à partir des années 2010. On est passé à « l’IA marteau-pilon » grâce à cette « orgie numérique ». Dès lors, on a pu fournir à l’ordinateur des données brutes (non transformées humainement comme avec l’IA symbolique) en quantité phénoménale, et on a pu entraîner les systèmes d’IA. Ces traitements numériques ont nécessité néanmoins l’intervention invisible d’humains qui, comme le souligne le pape à plusieurs reprises dans l’encyclique (MH 109, 173…), sont employés pour des salaires de misère à l’étiquetage et la modération des données, créant ainsi une forme d’esclavage moderne.

Bien sûr, on doit également les progrès de cette IA au travail des chercheurs et ingénieurs qui ont perfectionné les techniques et les systèmes, et ont développé des applications dans de nombreux domaines spécifiques. Il faut néanmoins reconnaître que, compte tenu du très grand nombre de calculs effectués, il n’est plus possible humainement de tracer le traitement automatique qui conduit à la production d’un résultat donné. Ainsi, en observant ce que la machine peut faire, on peut être soit très impressionnés et émerveillés, soit effrayés : car on a perdu le contrôle !

Ainsi, on peut constater le saut considérable qui s’est produit depuis le début des années 2010. Il n’est donc pas possible de parler d’IA en général, tout comme on ne peut parler d’agriculture ou de construction de bâtiments en général. Il y a une façon industrielle, productiviste, très consommatrice de pétrole de pratiquer l’agriculture, et une autre façon, plus vertueuse, respectueuse de la nature et des hommes. De même pour le bâtiment, il est possible de construire d’une façon industrielle, grande consommatrice de béton, ou d’une façon plus soutenable, avec des matériaux biosourcés et des méthodes artisanales. En IA, comme dans les autres domaines, en prenant un peu de hauteur, on prend conscience qu’à un moment donné, on a versé dans la démesure.

Parmi les graves questions que pose le développement de l’IA, les considérations écologiques sont déjà déterminantes

En réalité, le développement de la nouvelle IA est préoccupant à plus d’un titre, et je ne saurais répertorier toutes les graves questions qu’il pose. MH et d’autres ouvrages apportent des approfondissements très éclairants sur ces points. Je propose simplement ici de situer les enjeux de l’IA sur trois niveaux successifs : environnemental et humain, anthropologique et civilisationnel, et enfin sécuritaire.

– Le 1^er niveau est celui des impacts environnementaux et humains de la fabrication de l’IA. On en parle assez peu, pourtant il est déjà déterminant et rédhibitoire. L’IA dévore la planète (Le Monde, 26/12/2025, Comment l’IA dévore la planète). Les besoins en métaux et terres rares, les conséquences sur l’artificialisation des terres, la consommation d’eau et d’énergie (et donc les émissions de CO2) sont colossaux (cf. MH 101). Le développement actuel de l’IA est incompatible avec les objectifs de réduction des émissions, d’après différentes études.

Conjointement à l’impact environnemental, l’exploitation d’une main d’œuvre (parfois des enfants) pour de faibles salaires à l’extraction des matériaux nécessaires à la fabrication des ordinateurs, « les corps marqués, mutilés, utilisés pour que le flux de calcul ne s’interrompe jamais » sont intolérables (MH 173). A ces employés de misère s’ajoutent les « petites mains de l’IA » ou « travailleurs du clic » des pays en voie de développement.

Pour l’IA, comme le pétrole, la question est de savoir si on est capables de renoncer à des facilités qui sont à notre portée : ne pas forer de nouveaux puits ou éviter d’utiliser l’IA.

En tout cas, la seule considération environnementale concrète et les impacts humains associés sont déjà révélateurs, ils devraient interdire le développement de l’IA tel qu’il est mené actuellement et empêcher chacun de l’utiliser couramment sans trop réfléchir.

– Le 2^èmeniveau est celui de l’atteinte à nos facultés mentales les plus fondamentales en déléguant à la machine des fonctions qui font pourtant ce que nous sommes (mémoire, raisonnement, discernement, création…). Avec l’IA, « nous n’habitons plus ce que nous savons » dit une philosophe (La Croix, 25/06/2026, « L’IA m’aide à faire de meilleurs cours, pas à devenir une meilleure prof »).

Ce niveau est également celui de la confusion induite par la personnalisation du rapport avec la machine (spécialement avec les agents conversationnels), de la perte du lien avec le monde réel, naturel… et même du lien interpersonnel…

La menace est aussi celle d’une manipulation généralisée (plus ou moins volontaire) et de la perte du libre arbitre des personnes. Cet aspect n’est pas nouveau. Il fait déjà partie de notre lot quotidien dans l’utilisation du numérique, d’internet et des réseaux sociaux reposant sur l’économie de l’attention. Mais l’IA amplifie le phénomène. Déjà, on parle de rendre les chatbots (ChatGPT etc.) publicitaires. Ils n’apporteront alors plus les réponses optimales pour l’utilisateur mais celles qui génèreront les plus grands profits.

Se pose enfin le sérieux problème du modèle de société promu par les systèmes. L’IA reposant sur des techniques statistiques, elle a tendance à refournir les « prêts à penser » les plus répandus, donc à affaiblir le sens critique et à « faire disparaître toute limite éthique », y compris dans le domaine de la fabrication des armes (MH 207). Pire, ceux qui possèdent et sélectionnent les données, et ajustent les paramètres des moteurs d’inférence détiennent un pouvoir faramineux sur les populations et sont à même de répandre des idéologies de démiurges. Ainsi, le pape nous met en garde à nouveau contre la concentration des pouvoirs en quelques mains et appelle à « désarmer l’IA » afin de l’empêcher de dominer l’humain (MH 110).

L’une des grandes forces de l’IA et des agents conversationnels est de présenter des résultats très finalisés, séduisants, avec une apparence d’objectivité et de bienveillance. Ainsi, l’utilisateur est prédisposé à y accorder – à tort – une confiance aveugle.

Faut-il ajouter encore à ces dangers, celui de la désorganisation accrue du monde du travail due au remplacement de travailleurs humains par des machines pour de nombreuses tâches ?

Légitimement, nous pouvons nous poser ces graves questions : comment pourrons-nous faire face à ces immenses défis anthropologiques et civilisationnels ? Quelle place garde l’humain dans cette évolution ? Allons-nous vendre notre âme à la machine qui, par définition, n’en a pas ?

– Le 3^ème niveau des enjeux que représente l’IA est celui de la perte de contrôle et de la sécurité. Ce point est plus spéculatif. Mais le risque existe bel et bien avec l’abandon à la machine de certaines de nos responsabilités qui expose l’humanité à des conséquences potentiellement catastrophiques. En effet, l’IA calcule, optimise « sans état d’âme » et peut aboutir à des résultats imprévus dramatiques. La modération humaine, visant à vérifier que les productions de l’IA sont « alignées » avec les objectifs initiaux et ne conduisent pas à des effets indésirables, reste donc indispensable. Mais la tentation est grande de « faire confiance » et de laisser la machine faire. Surtout que cette vérification humaine méticuleuse devient tout simplement impossible dans de nombreux cas compte tenu de la complexité des traitements informatiques opérés.

Sur le plan des équilibres géopolitiques et des guerres, les risques liés à une telle « émancipation de l’IA » peuvent être bien évidemment considérables, avec des conséquences vitales pour des populations et l’humanité dans son ensemble. Mais ce domaine est loin d’être le seul en jeu.

Bien sûr, on peut rejeter tout catastrophisme et espérer qu’on évitera les situations les plus graves mais les écarter d’emblée et s’engager dans une fuite en avant technologique serait totalement irresponsable.

En conclusion, ces 3 échelons des enjeux de la nouvelle IA sont tous d’une importance capitale et devraient nous interdire toute utilisation immodérée de cette technologie.

Dès le 1er niveau, la prise de conscience du développement insoutenable actuel de l’IA, à la fois sur les plans écologiques et humains, est déjà suffisante pour nous amener à renoncer à utiliser toutes les possibilités qui nous sont offertes. Sur ces points, on a déjà déraillé !

D’autre part, en IA comme dans tous les domaines touchant à l’écologie, on observe qu’on est placés face à des choix analogues, entre deux modèles, deux voies radicalement opposées. Celle de la démesure, de la prédation, de la dévastation de la nature de la cupidité, de la consommation effrénée d’énergie et de ressources naturelles, de la productivité à tout prix, du déploiement de moyens surpuissants, du profit de quelques-uns… bref, la voie où on déraille !… ou celle de la raison, du respect de la nature et des humains, de la mesure, de la sobriété, de l’humilité, du partage…

Alors, que faire ?

Concrètement, que faire à notre niveau après avoir mené une telle réflexion sur la réalité actuelle et les enjeux de l’IA ? La première chose est certainement de continuer à porter un regard lucide sur ce sujet et d’aider notre entourage à le faire, car nous sommes tous tentés de banaliser ces évolutions du monde, et de les considérer comme inéluctables. Dans MH, le pape utilise cette notion très parlante de « faux réalisme » que nous utilisons trop souvent pour justifier notre inaction. En MH 212, il écrit « une tentation subtile s’insinue : celle de penser que les problèmes sont trop grands et nous trop petits, de telle sorte que nos choix ne changent rien. C’est une forme élégante de capitulation, souvent déguisée en réalisme. ». « Tous, nous pouvons apporter notre contribution ».

L’IA n’est pas neutre (MH 85 et 104), l’utiliser n’est pas anodin. Alors, résistons autant que nous le pouvons face à la colonisation toujours plus insidieuse de cette technologie dans nos vies. C’est la seconde chose que nous pouvons faire. Chacun peut poser des choix, dans un sursaut d’humanité, et faire ce qui est à sa portée. Bravo alors à ceux qui parviennent encore à ne pas utiliser les agents conversationnels !

Certes, l’IA connexionniste n’est pas à bannir complètement. Il est des domaines spécifiques où, pour des tâches spécifiques, dans un contexte professionnel, elle apporte des possibilités nouvelles précieuses, à condition d’être employée dans une logique d’aide et non de remplacement. Mais à un niveau personnel, on peut s’en passer ou, tout du moins, éviter toute utilisation habituelle et récurrente. Par exemple, si on a besoin de conseils pour faire face à telle ou telle situation, osons nous adresser à un ami, un membre de notre famille, une personne en chair et en os, un psychologue ou même SOS Amitié. Nous n’y trouverons peut-être pas la même patience qu’avec un chatbot mais nous serons face à un véritable humain, pas un simulateur. Et espérons qu’il nous aidera à avancer.

Acceptons que nos productions, nos textes, nos présentations ne soient pas impeccables. Consentons à perdre du temps pour rédiger un compte rendu, une lettre de motivation, un cours, un article (comme je le fais maintenant !). Ils seront moins standardisés, moins (faussement) parfaits mais plus vrais, plus incarnés, plus humains, moins dommageables pour la planète, et probablement, plus explicites et convaincants.

« Nous devons nous rappeler que l’humain ne s’épanouit pas malgré la limite, mais souvent à travers la limite. »  (MH 118)