« L’IA ne sait pas ce que signifie assumer les conséquences de ses choix »

L’intelligence artificielle préempte l’espace de délibération qui jusqu’ici précédait nos décisions. Or le jugement humain ne tombe pas du ciel : il se forme par l’exercice, souligne Nicholas Paparoidamis, qui se félicite des mises en garde du pape Léon XIV dans son encyclique Magnifica humanitas.

September 2, 2026

Dans Magnifica humanitas, Léon XIV formule une mise en garde qui mérite d’être prise au sérieux bien au-delà du monde catholique : l’intelligence artificielle ne doit pas être confondue avec l’intelligence humaine. Les systèmes peuvent traiter des données, produire des recommandations et dépasser l’homme en vitesse ou en puissance de calcul. Mais ils ne font pas l’expérience du monde, ne mûrissent pas dans la relation et ne connaissent pas de l’intérieur ce que signifie répondre d’une décision.

Cette distinction paraît philosophique. Elle est en réalité très concrète. Car le risque actuel n’est pas seulement que des machines prennent certaines décisions à notre place. Il est que nous conservions officiellement la responsabilité tout en laissant l’architecture de la décision se construire ailleurs.

Pouvoir dire non

Un médecin reste responsable d’un diagnostic, un recruteur d’une sélection, un cadre d’une recommandation, un agent public d’une décision administrative. Pourtant, si l’IA a déjà résumé le dossier, hiérarchisé les options, formulé l’argument et indiqué la conduite à suivre, que reste-t-il exactement de l’acte de décider ? Le geste final demeure humain, mais le chemin qui y conduit peut avoir été largement préstructuré par la machine.

C’est ici que Magnifica humanitas ouvre une question décisive. Léon XIV insiste sur le fait que les systèmes d’IA n’ont ni conscience morale ni expérience vécue de la responsabilité. Ils ne savent pas ce que signifie assumer les conséquences d’un choix. Dès lors, garder un humain « dans la boucle » ne suffit pas si cet humain ne dispose plus des conditions nécessaires pour exercer réellement son jugement.

La responsabilité n’est pas une signature apposée au terme d’un processus. Elle suppose de comprendre les raisons d’une décision, de pouvoir hésiter, confronter des interprétations, évaluer ce qui ne se laisse pas réduire à une règle et, surtout, pouvoir dire non.

Un danger diffus

Or l’IA intervient précisément de plus en plus tôt dans cette chaîne. Elle résume avant que nous ayons lu, recommande avant que nous ayons comparé, formule avant que nous ayons trouvé nos mots. Dans de nombreux usages, elle ne remplace pas seulement l’action finale ; elle occupe progressivement l’espace de délibération qui la précédait.

Le danger est alors moins spectaculaire qu’une décision entièrement automatisée. Il est plus diffus. Nous pouvons continuer à parler de responsabilité humaine alors même que les occasions d’exercer cette responsabilité se raréfient. Nous pouvons conserver l’autorité formelle tout en perdant peu à peu l’habitude, puis la capacité, d’interpréter et de contester.

Cette question est d’autant plus importante que le jugement humain ne tombe pas du ciel. Il se forme par l’exercice. On apprend à diagnostiquer en diagnostiquant, à décider en décidant, à écrire en écrivant, à répondre de ses actes en assumant progressivement des responsabilités réelles. Si les étapes sont systématiquement déléguées, nous pouvons obtenir des résultats satisfaisants tout en affaiblissant les capacités qui permettaient autrefois de les produire et de les évaluer.

C’est pourquoi le débat éthique sur l’IA devrait dépasser la seule question de la décision finale. Il devrait porter sur les conditions de son élaboration. Qui formule le problème ? Qui choisit les critères ? Qui peut modifier les hypothèses ? Qui dispose du temps nécessaire pour vérifier ? Qui a l’autorité de s’écarter de la recommandation sans être pénalisé pour avoir ralenti le processus ?

Ces questions permettent de distinguer une responsabilité substantielle d’une responsabilité purement formelle. Dans le premier cas, la personne reste véritablement l’auteur de la décision. Dans le second, elle n’en est plus que le point de validation.

Protéger la personne humaine

Cette distinction rejoint l’intuition centrale de l’encyclique : protéger la personne humaine ne consiste pas seulement à prévenir les abus les plus visibles. Cela suppose de préserver la conscience, la liberté et la capacité de jugement comme réalités vécues. Une institution peut respecter les procédures, conserver un contrôle humain et pourtant réduire progressivement l’espace dans lequel une personne peut exercer une véritable responsabilité.

Le défi ne consiste donc pas à opposer l’homme à la machine. Il consiste à concevoir des usages dans lesquels l’IA soutient la délibération sans l’absorber. Un système peut aider à rendre visibles des alternatives, signaler une incertitude, tester une hypothèse ou révéler un angle mort. Mais il ne devrait pas transformer le professionnel ou le citoyen en simple ratificateur d’une décision déjà construite.

Cela implique des choix très concrets : donner du temps pour vérifier, rendre les hypothèses accessibles, protéger le droit au désaccord, préserver certaines étapes d’analyse sans assistance lorsque leur exercice est nécessaire à la formation du jugement, et reconnaître que l’efficacité ne peut pas être le seul critère de bonne décision.

L’une des questions les plus importantes de l’ère de l’IA devient alors celle-ci : pouvons-nous encore dire, face à une décision importante, « c’est moi qui ai décidé » – et être capables d’expliquer pourquoi ? Si la réponse devient incertaine, la responsabilité humaine n’aura pas disparu. Elle aura simplement perdu sa substance.

Le mérite de « Magnifica humanitas »

Le mérite de Magnifica humanitas est de rappeler que la dignité humaine ne réside pas seulement dans le fait d’être protégé contre la machine. Elle réside aussi dans la possibilité de demeurer un sujet capable de comprendre, de discerner et de répondre de ses actes.

À l’ère de l’intelligence artificielle, protéger la personne humaine suppose donc plus qu’un humain dans la boucle. Cela suppose un humain qui reste véritablement l’auteur de la décision.

À propos des opinions

Ce texte est signé par un auteur invité. Il exprime son opinion et non celle de la rédaction. Notre rubrique À vif a pour but de permettre l’expression du pluralisme sur des sujets religieux, de société et d’actualité, et de favoriser le dialogue, selon les critères fixés par notre charte éditoriale.
Partagez votre opinion en commentaire ou en nous écrivant à : [email protected]