Vers une recherche artificielle ? Le recours croissant à l’IA dans la production scientifique soulève des questions fondamentales
Ces questions restent encore, à ce jour, largement sans réponse. Il s'agit de déterminer jusqu'où nous sommes prêts à déléguer à l'intelligence artificielle ce qui constitue le cœur même du métier : questionner, expérimenter, douter, confronter et assumer la responsabilité du savoir produit.
Une chronique "Universités" de Nicolas Neysen, professeur de Stratégie digitale à HEC Liège – École de gestion de l'Université de Liège.
Fondé sur des exigences d'intégrité, d'honnêteté intellectuelle et de rigueur méthodologique, le monde de la recherche scientifique connaît un profond bouleversement avec le recours de plus en plus fréquent aux outils d'intelligence artificielle (IA).
À cet égard, l'année 2024 a marqué un véritable tournant. D'un côté, des chercheurs de Google DeepMind se voient attribuer une moitié du prix Nobel de chimie pour le développement d'AlphaFold, un modèle d'IA capable de prédire la structure tridimensionnelle des protéines.
Le Nobel de chimie décerné à David Baker et à Demis Hassabis et John JumperDe l'autre, l'entreprise japonaise Sakana AI dévoile AI Scientist, un système permettant de générer de façon entièrement automatisée un article scientifique de A à Z. C'est-à-dire en couvrant l'entièreté des étapes du processus : génération d'une idée de recherche, revue de la littérature, expérimentation, rédaction, et enfin, simulation d'une procédure d'évaluation par les pairs, assortie de commentaires et d'une prédiction quant à l'acceptation ou au rejet du manuscrit.
"Avec l'intelligence artificielle, on ne pourra jamais faire de découvertes scientifiques spectaculaires par hasard"En mars dernier, la prestigieuse revue "Nature" annonçait qu'un nouveau cap avait été franchi : pour la première fois, un article produit par AI Scientist est accepté dans une conférence internationale de haut vol.
Quand l'IA fait de la science…Une face brillante et un revers…
Ces deux événements illustrent bien le côté pile et le côté face de l'usage actuel de l'IA dans la recherche : une face brillante et son revers plus préoccupant.

D'un côté, l'IA se met au service du chercheur. Elle peut donner un formidable coup d'accélérateur aux analyses empiriques, en faisant émerger des corrélations jusque-là insoupçonnées ou en analysant des quantités considérables de données en un temps record. Dans ce cas de figure, elle reste dans une position d'assistant, auquel sont déléguées des tâches précises et circonscrites.
L'humain risque alors d'être relégué au rôle de superviseur, validant un travail qu'il n'a pas véritablement produit.
De l'autre, ce n'est plus seulement une tâche, mais potentiellement l'ensemble du processus de recherche qui est délégué à la machine. Le rapport de force s'en trouve inversé. L'agent IA enchaîne les tâches, mobilise les connaissances disponibles, accumule le savoir-faire, conduit les analyses et génère un texte reproduisant les codes et les conventions de l'écriture scientifique, jusqu'à pouvoir donner toutes les apparences d'un travail réalisé par un humain. Celui-ci risque alors d'être relégué au rôle de superviseur, validant un travail qu'il n'a pas véritablement produit.
Les risques
Cette façon de présenter les choses permet d'apporter une clarification importante quant aux technologies concernées. Un outil comme AlphaFold, tout comme d'autres systèmes d'IA spécialisés et utilisés par exemple en imagerie médicale, repose sur des modèles d'apprentissage profond conçus et entraînés pour des tâches spécifiques. Ils se distinguent des grands modèles de langage (LLM), utilisés aujourd'hui par les chercheurs issus de toutes les disciplines et sur lesquels se basent également en grande partie des systèmes génératifs comme AI Scientist.
Si tout recours à l'IA appelle à la vigilance, les risques associés à la production automatisée de contenus scientifiques concernent plus directement les usages de l'IA générative.
La distinction est importante : si tout recours à l'IA appelle à la vigilance, les risques associés à la production automatisée de contenus scientifiques concernent plus directement les usages de l'IA générative (IAG).
Mais quels sont précisément les risques qui sont visés ici ?
Une étude récente pointe en premier lieu une baisse de la qualité des productions scientifiques, soulignant au passage le risque d'une saturation de la littérature avec un "déluge de recherches superficiellement convaincantes mais scientifiquement décevantes". À cela s'ajoute la capacité bien connue des IAG à halluciner, comme par exemple, le fait de produire des références bibliographiques plausibles en apparence, mais erronées.
Les conditions ayant conduit à un résultat doivent pouvoir être reproduites. Or, on le sait, avec les IAG, plusieurs itérations d'une même requête conduisent à des résultats qui varient d'une fois à l'autre.
Un troisième risque est quant à lui à chercher du côté de la réplicabilité des résultats. Il s'agit ici d'un principe fondamental de la construction de savoir scientifique : les conditions ayant conduit à un résultat doivent pouvoir être reproduites. Or, on le sait, avec les IAG, plusieurs itérations d'une même requête conduisent à des résultats qui varient d'une fois à l'autre. Cette difficulté est d'autant plus sensible lorsque le chercheur s'appuie sur des modèles propriétaires susceptibles d'évoluer sans qu'il en maîtrise les modifications.
Se pose ensuite la question des données scientifiques confiées à des acteurs privés en dehors de l'Union européenne : confidentialité, propriété intellectuelle, conditions de réutilisation, etc. Plus globalement, la question de la souveraineté des données dépasse largement le seul champ de la recherche scientifique.
Après tout, il est souvent plus confortable de solliciter un chatbot conciliant que de soumettre ses idées aux objections, parfois bien plus rugueuses, de pairs expérimentés.
Un autre risque, plus insidieux encore, réside dans la dépendance cognitive qui pourrait progressivement s'installer dans la relation du chercheur à l'IAG. À force de déléguer certaines opérations intellectuelles, celui-ci pourrait voir s'éroder certaines de ses compétences critiques et analytiques. Cette dépendance pourrait enfin contribuer à isoler le chercheur de sa propre communauté scientifique. Après tout, il est souvent plus confortable de solliciter un chatbot conciliant que de soumettre ses idées aux objections, parfois bien plus rugueuses, de pairs expérimentés.
Questionner notre éthique professionnelle
En fin de compte, l'usage croissant des IAG nous invite, en tant que chercheurs, à questionner notre éthique professionnelle, notre rapport à la construction des savoirs et notre responsabilité à l'égard de la société.
La véritable question n'est plus de savoir si l'IA doit entrer dans les laboratoires – elle y est déjà ! – mais de déterminer jusqu'où nous sommes prêts à lui déléguer ce qui constitue le cœur même du métier : questionner, expérimenter, douter, confronter et assumer la responsabilité du savoir produit.
À trop vouloir automatiser la production de connaissances, prenons garde à ne pas automatiser, avec elle, notre âme et notre esprit critique.