Les carnets de Jean-Claude Heudin : l’IA est-elle un nouveau moyen …
Intelligence artificielle générale, superintelligence, singularité technologique… Pourquoi les milliardaires investissent-ils massivement dans l’IA, alors qu’ils ont déjà tout ou presque ?
Avec les grands modèles de langage (LLM), comme ChatGPT ou Claude, nous avons une meilleure compréhension de ce qu'une Intelligence Artificielle Générale (AGI) pourrait être. Il s'agirait d'une IA qui a atteint le niveau humain en termes de connaissances et de raisonnement dans pratiquement tous les domaines. Elle semble désormais à la portée des entreprises comme OpenAI ou Google, pour ne citer que ces deux entreprises, même si à ce jour, ils en sont encore relativement loin.
Une telle IA serait comme celles que nous utilisons aujourd'hui, mais sans leurs défauts : connaissances humaines complètes et polyvalentes, raisonnement sans erreur, hallucinations inexistantes, modération renforcée et alignement sans faille. Comme je l'ai déjà souligné auparavant, il y a des doutes assez forts sur la possibilité d'obtenir ces résultats avec la technologie actuelle des LLMs.
Les carnets de Jean-Claude Heudin : le plafond de verre des grands modèles de langage
Actuellement, la stratégie des principales entreprises de l’IA repose sur un accroissement de la taille de leurs modèles de langage pour augmenter leur performance. Est-ce la bonne voie vers une super-intelligence ?... Lire la suite
Le concept de superintelligence relève de la science-fiction
Avec le concept de superintelligence, nous entrons ensuite dans le domaine de la prospective et donc, avec des prédictions encore plus hasardeuses. Une superintelligence, parfoisappelée ASI (Artificial Super Intelligence), serait dotée d'une intelligence qui surpasserait celle des esprits humains les plus brillants dans tous les domaines.
Il n'est pas du tout évident qu'en se basant sur le paradigme actuel des réseaux de neurones profonds, qui sont inspirés par une métaphore finalement assez éloignée du fonctionnement du cerveau humain, on puisse arriver à dépasser les capacités de notre cerveau organique dans tous les domaines cognitifs.
Est-il possible d'aller encore plus loin et envisager une intelligence artificielle dont les performances dépasseraient tout ce que l'on peut imaginer ? Dan Simmons dans sa tétralogie de science-fiction « Hypérion » imagine des Intelligences Ultimes (IU), luttant les unes contre les autres. De leur côté, cela fait déjà longtemps que les transhumanistes espèrent l'avènement de la Singularité Technologique, une IA capable de s'auto-programmer dans une spirale d'améliorations, et qui deviendrait si intelligente qu'elle pourrait être considérée comme une sorte de divinité.
À quoi ressemblerait une IU ?
En théorie, une telle entité serait capable de résoudre tous les problèmes solvables (c'est-à-dire ayant au moins une solution) de façon optimale et quasi instantanément. Il est assez utopique (et dystopique) de croire qu'une telle chose est possible en pratique, car une puissance de cette nature, quasi infinie, nécessiterait également des ressources quasi infinies (il existe également des limites théoriques sur lesquelles nous reviendrons dans une chronique ultérieure).
Dès lors, on peut se demander ce qui pousse des milliardaires, des megaentreprises et des états totalitaires à investir massivement dans ce qui peut ressembler à une chimère technologique. Les sommes colossales investies dans les infrastructures nécessaires pourraient contribuer à sauvegarder la planète, mais il n'est plus question
d'un monde meilleur pour tous en limitant les effets néfastes des projets technologiques. À quoi peuvent-ils donc bien rêver, alors qu'ils ont déjà tout ou presque ?
Ils ne rêvent pas de « moutons électriques » à l'instar des androïdes de Philip K. Dick, mais d'immortalité et du pouvoir d'un dieu. Car c'est bien de ce rêve là dont il s'agit : une superintelligence en tant qu'instrument de domination technologique, stratégique et politique. Le mythe moderne de la toute puissance.
Les carnets de Jean-Claude Heudin : les IA vont-elles nous dépasser en s’améliorant elles-mêmes ?
Revenons sur ce sujet qui a fait la une de nombreux médias cette semaine, suite à un article de la revue Science. Tout a commencé avec la publication par Anthropic d’un long texte annonçant que les intelligences artificielles seraient peut-être prochainement capables de s’améliorer elles-mêmes.... Lire la suite