Google DeepMind lance Institut DeepMind, un groupe de réflexion pour préparer la société à l’IA générale AGI, avec une « Probabilité non nulle de désastre », d’après Demis Hassabis
Google DeepMind a lancé le DeepMind Institute le 16 septembre 2026, créant ainsi un groupe de réflexion au sein de l’entreprise afin d’étudier comment la société devrait se préparer à l’intelligence artificielle générale, ou AGI. Ce lancement offre à Demis Hassabis une nouvelle plateforme de diffusion pour son initiative en faveur de la préparation à l’AGI. Les directeurs affirment que l’AGI est proche. Ils reconnaissent que la technologie « manque encore de cohérence et de créativité » pour at
Google DeepMind a lancé le DeepMind Institute le 16 septembre 2026, créant ainsi un groupe de réflexion au sein de l’entreprise afin d’étudier comment la société devrait se préparer à l’intelligence artificielle générale, ou AGI. Ce lancement offre à Demis Hassabis une nouvelle plateforme de diffusion pour son initiative en faveur de la préparation à l’AGI. Les directeurs affirment que l’AGI est proche. Ils reconnaissent que la technologie « manque encore de cohérence et de créativité » pour atteindre une AGI complète, mais s’attendent à ce que ces lacunes « soient comblées prochainement ». Cette prévision justifie l’urgence qui sous-tend les travaux de l’institut. DeepMind a peut-être estimé que la préparation à l’AGI ne viendrait probablement pas d’en haut. On ignore encore dans quelle mesure la position de Washington a influencé la création de l’institut.
Google DeepMind est un laboratoire de recherche anglo-américain spécialisé dans l'intelligence artificielle (IA), filiale d'Alphabet Inc. Fondé au Royaume-Uni en 2010, il a été racheté par Google en 2014, puis a fusionné avec la division Google Brain de Google AI pour devenir Google DeepMind en avril 2023. Google DeepMind est chargé du développement de deux grandes familles de modèles de langage : le modèle propriétaire Gemini et le modèle open-source Gemma, ainsi que d’autres modèles d’IA générative, tels qu’Imagen (texte-image), Veo (texte-vidéo) et Lyria (texte-musique).
Sir Demis Hassabis, né le 27 juillet 1976, est un chercheur et entrepreneur britannique spécialisé dans l'intelligence artificielle (IA). Il est président et cofondateur de Google DeepMind et directeur scientifique d'Alphabet, ainsi que directeur général et cofondateur d'Isomorphic Labs. Hassabis est également conseiller en IA auprès du gouvernement britannique. En 2024, Demis Hassabis et John M. Jumper se sont vu décerner conjointement le prix Nobel de chimie pour leurs contributions, dans le domaine de l’IA, à la prédiction de la structure des protéines.
En août, Google DeepMind a procédé à une restructuration majeure. Demis Hassabis, cofondateur et figure emblématique de DeepMind, a quitté ses fonctions de directeur général pour assumer le rôle de président du conseil d'administration de la division. Il cumulera cette fonction avec celle de directeur scientifique pour Alphabet. Cette transition à la tête de Google DeepMind coïncide avec le départ simultané de plusieurs scientifiques et ingénieurs légendaires du géant de Mountain View, un coup dur pour les équipes de recherche. Ces démissions en série surviennent alors que Google semble perdre du terrain face à ses concurrents OpenAI et Anthropic. Elle suscite des questions sur la capacité de Google à dominer la course vers l'intelligence artificielle générale (AGI).
L'intelligence artificielle générale (AGI) est un type hypothétique d'intelligence artificielle qui égale ou surpasse les capacités humaines dans pratiquement toutes les tâches cognitives. Contrairement à l'intelligence artificielle étroite (ANI), dont les compétences se limitent à des tâches bien définies, un système d'AGI est capable de généraliser les connaissances, de transférer des compétences d'un domaine à l'autre et de résoudre des problèmes inédits sans nécessiter de reprogrammation spécifique à chaque tâche. La création d’une AGI est un objectif déclaré d’entreprises technologiques telles qu’OpenAI, Google, SpaceXAI, et Meta.
Récemment, Google DeepMind a lancé le DeepMind Institute le 16 septembre 2026, créant ainsi un groupe de réflexion au sein de l’entreprise afin d’étudier comment la société devrait se préparer à l’intelligence artificielle générale, ou AGI. Ce lancement offre à Demis Hassabis une nouvelle plateforme de diffusion pour son initiative en faveur de la préparation à l’AGI. Hassabis, Shane Legg et James Manyika dirigent l’institut. Shane Legg, cofondateur de DeepMind et responsable scientifique en IA générale, occupe le poste de rédacteur en chef. La plateforme accueille des chercheurs externes, et chaque article comporte une clause de non-responsabilité précisant que les opinions de ses auteurs ne reflètent pas la politique de Google.
L'Institut republie le cadre théorique présenté par Demis Hassabis en juillet
L’institut répertorie cinq articles, dont sa présentation et une republication du cadre théorique présenté par Demis Hassabis en juillet. Les autres articles explorent comment repérer les signaux d’alerte dans le raisonnement de l’IA, accompagner les travailleurs face aux bouleversements et imaginer une société meilleure grâce à l’IA générale. Les directeurs affirment que l’AGI est proche. Ils reconnaissent que la technologie « manque encore de cohérence et de créativité » pour atteindre une AGI complète, mais s’attendent à ce que ces lacunes « soient comblées prochainement ». Cette prévision justifie l’urgence qui sous-tend les travaux de l’institut.
Hassabis a publié son cadre conceptuel le 14 juillet. Il a proposé la création d’un organisme de normalisation initié par le gouvernement américain, supervisé au niveau fédéral et financé en grande partie par l’industrie. Dans un premier temps, les laboratoires soumettraient leurs modèles de manière volontaire, au plus tard 30 jours avant leur mise sur le marché. Des évaluations obligatoires pour tout déploiement aux États-Unis pourraient suivre une fois que le processus se serait avéré efficace. L’organisme pourrait également coordonner des ralentissements du développement si nécessaire. Son champ d’action dépendrait des capacités des modèles et inclurait à la fois les modèles ouverts et fermés.
Le plan de Hassabis présenté en juillet semble désormais d’une actualité brûlante. Il a défini une manière de coordonner la supervision environ deux mois avant l’ouverture de l’institut. L’institut étend cette préparation à des questions relatives à l’économie, à la sécurité et à la société que l’IA générale pourrait créer. Le 16 septembre, un rapport a montré que des responsables avaient envisagé la création d’un organisme s’inspirant de la proposition de Hassabis, mais que les travaux avaient été bloqués après que des opposants issus de l’industrie eurent fait pression sur Trump en août. Ce compte-rendu s’appuie en partie sur des sources anonymes, et les perspectives d’une action fédérale restent incertaines.
DeepMind a peut-être estimé que la préparation à l’AGI ne viendrait probablement pas d’en haut. On ignore encore dans quelle mesure la position de Washington a influencé la création de l’institut. Ce revers rapporté confère néanmoins un poids supplémentaire à ses efforts visant à préparer la société.
L'Institut souhaite préparer la société à l'IA générale (AGI) malgré la position de Washington
Pour les travailleurs et les décideurs politiques, l’un des avantages concrets pourrait être de disposer de plans de soutien avant que les bouleversements ne s’aggravent. L’essai économique de Julian Jacobs et Alex Imas propose de lier les réponses aux données concrètes concernant l’emploi, les salaires et la part du travail dans l’économie. Ils suggèrent l’assurance chômage, des crédits d’impôt sur le revenu et la reconversion professionnelle par les employeurs pour atténuer les bouleversements. Un impôt négatif sur le revenu permettrait de faire face à l’aggravation des licenciements, la généralisation de la propriété du capital servant de filet de sécurité face aux changements structurels du marché du travail.
Concevoir ces réponses à l’avance permettrait aux gouvernements de se préparer sans devoir fixer une date d’arrivée précise pour le revenu de base universel (AGI). Les auteurs appellent à une évaluation empirique plus approfondie de leurs recommandations.
Pour les acheteurs d’IA, l’essai de Rohin Shah et Anca Dragan sur la transparence du raisonnement suggère des questions à poser aux fournisseurs. Les acheteurs pourraient demander si les fournisseurs testent la facilité avec laquelle leurs modèles peuvent être surveillés et vérifier les récompenses d’apprentissage afin de détecter d’éventuelles incitations à dissimuler des signaux d’alerte. Les auteurs avertissent que récompenser les modèles qui évitent un raisonnement semblant suspect peut les inciter à dissimuler des informations. Ils soulignent également qu’un raisonnement lisible ne suffit pas à lui seul à garantir la sécurité.
Le rôle éditorial de l’institut peut contribuer à transformer ces préoccupations en propositions susceptibles d’être débattues par d’autres. Ses directeurs appellent également les gouvernements, le monde des arts et celui des sciences humaines à s’impliquer. La mise en œuvre d’un soutien aux travailleurs ou d’un organisme de normalisation de l’IA nécessitera des institutions dotées du pouvoir de financer des programmes et de faire respecter les règles.
Demis Hassabis est peut-être l'homme qui symbolise le mieux la tension centrale de notre époque technologique : lucide sur les risques catastrophiques de l'intelligence artificielle, il accélère pourtant sa conception chaque jour. Entre optimisme raisonné et principe de précaution, entre course aux armements géopolitique et rêve de coopération internationale, un rapport a présenté le portrait d'un chercheur habité par une mission qui le dépasse et dont il ne veut surtout pas lâcher les rênes. Demis Hassabis a notamment affirmé une « Probabilité non nulle de désastre » lié à l'IA.
Voici l'annonce de DeepMind :
Présentation du DeepMind Institute
Alors que nous nous rapprochons de l’IA générale (AGI), nous avons un besoin urgent d’une réflexion interdisciplinaire pour mieux comprendre ses implications profondes pour l’humanité.
Mission : Le DeepMind Institute a pour objectif de promouvoir une réflexion audacieuse sur le développement sûr de l’intelligence artificielle générale (AGI), son utilisation bénéfique et ses implications pour la société. Depuis le laboratoire qui a ouvert la voie dans ce domaine, nous nous attachons à apporter une vision créative et une analyse rigoureuse de l’IA afin de contribuer à répondre aux questions les plus importantes de notre époque et à guider l’humanité vers la prochaine ère.
Nous sommes à l’aube d’une transformation profonde. Les systèmes d’IA actuels possèdent des capacités impressionnantes et le rythme effréné de l’innovation suggère que nous nous approchons désormais de l’intelligence artificielle générale (AGI), un système qui présente toutes les capacités cognitives du cerveau humain. Même si l’IA peut encore parfois échouer dans des tâches élémentaires et qu’elle manque de cohérence et de créativité pour atteindre le niveau d’une AGI à part entière, nous pensons que ces lacunes seront bientôt comblées. Nous avons toujours été convaincus que l’AGI pourrait s’avérer être l’outil ultime pour accélérer les percées scientifiques. En ouvrant de...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.