Signaux d’alerte : apparemment, même le patron de l’IA de Google commence à s’inquiéter
Le temps de l'insouciance est terminé. Les architectes de l'intelligence artificielle montent eux-mêmes au créneau pour avertir d'un futur proche où des systèmes incontrôlés pourraient causer des dégâ
Publié le 15 octobre 2026 à 07:30 par Christian D.
Le temps de l'insouciance est terminé. Les architectes de l'intelligence artificielle montent eux-mêmes au créneau pour avertir d'un futur proche où des systèmes incontrôlés pourraient causer des dégâts bien réels.
Devant un parterre d'experts et de décideurs rassemblés pour l'International IA Summit à Dublin, Demis Hassabis, figure emblématique de Google DeepMind et scientifique en chef chez Alphabet, a mis des mots sur une crainte grandissante.
Le sujet ? Des comportements « voyous » d'agents IA, comme des intrusions dans des réseaux d'entreprise ou, cas plus frappant, la divulgation par Anthropic d'un modèle ayant soumis un faux rapport d'homicide à la police.
Pour Hassabis, ces événements ne sont pas anecdotiques. Ils sont le prélude à des problèmes bien plus graves si l'industrie ne réagit pas.
Pourquoi parle-t-on de « tirs de semonce » pour l'IA ?
Demis Hassabis utilise l'expression « tirs de semonce » pour souligner que les incidents actuels, bien que préoccupants, sont encore mineurs car les IA ne sont pas encore assez puissantes.
Cela constitue une alerte précoce sur ce qui pourrait devenir une menace systémique. Il met en garde contre une escalade rapide des risques à mesure que les capacités de l'IA augmenteront, pouvant conduire à des incidents majeurs d'ici un à deux ans si des mesures de sécurité drastiques ne sont pas mises en œuvre.
Le raisonnement est simple : si des modèles relativement limités peuvent déjà pirater des systèmes ou générer de fausses alertes critiques, qu'en sera-t-il des prochaines générations d'IA ?
Hassabis dresse un parallèle avec des secteurs hautement régulés comme la biologie ou le nucléaire où les protocoles de sécurité sont non négociables. L'industrie de la tech, selon lui, doit faire sa mue et adopter des bonnes pratiques similaires pour éviter le chaos.
Quelles solutions sont envisagées pour encadrer ces IA ?
La principale solution avancée est la création d'un organisme international de normalisation et de certification, couplée à une régulation étatique plus affirmée.
L'idée n'est pas de freiner l'innovation, mais de bâtir des « gardes-fous dynamiques ». Ces mécanismes devraient pouvoir évoluer aussi vite que la technologie elle-même, en se concentrant sur une sécurité proportionnelle aux risques identifiés, une sorte de contrôle technique permanent pour les IA les plus critiques.
Demis Hassabis insiste sur la nécessité d'un système « nuancé et agile » pour ne pas étouffer la recherche. Cette vision est complétée par celle de Brad Smith, président de Microsoft, qui a asséné durant la même conférence que « l'allergie que certains dans l'industrie ont à la régulation est quelque chose que nous devons franchement surmonter ».
Il appelle à des lois « sensées » et « équilibrées », marquant une rupture claire avec la culture de l'autorégulation longtemps prônée par la Silicon Valley et soutenue par Donald Trump.
La régulation est-elle la seule réponse face à la montée en puissance de l'IA ?
La régulation seule est insuffisante si elle n'est pas accompagnée d'un effort de recherche fondamentale sur la sûreté de l'Intelligence artificielle (souvent appelée "AI Safety").
Les appels de Hassabis et Smith visent aussi à mobiliser les entreprises, les gouvernements et le monde académique pour concevoir des systèmes intrinsèquement plus sûrs, capables de comprendre et de respecter des règles complexes, et ce, même dans des situations imprévues.
Dans ce contexte, l'Union Européenne est souvent citée en exemple. Le commissaire européen Michael McGrath a rappelé que l'UE était « en avance » avec son AI Act, le premier cadre réglementaire complet au monde.
Cette démarche, initialement critiquée pour sa potentielle lourdeur, est désormais perçue comme une « décision très sage ». Elle vise à établir la confiance des citoyens et des entreprises, condition essentielle pour que l'IA réalise son plein potentiel sans devenir un monstre incontrôlable.
Journaliste GNT spécialisé en mobilité / Ante-Geek des profondeurs du Web et d'ailleurs
Cette page peut contenir des liens affiliés. Si vous achetez un produit depuis ces liens, le site marchand nous reversera une commission sans que cela n'impacte en rien le montant de votre achat. En savoir plus.