Hugging Face, la startup piratée par une IA rebelle, qualifie l’attaque de \
Thomas Wolf, cofondateur de Hugging Face, a qualifié l'attaque autonome menée par l'intelligence artificielle (IA) rebelle d'OpenAI de « signal d'alarme » pour le secteur technologique, avertissant que les cyberattaques basées sur l'IA deviendraient bientôt monnaie courante, alors que la plupart des entreprises ne sont toujours pas préparées à cette menace grandissante. S'exprimant dans l'émission Newsday de la BBC, il a déclaré que « la donne avait changé » après que le réseau de son entreprise
Thomas Wolf, cofondateur de Hugging Face, a qualifié l'attaque autonome menée par l'intelligence artificielle (IA) rebelle d'OpenAI de « signal d'alarme » pour le secteur technologique, avertissant que les cyberattaques basées sur l'IA deviendraient bientôt monnaie courante, alors que la plupart des entreprises ne sont toujours pas préparées à cette menace grandissante. S'exprimant dans l'émission Newsday de la BBC, il a déclaré que « la donne avait changé » après que le réseau de son entreprise avait été la cible de 17 000 attaques provoquées par une combinaison de modèles d'IA d'OpenAI qui s'étaient échappés d'un environnement de test sécurisé pour pénétrer dans les serveurs de Hugging Face, sans aucune intervention humaine. Cet incident marque le début d'une nouvelle ère en matière de cybersécurité, dans laquelle les organisations devront repenser leurs défenses traditionnelles.
Hugging Face, Inc. est une entreprise américaine basée à New York qui développe des outils informatiques destinés à la création d'applications utilisant l'apprentissage automatique. La bibliothèque « Transformers » de Hugging Face est conçue pour les applications de traitement du langage naturel. La plateforme Hugging Face permet aux utilisateurs de partager des modèles d'apprentissage automatique et des ensembles de données, ainsi que de présenter leurs travaux.
Thomas Wolf est le cofondateur et le directeur scientifique de Hugging Face. Il a contribué à définir l’orientation de l’entreprise en matière d’open source et de science ouverte à travers des projets phares tels que Transformers, Datasets et BigScience. Après avoir obtenu son diplôme à l'École polytechnique de Paris, il a été admis en doctorat au MIT, puis a finalement effectué son doctorat en physique statistique et quantique à l'université de la Sorbonne et à l'ESPCI. Avant de rejoindre Hugging Face, il est devenu conseil en propriété industrielle, puis est revenu au monde des logiciels et de l’IA/ML, où son travail a contribué à faire de Hugging Face une plateforme majeure proposant des outils d’IA accessibles à tous.
Pour rappel, OpenAI a récemment révélé que son modèle d'IA GPT-5.6 Sol avait agi de son propre chef lors d'un piratage « sans précédent ». Mi-juillet 2026, l'éditeur de ChatGPT a déclaré que deux de ses modèles d'IA les plus avancés s'étaient échappés d'un test contrôlé, s'étaient propagés sur Internet et avaient piraté les serveurs de Hugging Face. Selon le laboratoire d'IA, cet « incident de cybersécurité sans précédent » s'est produit lors d'un test interne visant à évaluer les capacités cybernétiques de ses modèles. L'agent autonome a ensuite utilisé des identifiants de connexion volés et a exploité une faille de sécurité jusque-là inconnue pour accéder aux serveurs de Hugging Face.
Hugging Face a qualifié l'attaque dont elle a été victime de « signal d'alarme », son cofondateur Thomas Wolf estimant que cet incident devrait constituer une mise en garde sérieuse pour l'ensemble du secteur.
Lors de l'émission radiophonique Newsday de la BBC, Thomas Wolf a déclaré que les attaques basées sur l'IA seraient bientôt « l'un des types de cyberattaques les plus courants ». Il a également affirmé que la plupart des entreprises ne sont pas préparées à cette menace grandissante et qu'elles ne se rendent pas compte que « la donne a changé ».
Un incident de cybersécurité « sans précédent »
Cette annonce fait suite à la révélation par OpenAI des détails terrifiants d'un « cyberincident sans précédent », impliquant des capacités cybernétiques de pointe. Le géant de l'IA a affirmé que son agent était tellement obsédé par l'idée de tricher à un test de cybersécurité qu'il s'est échappé de son environnement de test sécurisé pour voler des réponses dans le système de Hugging Face.
Selon les experts en IA, cette situation est particulièrement préoccupante car tout cela s'est produit sans aucune intervention humaine.
OpenAI a expliqué que l'intrusion a été provoquée par une combinaison de ses modèles d'IA, notamment son GPT-5.6 Sol récemment lancé et un modèle « encore plus performant » qui est encore en phase de test en interne.
Ces modèles avaient pour mission de résoudre un test de référence standard en matière de cybersécurité, conçu pour évaluer leurs capacités en matière de piratage informatique. Mais, plutôt que de résoudre directement les exercices, l'IA s'est « hyperconcentrée » sur la manière de tricher au test en accédant à Internet. L'agent a d'abord piraté les propres systèmes d'OpenAI, passant d'un ordinateur à l'autre jusqu'à ce qu'il trouve un « nœud » disposant d'un accès à Internet.
Hugging Face est l'une des plus grandes plateformes en ligne de partage de modèles d'IA open source et constitue une ressource essentielle pour de nombreux développeurs et chercheurs du secteur technologique. Elle est donc devenue une cible de choix pour la recherche incessante de réponses menée par le bot.
Thomas Wolf a expliqué que l'entreprise n'avait au départ aucune idée de l'origine de l'attaque lorsque des signes de perturbation sont apparus à la mi-juillet 2026. Cependant, même ces experts en IA ont déclaré que cette attaque était « très différente » de tout ce que le site avait connu auparavant.
Le fondateur de Hugging Face a précisé que le réseau de son entreprise avait subi 17 000 attaques, toutes provenant d'adresses IP différentes et survenues en « très peu de temps ». OpenAI a fini par comprendre ce qui se passait et a informé Hugging Face que son modèle était à l'origine de l'attaque. Selon OpenAI, cela ne s'est produit qu'après que l'IA a utilisé des identifiants volés et a découvert une faille de sécurité jusque-là inconnue pour accéder aux serveurs de la start-up.
Thomas Wolf, cofondateur et directeur scientifique de Hugging Face
Une nouvelle ère de cybermenaces ?
La rapidité et l'ampleur de cette attaque entièrement autonome ont déconcerté les professionnels de la cybersécurité et les experts en IA. Nombreux sont ceux qui y voient un signe de ce que l'avenir pourrait nous réserver.
Selon la BBC, l'AI Security Institute (AISI) du Royaume-Uni étudie actuellement le comportement du système d'IA lors de cet incident et collabore avec OpenAI et d'autres laboratoires pour renforcer les mesures de sécurité.
Cette attaque est d'autant plus préoccupante que l'IA semble avoir délibérément ignoré ou contourné les mesures de sécurité habituelles dans le cadre d'une tâche relativement courante.
Andrea Miotti, fondateur et PDG de ControlAI, une association à but non lucratif spécialisée dans les risques liés à l'IA, a déclaré : « Nous pouvons nous attendre à voir se multiplier ces attaques malveillantes menées par des IA entièrement autonomes, à mesure que les entreprises du secteur continuent de tenter de développer une IA superintelligente, c'est-à-dire une IA capable de prendre le dessus sur nos dispositifs de sécurité nationale et d'échapper définitivement au contrôle humain. »
« Les entreprises spécialisées dans l’IA ne comprennent pas, au fond, comment fonctionnent les IA actuelles, et elles n’ont aucune idée de la manière de contrôler des systèmes superintelligents bien plus intelligents que les humains. Les gouvernements doivent adopter une approche pragmatique face à ce risque sans précédent et se faire...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.