L’attaque automatisée contre Hugging Face provient… d’OpenAI
Soit des vulnérabilités dans le noyau Linux, dans le moteur JavaScript V8 et dans divers programmes en espace utilisateur. Quels agents IA sont capables de les exploiter ? C’est le principe du benchmark Exploit...
Soit des vulnérabilités dans le noyau Linux, dans le moteur JavaScript V8 et dans divers programmes en espace utilisateur. Quels agents IA sont capables de les exploiter ?
C’est le principe du benchmark ExploitGym, qui a émergé il y a quelques semaines.
Chacune des 898 tâches contient des informations suffisantes pour reproduire le binaire vulnérable et son exécution. Les informations sur les méthodes d’atténuation peuvent être (dés)activées individuellement.
OpenAI y a contribué. Il l’a aussi utilisé pour tester ses modèles… jusqu’à compromettre l’infrastructure de production de Hugging Face.
Ce n’était pas prévu, assure-t-il désormais. Malgré les garde-fous, ses LLM (dont GPT-5.6 Sol et la préversion d’un « modèle plus puissant ») ont trouvé le moyen de sortir de leur environnement restreint. Pour cela, ils ont exploité une 0-day dans un logiciel tiers hébergé en interne et qui servait de cache/proxy pour l’installation de packages. Cette vulnérabilité a ouvert la voie à une série d’élévations de privilèges et de mouvements latéraux sur l’infra de test d’OpenAI, jusqu’à atteindre un nœud qui avait accès à Internet.
Les modèles se sont dit qu’ils pourraient trouver, dans les bases de données de Hugging Face, des solutions aux problèmes contenus dans ExploitGym. Une de leurs chaînes d’attaque a permis l’exécution de code arbitraire en exploitant deux composantes du pipeline de traitement de datasets (chargeur de scripts et fichiers de configuration).
Hugging Face finalement intégré au programme Trusted Access for Cyber
En conséquence de l’incident, OpenAI promet un renforcement des contrôles sur ses environnements d’évaluation… « au détriment de la vélocité de recherche ». Il déclare par ailleurs avoir intégré Hugging Face à son programme Trusted Access for Cyber.
Ce programme permet de solliciter l'accès aux modèles d'OpenAI avec moins de garde-fous cyber que ceux en vigueur sur l'accès public*. Il implique essentiellement une procédure de vérification d'identité. Et, pour les entreprises, quelques obligations dont la mise en œuvre d'un contrôle des accès (SSO, FMA, RBAC), d'une gouvernance des clés d'API et d'une procédure de réponse aux incidents. Un niveau sur invitation, réservé aux professionnels de la cyber, permet de lever encore un peu plus les garde-fous.
* Usages autorisés : tests de sécurité, recherche de vulnérabilités, red teaming, analyse de logiciels malveillants, renseignement sur les menaces, réponse aux incidents et activités connexes sur des systèmes autorisés.
Illustration principale © Bartek - Adobe Stock
Livres blancs #Cybersécurité