Décryptage. « Ces entreprises jouent avec nos vies » : les IA sont-elles un danger pour l’humanité ?

Certaines portes font plus de bruit que d’autres. C’est le cas de celle que vient de claquer, en démissionnant d’Anthropic après un premier passage chez OpenAI, le chercheur britannique Jacob Coxon. « Aucune de...

September 10, 2026

Certaines portes font plus de bruit que d’autres. C’est le cas de celle que vient de claquer, en démissionnant d’Anthropic après un premier passage chez OpenAI, le chercheur britannique Jacob Coxon. « Aucune de ces entreprises n’agit de manière responsable. Elles foncent droit vers une superintelligence capable de s’auto-améliorer et jouent avec nos vies. Les personnes qui conçoivent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup marketing. Au contraire, beaucoup de dirigeants et de chercheurs seniors modèrent leurs propos dans la presse pour paraître raisonnables », s’est-il alarmé mercredi sur X.

Peu après, un responsable de l’alignement chez Anthropic enfonçait le clou. « Nous croyons vraiment et sincèrement que l’IA pourrait tuer tous les êtres humains », avait réagi Evan Hubinger, estimant « à titre personnel » cette probabilité à plus de 10 % au cours de la prochaine décennie.

Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs.

En cliquant sur « J’accepte », les cookies et autres traceurs seront déposés et vous pourrez visualiser les contenus (plus d'informations).

En cliquant sur « J’accepte tous les cookies », vous autorisez des dépôts de cookies et autres traceurs pour le stockage de vos données sur nos sites et applications à des fins de personnalisation et de ciblage publicitaire.

Vous gardez la possibilité de retirer votre consentement à tout moment en consultant notre politique de protection des données.
Gérer mes choix

Ces mises en garde viennent s’ajouter à une liste déjà longue. Lundi, c’est le Haut-Commissaire aux droits de l’homme des Nations unies, Volker Türk, qui appelait à réagir avant que l’IA devienne « un risque existentiel à l’humanité ». Le pape Léon XIV a fait part à plusieurs reprises de son inquiétude. Le mois dernier, le Nobel d’économie Daron Acemoglu avouait « ne pas dormir de la nuit en pensant aux conséquences énormes que tout ça va avoir ». Quant aux patrons d’OpenAI et d’Anthropic, ils s’épanchent régulièrement sur le potentiel et les risques de l’IA. « Il y a 25 % de risque que les choses tournent vraiment, vraiment mal », avait estimé l’an dernier Dario Amodei, préférant parier « sur les 75 % de chances que les choses tournent vraiment, vraiment bien ».

La hantise du désalignement

Parmi les nombreuses chapelles de la Silicon Valley, celle des doomers (catastrophistes) de l’IA a toujours été très fréquentée. Ces derniers temps, elle est pleine à craquer. Il y a d’abord eu l’incident Hugging Face, cet été. Plusieurs centaines d’agents d’OpenAI sont parvenus à s’échapper de leur environnement isolé, avant de se coordonner pour pirater la plateforme Hugging Face. Ils pensaient y trouver les réponses aux tests qu’ils étaient censés résoudre… Mercredi, Anthropic a révélé quatre incidents de cybersécurité, sur fond d’inquiétudes face aux capacités croissantes des derniers modèles d’IA. La sixième version de ChatGPT, Astra, est sortie le 3 septembre. Pour certains observateurs comme Jensen Huang, le patron de Nvidia, elle incarnerait la première forme d’intelligence artificielle générale (AGI), capable d’exécuter n’importe quelle tâche cognitive aussi bien ou mieux qu’un humain.

Le danger auquel pensent beaucoup de doomers porte un nom : désalignement. Théorisé dans les années 1960, le terme “alignement” renvoie à l’idée qu’une machine intelligente doit agir conformément aux intentions, aux valeurs et aux intérêts de ses concepteurs. Imaginons, par exemple, qu’on charge une IA de trouver un moyen de lutter contre le réchauffement. C’est le garde-fou qui l’empêcherait, après avoir constaté que les humains sont responsables de la pollution, d’en conclure que l’éradication de l’humanité est la façon la plus simple d’atteindre son objectif. C’est aussi un des principaux casse-tête auxquelles sont confrontées les équipes travaillant sur les modèles d’IA : comment lui apprendre l’éthique ? Contrôler son raisonnement ? De multiples tests ont montré que les IA, pour atteindre un objectif, n’hésitaient pas à mentir ou à tricher.

Le risque comme argument marketing ?

Mais si leur préoccupation est réelle, les communications alarmistes d’OpenAI et Anthropic ne sont pas forcément dénuées d’arrière-pensées. Présenter l’IA comme un danger mortel est le meilleur moyen de pousser Washington à en faire un enjeu de sécurité nationale et imposer des contraintes. C’est déjà en partie le cas. En juin dernier, le département du Commerce avait exigé des licences d’exportation afin de permettre à des ressortissants étrangers d’utiliser Fable et Mythos, les nouvelles versions de Claude. « En ce qui concerne le risque lié à l’IA, [certains] patrons ont tout à gagner financièrement si des barrières réglementaires sont dressées pour former un cartel de fournisseurs d’IA agréés par le gouvernement et protégés de la concurrence des nouvelles startups et de l’open source », analysait l’investisseur américain Marc Andreessen Horowitz, dans un essai publié en 2023.

La cible est toute désignée : la Chine, dont les startups et les groupes comme AliBaba menacent l’hégémonie et la rentabilité des géants américains. Si les États-Unis conservent une longueur d’avance sur les « modèles frontière » (les plus avancés), l’écart ne cesse de se réduire. Les modèles chinois se payent le luxe d’être presque aussi performants que leurs concurrents américains, pour une fraction de leur coût. Privées des puces Nvidia par l’administration Trump, les startups chinoises sont devenues les championnes de l’optimisation. Tous leurs modèles sont aussi à poids ouverts (*). Alors qu’OpenAI ou Anthropic verrouillent leur écosystème, n’importe qui peut télécharger Qwen, Kimi ou DeepSeek et les exécuter sur l’infrastructure de son choix. Une stratégie probablement encouragée par Pékin qui commence à porter ses fruits. En plus de ses propres modèles, même Mistral propose à ses clients certains modèles chinois.

(*) Les poids sont les paramètres du modèle : ils permettent de le faire tourner (ce qu’on appelle l’inférence), mais pas de le recréer.