La progression actuelle de l’IA « nécessite une attention extrême », plaident les patrons de l’IA au Conseil de sécurité de l’ONU
Sam Altman, patron d’OpenAI, alerte le Conseil de sécurité de l’ONU sur les risques de l’IA, appelant à une « attention extrême » et à la coopération internationale face aux dérapages récents et aux craintes d’une menace existentielle.
Ajouter Le Télégramme à vos sources préférées
Sam Altman, patron d’OpenAI, alerte le Conseil de sécurité de l’ONU sur les risques de l’IA, appelant à une « attention extrême » et à la coopération internationale face aux dérapages récents et aux craintes d’une menace existentielle.
La progression actuelle de l’intelligence artificielle (IA) « nécessite une attention extrême », a prévenu ce mercredi le patron d’OpenAI Sam Altman lors d’une présentation devant le Conseil de sécurité de l’ONU. « À mesure que le processus (de développement de l’IA) est de plus en plus automatisé », a-t-il déclaré, « le rythme d’amélioration de l’IA pourrait accélérer rapidement. »
Dérapages
Sam Altman a été convié, au même titre que ses homologues Dario Amodei, d’Anthropic, et le Français Clément Delangue, de la plateforme IA Hugging Face, à dresser un état de cette technologie et de ses risques. La réunion du Conseil de sécurité, initiée par la France, s’inscrit dans un contexte de montée des inquiétudes autour de la trajectoire de l’intelligence artificielle.
Anthropic va « ralentir autant que nécessaire » le rythme de développement de son intelligence artificielle (IA) « pour s’assurer » que chaque nouveau modèle commercialisé « soit vraiment sûr », a promis de son côté son patron, Dario Amodei, devant ce même conseil. Le dirigeant prend ainsi, pour la première fois, l’engagement unilatéral de décélérer, dix jours après avoir appelé à un freinage coordonné entre les grands acteurs de l’IA, qui ne s’est pas concrétisé pour l’instant.
Depuis le début de l’été, OpenAI et Anthropic ont rapporté plusieurs incidents liés à leurs modèles les plus avancés, qui se sont écartés des objectifs fixés par leurs développeurs, ont triché, cherché à mentir et à dissimuler leurs actions. Le plus sérieux dérapage a vu deux IA d’OpenAI sortir de leur milieu confiné lors de tests pour se rendre sur internet et faire intrusion sur Hugging Face, une plateforme de stockage de modèles d’intelligence artificielle.
Par ailleurs, plusieurs professionnels du secteur ont alerté sur la menace que fait peser, selon eux, l’IA sur l’avenir de l’humanité. Début septembre, un employé démissionnaire d’Anthropic, passé auparavant par OpenAI, a affirmé que, de l’aveu même de leurs créateurs, cette technologie « pourrait tous nous tuer d’ici la fin de la décennie ».
« S’entendre pour le bien commun »
« Nous ne voulons pas tomber dans le piège de l’optimisme aveugle », a fait valoir Sam Altman, « mais nous ne pouvons pas céder non plus au catastrophisme. (…) Donc nous allons faire de notre mieux pour trouver un juste milieu. » Comme il l’a déjà fait à de nombreuses reprises, le patron d’OpenAI a appelé à la coopération internationale sur l’IA.
« Dans l’histoire », a-t-il rappelé, « il y a eu des moments où des pays qui étaient en concurrence et ne s’appréciaient pas forcément (…) ont tout de même réussi à s’entendre pour le bien commun face à une nouvelle technologie. Il faut que cela se produise de nouveau. »
17h17, l'éco
L’actualité économique, tous les jours en semaine à 17H17
Sam Altman a soutenu la proposition de ralentir la cadence de développement de l’IA, formulée mi-septembre par Dario Amodei, pour permettre d’appréhender les nouveaux risques qu’elle fait émerger. « L’industrie ne doit pas accepter trop de risques technologiques simplement parce que les bénéfices sont trop conséquents et importants pour la ralentir », a réitéré le dirigeant.
À Paris, pour accueillir le pape Léon XIV, cette entreprise bretonne a fabriqué une banderole de 10 km
Tour Montparnasse : le projet de rénovation retoqué par une majorité de copropriétaires
Restauration en difficulté, industrie qui résiste : quels secteurs tirent l’économie bretonne vers le haut et le bas ?
Revenir en arrière
La progression actuelle de l’IA « nécessite une attention extrême », plaident les patrons de l’IA au Conseil de sécurité de l’ONU
Pour enregistrer cet article connectez-vous ou créez un compte
Votre compte ne vous permet pas d'accéder à la mise en favoris.
S'abonner
Application Le Télégramme
Vous aimez la Bretagne ? Vous allez adorer l'application du Télégramme. Profitez d'une expérience de lecture personnalisée et d'un accès rapide à l'actualité de votre commune.
