Mark Zuckerberg s’oppose à un ralentissement du développement de l’IA : “Tout laboratoire qui ne se concentre pas sur l’alignement prendra du retard”
Mark Zuckerberg, le patron de Meta, a rejeté mardi les appels grandissants à suspendre ou ralentir le développement de l'intelligence artificielle, estimant que les mécanismes du marché et le risque de poursuites judiciaires constituaient les meilleurs garde-fous face à cette technologie.
"Les gens ne voudront pas utiliser des agents qui ne sont pas alignés sur leurs intérêts et qui ne font pas ce qu'ils demandent. Les laboratoires ont donc une forte incitation naturelle à rendre leurs modèles davantage alignés", a écrit Mark Zuckerberg sur X.
L'"alignement" désigne les efforts visant à faire en sorte que les modèles se comportent comme le veulent les humains.
"Tout laboratoire qui ne se concentre pas sur l'alignement prendra du retard", a-t-il ajouté.
L'inquiétude autour de l'IA est montée en puissance ces dernières semaines, en raison de plusieurs incidents de sécurité et de la propension nouvelle des modèles d'intelligence artificielle à s'améliorer seuls, sans intervention humaine.
Le débat porte aujourd'hui aussi sur la capacité du secteur à s'autoréguler. Des acteurs comme OpenAI, Anthropic et Google étudient la création d'un organisme commun chargé d'élaborer des normes.
Plusieurs figures influentes du secteur, emmenées par le directeur général d'Anthropic, Dario Amodei, plaident pour un ralentissement du développement de l'IA.
M. Zuckerberg défend toutefois que la menace de poursuites judiciaires contraint déjà les laboratoires à agir de manière responsable.
Enquête Pisa : l'IA, le nouvel allié des élèves mais pas un sorcierIl cite en exemple la décision de Meta de repousser de plusieurs mois le lancement de son système Muse AI, doté d'agents personnalisés, afin de renforcer ses dispositifs de sécurité et de sûreté.
Remplacer l'humain par l'IA ? Pas si vite...Mark Zuckerberg s'est également prononcé en faveur d'évaluations indépendantes des systèmes d'IA, soulignant que Meta Superintelligence Labs, la division IA du groupe, faisait déjà appel à des experts extérieurs.
Il a appelé à la mise en place d'un "écosystème plus vaste et plus diversifié d'évaluateurs" dans l'ensemble du secteur, une critique à peine voilée d'Anthropic, accusé par certains de privilégier des évaluateurs avec lesquels l'entreprise entretient des liens étroits.
Meta, qui investit jusqu'à 145 milliards de dollars cette année dans ses infrastructures d'IA, bataille contre toute régulation susceptible de le ralentir: aucune règle ne doit retarder la sortie des modèles américains, "ne serait-ce que d'un mois", avait déjà plaidé son fondateur début août.
La publication de Mark Zuckerberg a été saluée par plusieurs personnalités de la Silicon Valley proches de la Maison Blanche, qui contestent la multiplication des mises en garde sur les dangers potentiels de l'IA et les appels à un ralentissement de son développement.