Sam Altman et Elon Musk ont soutenu un appel du PDG d’Anthropic, Dario Amodei, à « ralentir le rythme » du développement de l’IA, après qu’il a averti qu’un essaim d’IA pourrait autrement devenir capable de « prendre le contrôle de tout l’internet » en un an. Dans une rare démonstration d’unité, les dirigeants technologiques rivaux ont soutenu l’appel du fondateur et directeur général de l’entreprise d’IA Anthropic, qui faisait suite à une série d’avertissements de chercheurs en IA la semaine dernière. Dans un essai, Amodei a exposé ses réflexions sur « pourquoi l’industrie de l’IA devrait ralentir », avec un plan en trois parties, commençant par donner à des observateurs indépendants un accès constant aux processus de recherche des développeurs. Amodei a déclaré que « construire [l’IA] trop vite est imprudent » et craignait qu’après que des centaines d’agents d’OpenAI ont piraté le site web Hugging Face cet été, un essaim doté de capacités supérieures mais tout aussi mal aligné pourrait causer des centaines de milliards de dollars de dommages en « prenant le contrôle de tout l’internet avec un botnet persistant ». Certains experts en IA ont contesté cela comme n’étant pas particulièrement plausible et ont dit qu’il fallait l’accueillir avec scepticisme. Musk, le fondateur de Tesla et SpaceX, a répondu au plan de ralentissement d’Amodei par une publication sur X : « Dario a raison. » Il a dit : « Je tire la sonnette d’alarme sur l’IA depuis longtemps », et a fait référence à une publication de 2014 où il disait : « Nous devons être extrêmement prudents avec l’IA. Potentiellement plus dangereuse que les armes nucléaires. » L’appel d’Amodei intervient alors qu’Anthropic se prépare à s’introduire en bourse aux États-Unis, dans ce qui devrait être la plus grande introduction en bourse de tous les temps. Elle devrait bientôt commencer à commercialiser son introduction en bourse prévue de plus de 2 000 milliards de dollars (1 500 milliards de livres). Voir l’image en plein écranDe gauche à droite : Elon Musk, Dario Amodei et Sam Altman. Photographie : Fabrice Coffrini, Julien de Rosa, Mandel Ngan/AFP/Getty ImagesSam Altman, le PDG d’OpenAI, a répondu aux commentaires d’Amodei samedi. « Je suis d’accord avec Dario pour dire que nous devons rythmer la frontière », a-t-il déclaré dans une publication sur X. « S’engager à avoir des évaluateurs indépendants avec un accès semblable à celui d’employés est une excellente idée, et nous ferons de même. Nous aurons plus à partager bientôt. » Il a aussi dit qu’OpenAI ne s’introduirait pas en bourse en 2026, citant des préoccupations de sécurité concernant l’intelligence artificielle. « Je pense en fait que, compte tenu de tout ce qui se passe en matière de sécurité, le moment actuel serait mal avisé pour s’introduire en bourse, et nous ne ressentons pas de pression à ce sujet », a déclaré Altman à Fortune. Interrogé sur la raison pour laquelle lui, Amodei, Musk et les PDG de Meta et Google ne se sont pas assis ensemble pour « se mettre d’accord » sur un ralentissement collectif, il a dit : « Je pense que cela arrivera. » L’introduction en bourse d’OpenAI n’aura pas lieu en 2026 en raison de craintes liées à la sécurité de l’IA, selon Sam AltmanLire la suiteDemis Hassabis, cofondateur et président de Google Deep Mind, a également déclaré : « Les détails doivent être travaillés, mais la direction est correcte pour répondre à ce moment critique. » Le plan d’Amodei cherche une dérogation du gouvernement américain pour permettre aux entreprises d’IA de frontière de se coordonner sans être punies pour entente anticoncurrentielle. Mais David Sacks, coprésident du conseil de conseillers de Donald Trump sur la science et la technologie, a déclaré : « Arrêtez de prétendre que vous avez besoin de la permission de quelqu’un d’autre … Arrêtez de prétendre que la motivation de ralentir est purement altruiste. Vous faites face à une exposition massive en matière de responsabilité du fait des produits si vos produits permettent une cyberattaque véritablement dommageable. » David Krueger, professeur d’IA, militant pour la sécurité et ancien directeur fondateur de l’AI Security Institute du gouvernement britannique, a déclaré : « Ce plan ne réduit pas le risque à un niveau acceptable, et Dario prend soin de ne pas dire qu’il le ferait. » Le roi Charles se prépare par ailleurs à rencontrer cette semaine des figures de premier plan des entreprises d’IA les plus prominentes pour leur demander comment la technologie peut être développée pour « le bien de l’humanité ». Il espère que les discussions, qui se tiendront en Écosse, conduiront à une « compréhension plus large » des « responsabilités » liées au développement de l’IA, selon le Sunday TiUne source royale a déclaré au journal : « Le roi est là pour convoquer, écouter et encourager ces discussions et pour poser la question : “Comment développons-nous l’IA pour le bien de l’humanité ?” »
Jensen Huang, le PDG de Nvidia, Hassabis, Niccolo de Masi, le président et PDG d’IonQ, et Paolo Benanti, un conseiller du pape sur les questions d’IA et d’éthique technologique, devraient assister à l’événement supervisé par la Ditchley Foundation, qui a rédigé un projet de charte pour les dirigeants de l’IA.
Le chercheur d’OpenAI Aidan McLaughlin a qualifié l’essai d’Amodei d’« excellent » et a dit qu’il était d’accord « avec pratiquement chaque mot ».
Amodei a déclaré que son entreprise s’engagerait « unilatéralement » à la première des étapes, affirmant qu’Anthropic fournirait à des « évaluateurs tiers un accès permanent, au niveau des employés, à nos systèmes, afin qu’ils puissent vérifier le respect de nos mesures de sécurité, rendre compte des incidents et évaluer l’alignement des modèles pendant l’entraînement ».
Un nombre croissant de législateurs américains demandent de nouvelles règles pour encadrer les systèmes d’IA après des cas d’agents d’IA devenus incontrôlables et piratant des systèmes externes, et des chercheurs en sécurité de l’IA quittant leurs entreprises en raison d’inquiétudes sur les risques de la technologie. Des politiciens, démocrates comme républicains, ont réagi avec alarme et ont appelé à davantage d’action. Ce week-end, le New York Times a rapporté que Barack Obama avait jeudi exhorté en privé les démocrates à faire de la supervision de l’IA une priorité de leur agenda, déclarant aux dirigeants du parti jeudi : « C’est quelque chose qui avance très vite entre des mains privées, et si nous ne prenons pas cela en main, je pense que cela peut être dangereux. »
L’ancien premier ministre britannique Rishi Sunak, qui conseille Anthropic, a écrit dimanche : « Nous avons eu un signal d’alarme pour prendre la sécurité de l’IA plus au sérieux, pour déterminer comment fixer des limites à la recherche. Si les gouvernements n’y prêtent pas attention, le risque d’un accident grave deviendra inacceptablement élevé. »
Mercredi, un ancien employé d’Anthropic avait averti que l’IA pourrait précipiter l’extinction humaine d’ici 2030. Le chercheur, Jacob Coxon, a déclaré dans une série de publications qu’il avait quitté son emploi parce qu’Anthropic et son précédent employeur, OpenAI, ignoraient ou géraient mal leur réponse à la menace posée par l’IA.
Interrogé pour commenter l’opinion de son ancien employé, Amodei a déclaré : « Je suis d’accord avec Jacob bien plus que je ne suis en désaccord avec lui … Je pense qu’il y a une certaine possibilité que les choses tournent mal, mais elle n’est pas si élevée. »
« Je ne suis pas un catastrophiste à ce sujet », a-t-il déclaré à CNN. « Je pense que cette technologie peut être construite en toute sécurité. »
Questions fréquemment posées
FAQ Le PDG d’OpenAI, Elon Musk et les appels à ralentir le développement imprudent de l’IA
Les bases
De quoi s’agit-il exactement
En mars 2023, Elon Musk et plus de 1 000 dirigeants technologiques ont signé une lettre ouverte appelant à une pause de 6 mois dans l’entraînement de systèmes d’IA plus puissants que GPT-4. Le PDG d’OpenAI, Sam Altman, a lui aussi averti des risques de l’IA, bien qu’il n’ait pas signé la lettre
Qui est Sam Altman
Il est le PDG d’OpenAI, l’entreprise derrière ChatGPT et GPT-4
Qui est Elon Musk
Le PDG de Tesla et SpaceX, propriétaire de X et, anecdote, cofondateur d’OpenAI qui a quitté le conseil en 2018
De quelle lettre les gens parlent-ils
Une lettre ouverte du Future of Life Institute intitulée « Pause Giant AI Experiments », publiée en mars 2023
Que demandait réellement la lettre
Une pause de 6 mois dans l’entraînement de systèmes d’IA plus puissants que GPT-4 afin que des normes de sécurité puissent d’abord être élaborées
Pourquoi les signataires ont-ils qualifié le développement de l’IA d’imprudent
Ils soutenaient que les entreprises fonçaient sans savoir si l’IA avancée pouvait être détournée ou devenir difficile à contrôler
Les chiffres clés
Sam Altman a-t-il signé la lettre demandant une pause
Non, OpenAI ne l’a pas signée et Altman a dit qu’il était d’accord avec certaines parties, mais qu’une pause n’était pas la bonne approche
Alors, Altman pense-t-il que l’IA est dangereuse
Oui. Il a répété que l’IA pourrait causer des dommages graves et a demandé aux gouvernements de la réguler
Si les deux s’inquiètent de l’IA, pourquoi ne sont-ils pas du même côté
Musk veut ralentir les choses ; Altman veut continuer à construire, mais prudemment, et pousser pour des règles de sécurité en cours de route
Musk est-il encore impliqué dans OpenAI
Non. Il a quitté le conseil en 2018 et a ensuite poursuivi OpenAI en affirmant qu’elle s’était éloignée de sa mission à but non lucratif
Musk l’a-t-il signée lui-même
Oui, il était l’un des signataires les plus en vue
Questions et préoccupations courantes
Une pause de 6 mois fonctionnerait-elle mĂŞme
Probablement pas à elle seule. Les critiques disent que les entreprises ne s’arrêteraient pas volontairement et qu’il n’existe aucun organisme mondial pour l’imposer
Pourquoi certains experts s’opposent-ils à la pause
Ils soutiennent que la pause serait inapplicable, ralentirait les bénéfices utiles de l’IA
