Désormais, il devrait être évident que l'IA ressemble à un livre dont vous êtes le héros où chaque chemin mène à la catastrophe. Des émissions de carbone en explosion et un effondrement écologique ? Tournez à la page 37. D'autres issues possibles incluent certaines ou toutes les suivantes : l'éclatement de la bulle déclenchant une crise financière ; le chômage de masse dû à l'automatisation ; la fin de la démocratie et l'essor d'États autoritaires de surveillance ; des sectes fanatiques croyant qu'un algorithme de reconnaissance de formes est conscient ; des terroristes créant des armes biologiques dévastatrices ; des nations déployant des armes autonomes fonctionnant sur des échelles de temps que les humains ne peuvent pas saisir ; des nations ou des terroristes piratant les innombrables systèmes dont nous dépendons ; ou une IA qui, consciente ou non, poursuit des objectifs qui entrent en conflit avec le bien-être humain.
Imaginer que des figures comme Elon Musk, Sam Altman d'OpenAI, Peter Thiel de Palantir, ou le conseiller technologique de Trump, Marc Andreessen, nous mèneront vers un avenir utopique d'harmonie environnementale, de paix sociale et de loisirs infinis nécessite une illusion et une flatterie si extrêmes que seul un livre dont vous êtes le héros écrit par ChatGPT pourrait les évoquer.
Il y a une reconnaissance croissante, bien que longtemps attendue, que nous nous dirigeons vers une catastrophe, accompagnée d'appels à ralentir, à réglementer, ou même à faire une pause sur tout cela pendant que nous comprenons la situation. Ces appels ne viennent pas seulement des activistes mais d'un large éventail de politiciens, d'experts et d'initiés de la grande tech trop varié pour être ignoré—de Bernie Sanders à Bill Gates, qui a récemment déclaré : « Si quelqu'un avait un plan crédible pour ralentir les avancées de l'IA à l'échelle mondiale, je le soutiendrais probablement. » Il est juste le dernier initié à admettre ce que la société d'IA Anthropic a reconnu plus tôt cet été lorsqu'elle a appelé à une « pédale de frein ». L'autorégulation de l'industrie ne fonctionnera pas. S'il doit y avoir une pause, elle doit être imposée de l'extérieur.
Malgré cela, un accord international est malheureusement peu probable. L'IA est comme les armes nucléaires et suit la même logique : chaque acteur est poussé à mener cette course imprudente, avec pour seule justification qu'il ne veut pas être à la merci de celui qui gagne. La meilleure chance de ralentir les choses, semble-t-il, serait qu'un acteur contrôle un goulot d'étranglement critique et ait une raison de le fermer. Fait intéressant, l'UE détient une telle carte—et a même un motif pour la jouer, si elle ose.
Voir l'image en plein écran
L'usine du fabricant taïwanais de puces TSMC à Nanjing, en Chine. Photographie : Sipa US/Alamy
L'entreprise technologique néerlandaise ASML est l'entreprise la plus précieuse d'Europe, grâce à sa production de machines de lithographie à ultraviolets extrêmes (EUV). Ces machines sont essentielles pour la fabrication des puces les plus avancées au monde et constituent l'un des rares points d'étranglement possibles de toute l'industrie de l'IA. ASML a maîtrisé la technologie et la chaîne d'approvisionnement complexe nécessaires pour construire ces machines de 400 millions de dollars, qui gravent des motifs sur le silicium en focalisant la lumière à une longueur d'onde de 13,5 nanomètres (environ 1/10 000e de la largeur d'un cheveu humain). Sans ses machines, il n'y a pas de puces ; sans puces, il n'y a plus de centres de données. Cela affecte tout, de l'investissement de 265 milliards de dollars du fabricant taïwanais de puces TSMC dans de futures usines de fabrication (connues sous le nom de « fabs ») aux 7 000 milliards de dollars de centres de données que l'industrie devrait construire dans le monde (principalement aux États-Unis) d'ici 2030. Sans plus de centres de données utilisant ces puces actuelles et de nouvelle génération, la croissance exponentielle—et le risque—de l'IA s'arrêteraient net.
C'est pourquoi le gouvernement américain impose des contrôles à l'exportation extraterritoriaux sur ASML, bloquant les ventes de ses machines EUV les plus avancées à la Chine pour ralentir ses capacités de fabrication de puces. En imposant ces restrictions à ASML, les États-Unis ont exposé leur propre faiblesse à ce point d'étranglement : autant l'Europe dépend de services financiers et logiciels (finalement remplaçables) des États-Unis, autant l'avenir de toute technologie basée sur les puces dépend entièrement d'ASML. Une interdiction pure et simple des exportations des machines d'ASML forcerait l'industrie mondiale de l'IA à... En effet, c'est comme faire du surplace ou courir sur place. La pénurie de puces qui en résulterait et le ralentissement du développement de l'IA donneraient aux régulateurs le temps de rattraper la technologie, aux législateurs le temps de mettre à jour tout, du droit d'auteur à la loi fiscale, et aux sociétés le temps d'avoir de véritables débats sur le rôle que nous voulons que l'IA joue dans nos vies.
Pourquoi l'UE ferait-elle une telle chose ? Pas seulement pour des raisons humanistes, mais pour des raisons intéressées. Dans le meilleur des cas, une interdiction totale des exportations conduirait à une réorganisation de la chaîne d'approvisionnement et amènerait plus de décisions clés sous le contrôle de l'UE—où elles seraient soumises à la supervision du seul acteur qui a montré qu'il réglementerait l'IA de manière approfondie. Bien sûr, le meilleur cas est ambitieux : il est plus probable que les États-Unis ripostent en bloquant l'accès d'ASML aux fournisseurs basés aux États-Unis. Mais même si cela arrivait, il serait toujours dans l'intérêt de l'UE de provoquer une telle confrontation, sur la base de la logique étroite du pur intérêt économique et géopolitique, parce que l'UE cesserait de prendre du retard en termes relatifs dans les modèles d'IA et la « puissance de calcul » (capacité de traitement) des centres de données nécessaire pour les exécuter.
Les propres défenseurs européens de l'IA sont d'accord—même si ce qui les inquiète est le désavantage relatif de l'UE, et non la large gamme de risques de l'IA. Le projet Europe 2031 est une prévision techno-politique, élaborée par un groupe d'experts de l'industrie, sur ce qui pourrait arriver à l'UE si l'IA transforme radicalement l'économie et que l'UE reste loin derrière les États-Unis. Ils soutiennent que l'Europe doit investir des centaines de milliards dans la course à l'IA avant que les modèles de pointe et la « puissance de calcul » ne deviennent ce que TSMC et ASML sont aujourd'hui : des bénéficiaires d'un écart trop grand pour que tout concurrent puisse le combler.
Dans leur scénario, à un moment donné dans un avenir proche, l'UE sera forcée de mettre l'accès à ASML sur la table pour garantir l'accès aux modèles et à la puissance de calcul contrôlés par les États-Unis dont son économie et sa sécurité dépendront—pour découvrir seulement que la domination d'ASML s'est affaiblie avec le temps. (Plus les machines EUV sont exportées, plus des fabs sont construites ailleurs, et plus la Chine et les États-Unis ont de temps pour répliquer la technologie d'ASML.)
Les théoriciens des armes nucléaires s'inquiètent que, si l'impensable devait arriver, les États pourraient être poussés à lancer une attaque en raison d'un calcul de « à utiliser ou à perdre ». La même logique s'applique exactement à la seule chose qui peut arrêter le développement effréné de l'industrie de l'IA : l'UE peut utiliser le levier qu'ASML lui donne maintenant, ou risquer de perdre cette chance entièrement. Il est rare que des groupes si différents parviennent à la même conclusion : il y a une seule carte européenne à jouer, et elle doit être jouée. Au lieu de courir vers la folie, arrêtons simplement la course. Maintenant, et pour tout le monde.
Alexander Hurst écrit pour Guardian Europe depuis Paris. Son mémoire Generation Desperation est maintenant disponible.
Questions fréquemment posées
Voici une liste de FAQ basées sur le postulat de l'article, allant du niveau débutant au niveau avancé
Questions de débutant
1 Qu'est-ce que la course à l'IA exactement
C'est la compétition frénétique entre les géants de la technologie pour construire l'IA la plus puissante en premier Au lieu de prioriser la sécurité ou l'éthique, ils se précipitent pour publier de nouveaux modèles afin de battre leurs rivaux et de gagner des parts de marché
2 Pourquoi Bill Gates et Bernie Sanders sont-ils d'accord sur ce point
Ils viennent de côtés politiques complètement différents mais voient tous deux le même danger Gates s'inquiète que l'IA échappe au contrôle humain et cause des déplacements massifs d'emplois Sanders s'inquiète du pouvoir corporatif incontrôlé et de l'IA utilisée pour exploiter les travailleurs ou manipuler le public Ils sont tous deux d'accord que les motifs de profit pur ne devraient pas dicter l'avenir de l'humanité
3 Pourquoi l'Europe est-elle spécifiquement mentionnée comme la seule qui peut l'arrêter
Parce que les États-Unis et la Chine sont enfermés dans une guerre technologique où le gagnant rafle tout et ne ralentiront pas L'Europe cependant ne mène pas la course à l'IA donc elle a moins à perdre Plus important encore, l'UE a un historique d'adoption de réglementations strictes qui s'appliquent au monde entier—si vous voulez faire des affaires en Europe, vous devez suivre leurs règles
4 Que signifie réellement « y mettre un terme »
Cela ne signifie pas interdire l'IA entièrement Cela signifie arrêter la course dangereuse Cela signifie imposer des tests de sécurité stricts, exiger la transparence sur ce que l'IA peut faire, et infliger de lourdes amendes aux entreprises si elles publient des produits dangereux Il s'agit de forcer un ralentissement pour garantir que la sécurité rattrape la vitesse
5 La course à l'IA est-elle vraiment un désastre
L'argument est qu'elle l'est Le désastre n'est pas que l'IA existe—c'est la vitesse Les entreprises publient des outils puissants avant que nous comprenions comment ils affecteront les élections, les emplois ou la santé mentale Le désastre est l'imprudence, pas la technologie elle-même
Questions avancées
6 Comment la réglementation européenne arrêterait-elle réellement les entreprises américaines
L'UE a un « effet Bruxelles » Si une entreprise américaine comme Meta ou OpenAI veut servir 450 millions de consommateurs européens, elle doit se conformer aux lois de l'UE Si l'UE dit que vous ne pouvez pas déployer un modèle superintelligent sans un audit de sécurité par un tiers, l'entreprise doit faire cet audit à l'échelle mondiale pour
