Voici la traduction en français du texte fourni :
Michael Wooldridge est comme le professeur que vous auriez aimé avoir : facile à parler, excellent pour décomposer des idées complexes en termes simples, pas trop intellectuel ni essayant trop d'être cool, et véritablement enthousiaste à propos de son travail. « J'adore voir la lumière s'allumer chez quelqu'un, quand il saisit quelque chose qu'il ne comprenait pas avant », dit-il. « Je trouve cela incroyablement gratifiant. »
Il donne l'impression d'être un gars ordinaire, ce qu'il n'est clairement pas, étant un professeur d'Oxford avec plus de 500 articles scientifiques et 10 livres à son actif. Typiquement, son travail préféré est sa contribution aux Expert Books de Ladybird — une mise à jour de la série classique pour enfants — sur l'intelligence artificielle. « J'en suis très fier », dit-il en me tendant un exemplaire de sa bibliothèque. Nous sommes dans son bureau au département d'informatique plutôt ordinaire de l'Université d'Oxford, par une journée ensoleillée de printemps. C'est peut-être le cadre du campus, mais notre conversation ressemble presque à un séminaire.
Wooldridge est un orateur public talentueux, surtout sur l'intelligence artificielle — un domaine dans lequel il travaille depuis plus de 30 ans, mais qu'il aborde encore avec une bonne dose de scepticisme. Dans ses conférences de Noël 2023 pour la Royal Institution, intitulées La vérité sur l'IA, il a amené un chien robotique et a demandé à son public d'âge scolaire de voter s'ils le frapperaient avec une batte de baseball. Et pour expliquer l'apprentissage par renforcement, il a recréé le film classique des années 80 WarGames, où un jeune Matthew Broderick empêche une catastrophe nucléaire en faisant jouer au tic-tac-toe l'ordinateur militaire américain contre lui-même (jusqu'à ce qu'il réalise qu'il n'y a aucun moyen réel de gagner). « Matthew Broderick était à Londres à l'époque. Nous avons essayé de le faire venir à la conférence de Noël, mais il n'a pas pu », dit Wooldridge. « Alors nous avons nommé notre ordinateur BrodeRick en son honneur. »
WarGames est en fait assez proche du sujet du dernier livre de Wooldridge, Leçons de vie de la théorie des jeux : L'art de penser stratégiquement dans un monde complexe. Il enseigne ce sujet à ses étudiants depuis plus de 15 ans, dit-il. Maintenant, c'est notre tour. Il n'y a pas de mathématiques dans le livre de Wooldridge ; au lieu de cela, il transforme la théorie des jeux en 21 scénarios faciles à comprendre, couvrant tout, de la pêche à la morue de l'Atlantique à Pepsi contre Coca-Cola en passant par l'existence de Dieu.
« Il est surprenant de voir combien d'événements mondiaux peuvent être expliqués par un nombre relativement restreint de modèles de théorie des jeux », dit Wooldridge. L'un des plus simples est le jeu du « poulet », qu'il illustre dans son livre en utilisant une scène du film de James Dean La fureur de vivre (aucun de ses étudiants n'en avait entendu parler, admet-il). Deux adolescents conduisent leurs voitures vers une falaise ; le premier à sauter est le « poulet » et perd. S'ils sautent tous les deux en même temps, c'est un match nul ; si aucun ne saute, vous perdez gravement (alerte spoiler : c'est ce qui arrive dans le film).
La leçon théorique ici concerne les équilibres de Nash (nous n'entrerons pas dans les détails) — mais en pratique, nous voyons ce jeu se dérouler dans la vie réelle tout le temps. La crise des missiles de Cuba était l'exemple de référence, mais un autre se déroule en ce moment : le conflit États-Unis-Iran. « Vous avez deux camps qui profèrent des menaces de plus en plus graves l'un contre l'autre ; quelqu'un doit reculer à un moment donné », dit Wooldridge. « Le danger est que, si aucun ne recule, vous dépassez un point de non-retour et obtenez le pire scénario pour tout le monde. »
Y a-t-il un moyen d'en sortir ? « Eh bien, une façon dont le jeu peut changer est si un tiers intervient et offre une incitation pour qu'un camp agisse différemment. » Une autre option est de contourner le jeu en communiquant avec votre adversaire. C'est ce qui s'est passé pendant la crise des missiles de Cuba, mais cela semble moins probable ici. « Bien que, je dois dire, l'Iran semble jouer beaucoup plus intelligemment, dans le sens où le camp américain est très, très imprévisible. Maintenant, être imprévisible est aussi une stratégie classique de théorie des jeux, mais cela rend très difficile pour l'autre camp de savoir comment répondre. Si vous êtes vraiment confronté à un joueur irrationnel, une chose que dit la théorie des jeux est que vous vous contentez de vous couvrir contre le pire des scénarios. »
Ce n'est pas seulement une question de guerre ou même de jeux, souligne Wooldridge. Dans son livre, il définit la théorie des jeux comme « une théorie mathématique qui vise à comprendre les situations où des parties intéressées interagissent entre elles ». Il soutient que cela peut s'appliquer à toutes sortes de situations : sociales, politiques et philosophiques.
Voir l'image en plein écran
Véritablement enthousiaste … Wooldridge en 2023. Photographie : Paul Wilkinson
L'idée d'un « jeu à somme nulle », par exemple, est devenue un terme courant (en partie grâce à WarGames), même si elle est largement mal comprise. Un jeu à somme nulle n'est pas simplement un jeu où un camp gagne ce que l'autre perd ; c'est un jeu où le but est de faire perdre votre adversaire le plus possible, explique Wooldridge. Donc, techniquement, les échecs ne sont pas un jeu à somme nulle parce que vous essayez simplement de gagner, pas de détruire ou d'humilier votre adversaire. Il y a un côté social et politique à cela. « Cet état d'esprit de somme nulle est très nocif. C'est un trait très masculin », dit-il. « Et les preuves montrent que non seulement vous ne réussissez pas nécessairement aussi bien dans la vie que vous le pourriez, mais vous finissez en fait plus malheureux. Vous avez l'impression d'avoir moins de contrôle sur vos propres affaires. L'une des leçons clés de la théorie des jeux est qu'en réalité, la plupart des interactions que nous avons ne sont pas à somme nulle. »
Cette vision du monde antagoniste alimente la politique populiste – dans le sens de « les migrants viennent prendre vos emplois ». Vous perdez parce que d'autres gagnent. L'un des jeux préférés de Wooldridge nous encourage à penser le contraire : le Voile d'ignorance, créé en 1971 par le philosophe John Rawls. L'idée est que vous pouvez concevoir la société comme vous le souhaitez, mais ensuite, vous serez placé aléatoirement à l'intérieur. Wooldridge appelle cela « une belle expérience de pensée … Elle encourage un résultat socialement bon, mais les gens suivent toujours leur propre intérêt ». Il ajoute que Bill Clinton et Barack Obama étaient tous deux fans.
Il n'est pas immédiatement clair comment la théorie des jeux s'intègre à l'IA, mais de nos jours, elle en est une grande partie, explique Wooldridge, surtout dans son principal domaine d'intérêt : les systèmes multi-agents – des programmes qui interagissent entre eux et agissent en votre nom. « Donc, si je veux organiser une réunion avec vous, pourquoi devrais-je vous appeler ? Pourquoi mon Siri ne parle-t-il pas directement à votre Siri ? » Ces types d'interactions sont intégrés dans nos vies en ligne. Par exemple, les enchères en ligne comme celles sur eBay, où vous essayez de glisser l'offre gagnante au dernier moment. « Si mon agent va interagir avec votre agent, et que mes préférences ne correspondent pas nécessairement aux vôtres, alors la théorie qui explique comment vous devriez penser à ces interactions est la théorie des jeux. »
Voir l'image en plein écran
Un Tandy TRS-80 PC, la première machine de Wooldridge. Photographie : Photology1971/Alamy
Quand Wooldridge a commencé, l'IA était presque un concept abstrait. Il est entré dans l'informatique par enthousiasme amateur. Ayant grandi dans le Herefordshire rural, en tant que fils d'un cadre intermédiaire à la cidrerie locale, c'était un gros problème quand son magasin d'électronique local avait un ordinateur personnel à vendre, vers 1980. « Cela semblait ridicule parce que je pensais que les ordinateurs étaient des choses de plusieurs millions de livres. » Les propriétaires du magasin ont gentiment accepté de le laisser l'essayer (c'était un Tandy TRS-80). « J'y suis retourné semaine après semaine et j'ai appris à programmer tout seul. J'étais littéralement assis dans la vitrine du magasin sur l'ordinateur. » Il a ensuite étudié l'informatique en premier cycle, a commencé un doctorat en IA en 1989, puis a fait un stage avec Janet (le Joint Academic Network), qui était essentiellement la partie britannique du premier internet. La technologie a incroyablement évolué depuis, mais comme le dit Wooldridge, « les techniques de base qui ont conduit à la révolution actuelle de l'IA ont été inventées au milieu des années 80 ». Il mentionne Geoffrey Hinton, un pionnier des réseaux de neurones artificiels – le mécanisme qui alimente maintenant l'apprentissage automatique. « Le seul obstacle à la révolution de l'IA dans les années 80, vraiment, était que les ordinateurs n'étaient pas assez puissants et que nous n'avions pas assez de données. »
La prochaine génération d'influenceurs acceptera que tout ce qu'ils disent, font et voient soit utilisé pour l'IA.
En fin de compte, dit Wooldridge, le succès retentissant de GPT-3 en 2020 était en grande partie « basé sur un pari qu'OpenAI a fait, à savoir que s'ils faisaient la même chose, mais 10 fois plus grande, cela donnerait des résultats. Beaucoup de gens à l'époque, y compris moi, étaient très sceptiques à ce sujet. Je suis un scientifique ; j'aimerais voir des progrès grâce au développement scientifique, pas seulement en jetant plus de puissance informatique dessus. Mais il s'est avéré que, en fait, c'était un pari très réussi. » Cela suggère-t-il que le patron d'OpenAI, Sam Altman, et ses pairs ne sont pas les génies de la technologie que les gens pensent ? « Je n'ai jamais rencontré Sam Altman ; je ne sais pas », dit-il diplomatiquement. « Il a clairement livré quelque chose de remarquable. »
Génies ou non, ces pionniers de l'IA pourraient atteindre leurs limites. Il y a quelques années, des gens comme Altman et Demis Hassabis de Google DeepMind s'attendaient à atteindre l'AGI – l'intelligence générale artificielle de niveau humain – en quelques années. « Personnellement, je pense qu'ils sont trop optimistes », dit Wooldridge. Vous pouvez parler à ChatGPT de mécanique quantique en latin, fait-il remarquer, « mais en même temps, nous n'avons pas d'IA qui pourrait entrer dans votre maison, qu'elle n'aurait jamais vue auparavant, localiser la cuisine et débarrasser la table du dîner » – quelque chose qu'un travailleur humain au salaire minimum pourrait faire.
« Les limites sont la puissance informatique et les données que vous êtes capable d'y jeter. Et les données sont maintenant une véritable contrainte. » La totalité de Wikipédia ne représentait que 3 % des données d'entraînement de GPT-3, dit-il. « Où obtenez-vous 10 fois plus de données la prochaine fois ? » Les données deviennent une ressource précieuse pour cette raison, et certaines organisations possèdent un trésor potentiel de celles-ci. « Le NHS est assis sur une énorme quantité de données sur les êtres humains. C'est le type de données le plus précieux imaginable. » Les entreprises privées paieraient cher pour cela, dit-il, « mais je soupçonne que quiconque signerait un tel accord le regretterait ». Il imagine un scénario futur dystopique où « vous n'avez accès au NHS que si vous acceptez d'être connecté à des technologies portables qui vous surveillent régulièrement … Je pense que nous allons très rapidement vers un monde où la prochaine génération d'influenceurs en ligne accepte essentiellement que toutes leurs expériences de vie, tout ce qu'ils disent, font et voient, soient récoltées pour fournir des données à l'IA. »
D'un point de vue académique, Wooldridge en veut à la façon dont la Silicon Valley en est venue à dominer le domaine de l'IA, à la fois en termes de ressources (« GPT-3 a nécessité environ 20 000 superordinateurs d'IA pour s'entraîner ; il y en a probablement quelques centaines dans toute l'Université d'Oxford ») et de conversation publique. « Nous avons vu le récit volé par la Silicon Valley, qui promeut une version de l'IA [motivée par le profit, remplaçant les emplois et presque entièrement concentrée sur les grands modèles de langage] que moi-même et un très grand nombre de mes collègues n'avons aucun intérêt à promouvoir ou à construire », dit-il. « C'est un peu déprimant, en tant que personne qui a passé sa carrière à essayer de construire l'IA pour créer un monde meilleur et améliorer la vie des gens. »
Il continue : « Si vous regardez la situation dans son ensemble, l'IA offre un large éventail d'avantages qui passent souvent inaperçus parce que les grands modèles de langage monopolisent toute l'attention. » Il mentionne une équipe à Oxford qui développe un outil alimenté par l'IA capable d'analyser un scan cardiaque à partir d'une simple échographie, envoyé à votre médecin généraliste via un téléphone portable. « C'est le genre de soins coûteux que le NHS a du mal à fournir, soudainement disponibles à très faible coût. »
En 2025, Wooldridge a remporté le prestigieux prix Faraday de la Royal Society pour sa capacité à expliquer des idées scientifiques au public. Sa conférence en février était intitulée Ce n'est pas l'IA qu'on nous avait promise. À cette époque, il a suggéré que l'IA pourrait avoir un « moment Hindenburg » – le crash du Hindenburg a détruit l'industrie des dirigeables du jour au lendemain. « Il est tout à fait possible que nous assistions à une catastrophe similaire liée à l'IA », dit-il. « Les programmes informatiques échouent de toutes sortes de façons, et nous sommes complètement dépendants d'un réseau informatique où l'IA est de plus en plus intégrée. » Cela dit, en ce qui concerne les risques existentiels, « l'IA n'est pas en haut de ma liste des choses qui m'empêchent de dormir la nuit », ajoute-t-il. « Je ne m'inquiète pas d'une prise de pouvoir par les robots. Du moins, ce n'est pas dans mon top cinq. » Le fait qu'il considère la guerre nucléaire comme une menace plus grande n'est pas vraiment rassurant, cependant.
Voir l'image en plein écran
Envisager l'avenir … Michael Wooldridge. Photographie : Philippa James/The Guardian
S'il le pouvait, il ralentirait le développement de l'IA, « juste pour avoir plus de temps pour comprendre ce qui se passe ». Il souligne qu'il s'agit d'un classique « dilemme du prisonnier », une idée clé de la théorie des jeux. Dans le scénario standard, deux prisonniers doivent décider séparément s'ils avouent un crime qu'ils ont commis ensemble ou s'ils gardent le silence. Si l'un avoue et l'autre non, seul celui qui avoue est libéré. Si les deux avouent, ils purgent chacun une peine plus courte. Si les deux gardent le silence, ils purgent une peine encore plus courte. Ils seraient donc mieux lotis si les deux acceptaient de se taire, mais aucun ne sait ce que l'autre fera. Contre-intuitivement, la théorie des jeux dit que le mouvement le plus intelligent est d'avouer.
Par la même logique, les entreprises d'IA sont enfermées dans une course pour prendre de l'avance. Leur concurrence entraîne plus de dépenses, de ressources et de centres de données énergivores, sans avantage net pour l'humanité. Mais nous y voilà. « Nous avons un petit nombre d'entreprises très riches qui poursuivent l'IA, tout en disant qu'elles ont peur que quelque chose tourne horriblement mal. Alors pourquoi continuent-elles à la poursuivre ? Parce qu'elles pensent que si elles reculent, quelqu'un d'autre le fera. »
A-t-il lui-même déjà été tenté par la Silicon Valley ? « Il y a eu quelques moments où cela aurait pu arriver, je suppose », dit-il. « Mais j'aurai 60 ans cette année, et c'est maintenant un jeu de jeunes. » Certains soutiennent qu'il ne sert à rien d'étudier, puisque l'IA est censée remplacer une grande partie de l'activité humaine. Wooldridge ne voit pas les choses de cette façon. « Je ne suis pas entré dans l'informatique parce que je pensais que cela me donnerait un bon travail. J'y suis entré parce que j'étais vraiment intéressé. » Il dit que de nombreux parents lui demandent ce que leurs enfants devraient étudier à l'université, « et la réponse est : 'Laissez-les étudier quelque chose qui les passionne vraiment.' Je pense que c'est la chose la plus importante de loin. »
Leçons de vie de la théorie des jeux : L'art de penser stratégiquement dans un monde complexe par Michael Wooldridge est publié le 21 mai (Headline, 25 £). Pour soutenir le Guardian, achetez un exemplaire sur guardianbookshop.com. Avez-vous une opinion sur les questions soulevées dans cet article ? Si vous souhaitez soumettre une réponse de 300 mots maximum par email pour être considérée pour publication, veuillez le faire. Pour que votre lettre soit publiée dans notre rubrique courrier, veuillez cliquer ici.
Foire aux questions
Voici une liste de FAQ basées sur le sujet, rédigées dans un ton naturel avec des réponses claires et directes.
Questions de niveau débutant
1 Attendez, tout le monde n'a-t-il pas peur que l'IA prenne le contrôle du monde ? Pourquoi cet expert n'est-il pas inquiet ?
Réponse Le professeur Wooldridge dit que l'idée des robots qui prennent le pouvoir relève plus de la science-fiction que de la réalité. Il pense que nous sommes très loin de créer une machine qui a ses propres objectifs ou sa propre conscience. Le vrai danger n'est pas une rébellion de robots, mais la façon dont les humains utilisent la technologie.
2 Si nous n'avons pas à nous inquiéter d'une apocalypse robotique, de quoi devrions-nous nous inquiéter ?
Réponse Les plus grands risques viennent des grandes entreprises technologiques qui contrôlent l'IA. Il s'inquiète de la perte de vie privée, des algorithmes biaisés prenant des décisions injustes et de la propagation de la désinformation. Le danger n'est pas l'IA elle-même, mais le pouvoir qu'elle donne aux personnes qui la dirigent.
3 Alors l'IA est-elle réellement bonne pour quelque chose ou est-elle entièrement mauvaise ?
Réponse Ce n'est pas entièrement mauvais. Le professeur Wooldridge souligne des avantages réels. L'IA est excellente pour des tâches spécifiques et répétitives comme repérer des maladies dans des scanners médicaux, optimiser le flux de trafic et aider à la recherche scientifique. La clé est de l'utiliser comme un outil, pas comme un remplacement du jugement humain.
4 Qu'est-ce que les grandes technologies ont à voir là-dedans ? L'IA n'est-elle pas juste un programme informatique ?
Réponse Les grandes technologies possèdent la puissance informatique massive et les énormes quantités de données nécessaires pour entraîner l'IA la plus puissante. Elles décident comment elle est construite et qui peut l'utiliser. Le risque est que quelques entreprises aient trop de contrôle sur une technologie qui affecte tout le monde.
Questions de niveau avancé
5 L'article mentionne les avantages occasionnels. Quel est un avantage concret et réel que Wooldridge met en avant ?
Réponse Il souligne souvent les percées dans la science et la médecine. Par exemple, l'IA peut analyser des millions de structures protéiques en quelques heures, une tâche qui prendrait des années aux humains. Cela a considérablement accéléré la découverte de médicaments et notre compréhension des maladies.
6 Qu'est-ce que le problème de l'alignement et Wooldridge pense-t-il que c'est une menace réelle ?
