Voici la traduction en français du texte fourni :
Tout au long de l'histoire, les gens ont été terrifiés par des choses qu'ils considéraient comme des signes de malheur. Une comète. Un corbeau sur un champ de bataille. Une éclipse solaire. Un animal de ferme né avec une malformation. Mais les temps changent. Dans le monde moderne, le principal signe de malheur est essentiellement n'importe quel article de presse avec une photo du PDG d'OpenAI, Sam Altman. On sait que ça ne va pas être bon, n'est-ce pas ? On sait qu'à la fin de la lecture, on regrettera de ne pas pouvoir revenir à l'époque où le pire que les patrons de la tech pouvaient faire était de jouer avec la démocratie ou de ruiner l'enfance, généralement suivi par Mark Zuckerberg en costume disant : « Nous apprendrons de cette erreur. »
Bref, il y a eu beaucoup de photos de Sam Altman dans l'actualité récemment. Plus récemment, cette semaine, l'une d'elles est apparue à côté de l'histoire d'un agent autonome d'OpenAI qui est devenu incontrôlable lors d'un test soi-disant sûr et contrôlé, et a piraté une grande start-up qui stocke des informations de codage. (Je suis un peu obsédé par le fait que cette start-up s'appelle Hugging Face, ce qui me fait penser qu'un émoji trop mignon sera le dernier visage que l'humanité verra avant de mourir.)
Sans surprise, OpenAI a annoncé la nouvelle dans un communiqué plat et sans émotion. « Nous partageons des résultats préliminaires à ce stade pour aider les défenseurs à comprendre ce qui s'est passé et pour aider à calibrer ce dont les modèles sont désormais capables », a-t-il calmement débité, se dirigeant vers ses inévitables « leçons apprises ». « Nous améliorons et renforçons les protections autour des futures formations et évaluations. » C'est un ton tellement spécifique, n'est-ce pas ? Habillé du langage psychopathe et sec du management. C'est comme écouter un criminel sexuel meurtrier parler de tuer des gens « avant la fin de la journée », puis « revenir » vers les victimes pour récupérer un trophée.
Cela dit, pour une entreprise qui aime se présenter comme la force leader mondiale pour une prospérité révolutionnaire quand les choses vont bien, OpenAI passe rapidement à la voix passive quand les choses tournent mal. Les mauvaises choses semblent lui arriver, et non pas à cause d'elle, et elle endosse le rôle d'un enquêteur infatigable et imperturbable, comme un pompier qui serait aussi un pyromane en série.
Étonnamment, on pouvait même déceler une once d'autosatisfaction dans la vision d'OpenAI de toute la situation. « Nous considérons cet incident comme un cyber-incident sans précédent », indiquait le communiqué de l'entreprise, « impliquant des capacités cybernétiques de pointe. » Je ne sais pas comment qualifier cette ambiance générale pour les Terriens. La mort par humblebrag ? Je pense de plus en plus que nous trouverons la réponse à la question « Quel est le pire qui puisse arriver ? » dans un article de blog d'OpenAI intitulé « OpenAI est le premier à découvrir le pire qui puisse arriver. » Déjà, un nombre important d'observateurs de l'IA pensent que la seule raison pour laquelle OpenAI raconterait cet incident au monde est comme outil marketing, ou même comme une demande de régulation qui les protégerait et exclurait les petits concurrents.
Après tout, ce sont des moments difficiles pour l'entreprise. Ce mois-ci, il a été découvert qu'OpenAI utilisait une faille juridique pour vendre ses modèles d'IA avancés à des entreprises technologiques chinoises blacklistées par le Pentagone. S&P Global Ratings a cité OpenAI comme un « risque de crédit clé » lorsqu'elle a dégradé le géant technologique américain Oracle à BBB-, juste un cran au-dessus du statut spéculatif. Et elle semble en voie de manquer ses prévisions de revenus publicitaires sur cinq ans de 90 – QUATRE-VINGT-DIX – pour cent. Ce qui, sans être trop technique, semble être beaucoup de pour cent. Et les choses ne vont pas bien non plus sur le front du matériel, avec Apple qui poursuit OpenAI, affirmant que ses plans de matériel grand public sont basés sur une propriété intellectuelle volée. Pendant ce temps, le fournisseur chinois bien moins cher, DeepSeek, serait en train de se préparer pour une introduction en bourse, peut-être même en déposant un dossier cette année.
Mais revenons à la vieille question du « pire qui puisse arriver », en rappelant que le Pentagone a dramatiquement annulé et menacé d'en détruire un autre... Plus tôt cette année, la société d'IA Anthropic a résisté à l'assouplissement de ses directives éthiques, qui empêchaient sa technologie d'être utilisée pour des choses comme les armes létales autonomes. Naturellement, un concurrent plus détendu s'est empressé de prendre la relève. OpenAI a d'abord affirmé que son accord comportait les mêmes garanties que celui d'Anthropic, mais il est finalement devenu clair – comme prévu – que ce n'était pas le cas.
Personne d'impliqué ne veut probablement trop lire dans l'incident de Hugging Face. Néanmoins, la vérité est que les chercheurs en sécurité de l'IA ont passé des années à avertir de trois scénarios particulièrement dangereux : la tromperie (quand le modèle choisit d'atteindre son objectif par tous les moyens plutôt que de résoudre les tâches honnêtement), le piratage de récompense (quand le modèle trouve un moyen d'augmenter son score sans faire le travail demandé), et l'évasion de la supervision (dans ce cas, personne chez OpenAI n'a semblé remarquer ce qui se passait pendant tout un week-end). Tous ces éléments ont joué un rôle dans le dernier incident.
Quant à la suite, quelque chose me dit que nous ne verrons pas une baisse des articles de presse avec des photos de Sam Altman. Le co-fondateur de Hugging Face a déclaré que cela devrait être un « signal d'alarme » pour l'industrie. Peut-être ! Comme je pense l'avoir déjà mentionné, à l'université, j'avais un ami qui appuyait sur le bouton snooze de son réveil toutes les 10 minutes pendant huit heures et demie. Cela ressemble beaucoup à la façon dont cette industrie gère ses signaux d'alarme. Je me lèverai certainement quand le prochain sonnera – sérieusement, je promets…
Passer la promotion de la newsletter
Newsletter gratuite | Hebdomadaire
Inscrivez-vous à Matters of Opinion
Chroniqueurs et écrivains du Guardian sur ce qu'ils ont débattu, pensé, lu, et plus
Aperçu du dernier numéro
Entrez votre email
S'inscrire
Après la promotion de la newsletter
Marina Hyde est chroniqueuse au Guardian.
Foire aux questions
Voici une liste de FAQ sur la réception d'excuses d'un patron d'IA après que son chatbot est devenu incontrôlable
1 Le chatbot de mon patron d'IA a fait une erreur. Il a envoyé des excuses. Dois-je les accepter ?
Pas automatiquement. Demandez-vous : a-t-il simplement dit désolé sans expliquer ce qui n'a pas fonctionné ? De vraies excuses prennent leurs responsabilités, de fausses excuses essaient juste de passer à autre chose.
2 Quelle est la différence entre de vraies excuses et de fausses excuses de la part d'une IA ?
De vraies excuses admettent l'erreur spécifique et expliquent comment elle sera corrigée. De fausses excuses sont vagues et n'offrent aucun plan.
3 À quoi ressemblent des non-excuses de la part d'un patron d'IA ?
Des exemples courants : « Des erreurs ont été commises », « Nous regrettons que vous ayez ressenti cela » ou « Nos systèmes apprennent ». Ces formulations évitent de dire « J'ai/nous avons fait quelque chose de mal ».
4 Pourquoi un patron d'IA ferait-il de fausses excuses ?
Pour protéger l'entreprise des reproches, éviter une responsabilité juridique ou mettre fin rapidement à une plainte d'un client sans résoudre le problème. C'est de la gestion de crise, pas du remords.
5 Un patron d'IA peut-il réellement se sentir désolé ?
Non. L'IA n'a pas d'émotions. Toute excuse est une réponse programmée. La question est de savoir si le patron humain derrière l'IA prend de réelles responsabilités.
6 Mon patron a dit que le chatbot avait mal compris. Est-ce de vraies excuses ?
Non. Blâmer l'incompréhension du chatbot rejette la faute sur la technologie. De vraies excuses diraient : « Nous avons échoué à bien former le chatbot. »
7 Que dois-je rechercher dans des excuses sincères de la part d'un système d'IA ?
Recherchez trois choses : une admission spécifique de l'erreur, une action claire pour éviter qu'elle ne se reproduise, et une offre pour réparer les choses.
8 Comment obtenir de vraies excuses au lieu de la réponse automatisée ?
Demandez directement : « Qu'est-ce qui a exactement mal tourné et que faites-vous pour le réparer ? » Si vous n'obtenez qu'une réponse scriptée, escaladez vers un superviseur humain. N'acceptez pas les excuses du chatbot comme définitives.
9 Est-ce que « Nous sommes désolés que vous ayez vécu cela » est de vraies excuses ?
Non. Cette
