Les gens me demandent souvent si je pense que tous les futurs romans seront écrits par l'IA. C'est moins une vraie question qu'un défi. Me demandent-ils si je crains qu'une machine puisse faire mon travail, et le faire mieux ? J'élude généralement avec quelque chose comme : "Aucun algorithme n'écrira Anna Karénine !" Mais ce n'est pas non plus une vraie réponse.
Je suis donc reconnaissant au pape Léon XIV, le pape américain, pour sa récente lettre au monde, Magnifica Humanitas : Sur la sauvegarde de la personne humaine à l'ère de l'intelligence artificielle. C'est un document long (plus de 40 000 mots), intelligent et réfléchi dans lequel le pape aborde comment cette technologie en pleine expansion peut être utilisée et détournée. Désormais, quand quelqu'un me demande mon avis sur l'IA, je peux simplement le renvoyer à la lettre du pape – ou du moins au chapitre trois.
La lettre commence par une référence biblique appropriée aux résultats tragiques d'une rupture de la communication humaine. L'humanité est confrontée à un "choix crucial : soit construire une nouvelle tour de Babel, soit bâtir une ville où Dieu et l'humanité habitent ensemble." Ce qui suit est un examen détaillé de la façon dont les prédécesseurs du pape Léon ont pensé à ces choses, et des idées du Vatican sur le travail, l'autorité, le gouvernement, la science, le pouvoir, et notre devoir moral les uns envers les autres. Il met également en lumière le travail de l'Église pour défendre la dignité et la liberté humaines.
Le troisième chapitre, Technologie et domination : La grandeur de l'humanité à la lumière des promesses de l'IA, est à la hauteur du titre de la lettre. Dans un passage puissant (et souvent cité) expliquant ce que l'IA n'est pas, le pape définit essentiellement ce que signifie être humain. "Les prétendues intelligences artificielles ne vivent pas d'expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur, ne mûrissent pas à travers les relations et ne savent pas de l'intérieur ce que signifient l'amour, le travail, l'amitié ou la responsabilité." L'IA n'a pas de conscience morale et ne montre aucun réel souci du bien commun de l'humanité.
La lettre dit ensuite les choses les plus importantes et nécessaires sur ce qui pourrait être la plus grande menace de l'IA : elle peut être programmée uniquement pour maximiser le profit, ce qui ne peut que conduire à la souffrance du plus grand nombre pour le bénéfice de quelques-uns. Le pape met en garde contre la "manipulation de la vie privée" et le "mésusage de l'information", contre l'utilisation d'algorithmes pour gérer l'emploi, contrôler l'accès aux services publics et au crédit, et pour améliorer ou nuire à la réputation personnelle de quelqu'un.
La compassion, la miséricorde et le pardon – qui ne sont pas en tête des priorités d'une machine – pourraient devenir obsolètes. "Des 'sacrifices nécessaires' pourraient commencer à être justifiés, faisant peser le fardeau sur les plus vulnérables à la poursuite de la prétendue optimisation de l'espèce." Si les outils de ce nouveau pouvoir finissent entre les mains de ceux qui ont déjà la richesse et l'influence, ils seront utilisés pour améliorer le confort, la santé et le bien-être de nos citoyens les plus riches et les plus privilégiés.
Le pape ne condamne pas catégoriquement l'IA, mais plutôt la façon dont elle peut être utilisée comme un outil de répression politique et pour aggraver les inégalités économiques.
Alors que la lettre se termine, le pape nous appelle à rester fidèles à la vérité, à investir dans l'éducation, à construire des relations et à vivre dans la justice et la paix – à résister à la manière dont les nouvelles technologies peuvent "exploiter les plus vulnérables, créer de nouvelles formes d'esclavage et tirer profit des conflits." Il devient clair que le pape ne condamne pas l'IA en soi, mais plutôt la façon dont elle peut être utilisée comme un outil de répression politique et pour aggraver les inégalités économiques.
En théorie, on pourrait critiquer la lettre pour ne pas aller assez loin, pour ne pas utiliser une autre métaphore biblique – le veau d'or – pour condamner l'IA parce qu'elle privilégie les économies d'argent au détriment du bien-être spirituel, individuel et communautaire. Mais ce navire a déjà fait naufrage, et il n'y a pas grand-chose que Léon XIV – ou tout autre chef religieux – puisse faire pour condamner ces nouvelles avancées comme une forme d'idolâtrie du XXIe siècle.
Néanmoins, la vision de la nature humaine dans l'encyclique, l'esprit de justice et d'empathie qui doit prévaloir, et l'importance essentielle des valeurs morales les plus élevées – c'est en fin de compte si gentil, si positif, si généreux, et si clairement juste quant à notre devoir de protéger les faibles et les pauvres qu'il est difficile de trouver des raisons de la rejeter.
Mais c'est là que réside l'effrayant. Apparemment, il y a eu une certaine résistance de la part de la Silicon Valley, où les créateurs et maîtres de la dernière technologie ont suggéré que le pape ne sait pas de quoi il parle.
Le point de vue du Guardian sur le pape et Claude : L'encyclique de Léon XIV sur l'IA a raison de placer l'humanité en premier | Éditorial
Lire la suite
Jeremy Nixon, fondateur d'AGI House – un groupe axé sur la preuve que l'IA est essentiellement égale au cerveau humain – a été cité dans le New York Times comme disant que l'Église n'avait pas "réfléchi profondément à l'IA", ajoutant : "Ils ne pouvaient pas avoir de position là-dessus, parce qu'ils ne la comprennent pas." Et il semble y avoir une croyance répandue que le résultat final de la recherche actuelle sera, en effet, un nouveau Dieu, ou du moins une imitation convaincante. Inquiète des dangers du futur, notre société choisit d'ignorer les preuves que les inconvénients de l'IA sont déjà là. La fille d'un ami, étudiante en publicité, a récemment été informée par son conseiller que d'ici à ce qu'elle obtienne son diplôme, tous les emplois dans la publicité auront été repris par l'IA.
Si les maîtres de cette nouvelle technologie ne peuvent pas être d'accord avec ce que le pape voit comme ses dangers et ses inconvénients, nous sommes dans de très gros ennuis. Le problème n'est pas que nous aurons un robot écrivant Anna Karénine. Le problème est que personne ne verra la nécessité d'un roman qui capture si magnifiquement la souffrance d'une femme, un être humain unique.
Il n'y aurait aucun intérêt à un tel livre à moins que cette histoire d'une erreur qui change la vie puisse être transformée en profit par un technologue avant-gardiste et utilisée pour acheter un yacht plus grand et meilleur – probablement entretenu par une sous-classe permanente, par des travailleurs dont la dignité, dont les emplois autrefois valorisés et précieux, ont été volés par les formes avides d'intelligence artificielle.
Francine Prose est une ancienne présidente du PEN American Center et membre de l'American Academy of Arts and Letters et de l'American Academy of Arts and Sciences. Son nouveau roman, Cinq semaines à la campagne, a été publié en mai.
Questions fréquemment posées
Voici une liste de FAQ basées sur la déclaration Je suis reconnaissant au Pape pour son encyclique sur l'IA Voici pourquoi
Questions de niveau débutant
Q Qu'est-ce qu'une encyclique
R C'est une lettre formelle du Pape à toute l'Église catholique sur un sujet important Elle est destinée à enseigner et guider les gens
Q Pourquoi le Pape a-t-il écrit une encyclique sur l'intelligence artificielle
R Parce que l'IA change rapidement notre façon de vivre, de travailler et d'interagir Le Pape croit qu'elle soulève des questions morales et éthiques profondes sur la dignité humaine, la justice et la paix, donc il a voulu offrir des conseils
Q Le Pape dit-il que l'IA est mauvaise
R Non Il n'est pas contre la technologie Il dit que nous devons être prudents et utiliser l'IA de manière à respecter la vie humaine, protéger les vulnérables et promouvoir le bien commun, pas seulement le profit ou le pouvoir
Q Quel est le message principal de l'encyclique sur l'IA
R L'idée centrale est que l'IA devrait servir l'humanité, pas la remplacer ou la contrôler Elle appelle à une conversation mondiale pour garantir que l'IA soit développée et utilisée de manière éthique, en mettant l'accent sur la paix, la vérité et la dignité humaine
Q Comment cela m'affecte-t-il en tant que personne ordinaire
R Cela compte parce que l'IA est déjà dans votre vie – dans les moteurs de recherche, les réseaux sociaux, les banques et même les diagnostics médicaux Le Pape demande à tout le monde de réfléchir à l'équité, à la vie privée et à savoir si ces outils aident ou nuisent à la société
Questions de niveau intermédiaire
Q Quels dangers spécifiques le Pape mentionne-t-il concernant l'IA
R Il met en garde contre une société algorithmique où les machines prennent des décisions qui affectent la vie des gens sans équité ni transparence Il souligne également les risques de surveillance, de désinformation et d'aggravation des inégalités entre ceux qui contrôlent l'IA et ceux qui ne le font pas
Q L'encyclique parle-t-elle de l'IA dans les armes ou la guerre
R Oui Elle condamne fermement le développement de systèmes d'armes autonomes – des machines qui peuvent tuer sans décision humaine Le Pape soutient que cela prive la guerre de toute responsabilité morale et pourrait conduire à des conflits catastrophiques
Q En quoi la vision de l'Église sur l'IA diffère-t-elle de celle des entreprises technologiques
