Pénétrer dans le Media Lab du MIT à Cambridge, dans le Massachusetts, donne l’impression de faire un pas de plus vers le futur. Des vitrines occupent l’espace, exposant des prototypes d’inventions étranges et merveilleuses – allant de robots miniatures de bureau à une sculpture surréaliste conçue par une IA chargée d’imaginer un service à thé composé de parties du corps. Dans le hall, un assistant IA nommé Oscar aide les visiteurs à trier leurs déchets, leur indiquant où jeter un gobelet de café usagé.
Au cinquième étage, la chercheuse Nataliya Kosmyna développe des interfaces cerveau-ordinateur portables. Son objectif est qu’un jour, les personnes ayant perdu la capacité de parler – à cause de maladies comme la SLA – puissent communiquer par la pensée.
Une grande partie du travail de Kosmyna consiste à analyser l’activité cérébrale. Elle conçoit également un dispositif portable – une version ressemble à une paire de lunettes – capable de détecter quand quelqu’un est confus ou perd sa concentration. Il y a environ deux ans, elle a commencé à recevoir des courriels inattendus d’inconnus disant qu’après avoir utilisé de grands modèles de langage comme ChatGPT, ils sentaient que leur esprit avait changé. Leur mémoire semblait moins vive – est-ce même possible, demandaient-ils ?
Kosmyna elle-même avait remarqué la rapidité avec laquelle les gens adoptaient l’IA générative. Elle voyait des collègues utiliser ChatGPT au travail, et les candidatures de chercheurs souhaitant rejoindre son équipe commençaient à paraître différentes. Leurs courriels étaient plus longs et plus formels. Parfois, lors d’entretiens Zoom, elle remarquait que les candidats marquaient une pause avant de répondre et détournaient le regard. Bénéficiaient-ils de l’aide d’une IA ? Cette pensée la choqua. Et si c’était le cas, comprenaient-ils vraiment les réponses qu’ils donnaient ?
Curieuse, Kosmyna et quelques collègues du MIT ont mis en place une expérience. Ils ont utilisé des scanners EEG pour surveiller l’activité cérébrale pendant que des participants rédigeaient des dissertations – certains sans aide, d’autres avec un moteur de recherche, et d’autres encore avec ChatGPT. Les résultats ont montré que plus les gens recevaient d’aide extérieure, plus leur connectivité cérébrale était faible. Ceux utilisant ChatGPT présentaient une activité significativement moindre dans les zones liées à la pensée, l’attention et la créativité.
En bref, alors que les utilisateurs pouvaient se sentir engagés, les scanners cérébraux racontaient une autre histoire : il ne se passait pas grand-chose là-haut.
Après avoir rendu leurs dissertations, les participants – tous étudiants du MIT ou d’écoles voisines – ont été interrogés sur leur capacité à se souvenir de ce qu’ils avaient écrit. « Presque personne dans le groupe ChatGPT ne pouvait citer son propre travail », déclare Kosmyna. « C’est inquiétant – vous venez de l’écrire, et vous ne vous souvenez de rien. »
Kosmyna, 35 ans, est élégamment vêtue d’une robe-chemise bleue et d’un grand collier coloré. Elle parle plus vite que la plupart des gens ne peuvent penser. Comme elle le fait remarquer, rédiger une dissertation requiert des compétences que nous utilisons quotidiennement : synthétiser l’information, peser différents points de vue et construire un argumentaire. « Comment allez-vous gérer une conversation ? » demande-t-elle. « Devrez-vous dire : ‘Euh… je peux vérifier sur mon téléphone ?’ »
L’étude était de petite taille – seulement 54 participants – et n’a pas encore été évaluée par des pairs. Pourtant, en juin, Kosmyna l’a mise en ligne, pensant que d’autres chercheurs pourraient la trouver intéressante. Elle ne savait pas que cela déclencherait une tempête médiatique internationale.
Outre des demandes d’interview, elle a reçu plus de 4 000 courriels du monde entier. Beaucoup provenaient d’enseignants stressés, inquiets que les étudiants qui comptent sur ChatGPT pour leurs devoirs n’apprennent pas vraiment. Ils craignent que l’IA ne crée une génération capable de produire un travail acceptable mais manquant d’une véritable compréhension de la matière.
Le problème fondamental, explique Kosmyna, est qu’une fois qu’une technologie facilite la vie, nous sommes câblés par l’évolution pour l’utiliser. « Nos cerveaux… Nous aimons naturellement les raccourcis, mais nos cerveaux ont en fait besoin de défis pour apprendre efficacement. Ils nécessitent une certaine quantité de friction pour grandir. »
Il est intéressant de noter que si nos esprits ont besoin de cette résistance, nous l’évitons instinctivement. La technologie, quant à elle, promet une expérience « sans friction », garantissant que nous passons sans effort d’une application ou d’un écran à l’autre sans aucun obstacle. Cette interaction transparente explique pourquoi nous confions si facilement informations et tâches à nos appareils. Cela explique pourquoi nous nous perdons facilement dans un contenu en ligne infini et avons du mal à nous en extraire. C’est aussi pourquoi l’IA générative est si rapidement devenue un élément de base de la routine quotidienne de nombreuses personnes.
D’après nos expériences partagées, nous savons qu’une fois habitué à l’hyper-efficacité du monde numérique, le monde réel – avec toute sa friction – semble plus difficile à naviguer. Ainsi, vous pourriez éviter les appels téléphoniques, utiliser les caisses automatiques et tout commander via une application. Vous pourriez saisir votre téléphone pour résoudre un problème de mathématiques que vous auriez pu faire mentalement, chercher un fait au lieu de vous en souvenir, ou compter sur Google Maps pour vous guider du point A au point B sans réfléchir. Peut-être avez-vous arrêté de lire des livres parce que maintenir votre concentration demande trop d’efforts, ou rêvez-vous de posséder une voiture autonome. Est-ce le début de ce que l’écrivaine et experte en éducation Daisy Christodoulou appelle une « société stupidogène » – similaire à un environnement qui favorise l’obésité, mais qui facilite la paresse intellectuelle parce que les machines pensent à votre place ?
L’intelligence humaine est trop diverse pour être simplement qualifiée de « stupide », mais il existe des signes inquiétants que nos commodités numériques font des dégâts. Dans les pays développés de l’OCDE, les scores Pisa – qui évaluent les compétences en lecture, mathématiques et sciences des élèves de 15 ans – ont culminé vers 2012. Alors que les scores de QI ont augmenté à l’échelle mondiale tout au long du XXe siècle, probablement en raison d’une meilleure éducation et nutrition, ils semblent maintenant décliner dans de nombreux pays développés.
Le débat sur la baisse des résultats aux tests et du QI est intense. Ce qui est plus difficile à nier, c’est qu’à chaque avancée technologique, nous devenons plus dépendants des appareils numériques et trouvons de plus en plus difficile de travailler, de nous souvenir, de penser, ou même de fonctionner sans eux. Comme le souligne avec frustration une experte, Kosmyna, « Il n’y a que les développeurs de logiciels et les trafiquants de drogue qui appellent les gens des ‘utilisateurs’. » Cela met en lumière l’empressement des entreprises d’IA à imposer leurs produits au public avant que nous ne comprenions pleinement les conséquences psychologiques et cognitives.
Dans le domaine en ligne toujours croissant et sans friction, vous êtes principalement un utilisateur : passif et dépendant. Alors que nous entrons dans une ère de désinformation générée par l’IA et de deepfakes, comment conserverons-nous le scepticisme et la pensée indépendante dont nous aurons besoin ? Au moment où nous réaliserons que nos esprits ne nous appartiennent plus entièrement et que nous ne pouvons plus penser clairement sans la technologie, combien de notre propre volonté restera-t-il pour résister ?
Si vous exprimez des inquiétudes sur ce que les machines intelligentes font à nos cerveaux, vous pourriez être raillé dans un avenir proche comme étant démodé. Socrate s’inquiétait autrefois que l’écriture n’affaiblisse la mémoire et n’encourage une compréhension superficielle – une « présomption de sagesse » plutôt qu’une vraie sagesse. Cet argument fait écho à de nombreuses critiques modernes de l’IA. Cependant, l’écriture et les technologies ultérieures comme l’imprimerie, les médias de masse et Internet ont en réalité donné à plus de gens accès à plus d’informations. Cela a permis à plus d’individus de développer et de partager de grandes idées, nous rendant plus intelligents et plus innovants, individuellement et en tant que société.
Après tout, l’écriture n’a pas seulement changé la façon dont nous accédons et stockons l’information ; elle a transformé notre façon de penser. Avec un carnet et un stylo, une personne peut accomplir des tâches plus complexes qu’avec la seule mémoire. Utiliser l’IA aboutit souvent à un travail fade, peu imaginatif et factuellement douteux. Un problème est « l’effet d’ancrage » : lorsque vous posez une question à une IA générative, sa réponse peut verrouiller votre pensée sur une voie spécifique, vous rendant moins ouvert à d’autres idées. Comme l’explique un expert, « Prenez une bougie, par exemple. L’IA peut vous aider à l’améliorer – la rendre plus brillante, plus durable, moins chère et plus attrayante – mais elle ne conduira pas à inventer l’ampoule électrique. » Pour faire ce saut, vous avez besoin de la pensée critique humaine, qui peut être désordonnée, non structurée et imprévisible. Lorsque les entreprises introduisent des outils comme le chatbot Copilot sans formation appropriée, elles risquent de créer des équipes de fabricants de bougies médiocres dans un monde qui a besoin d’ampoules à haut rendement.
Une autre inquiétude est que les adultes qui utilisent l’IA comme raccourci ont au moins bénéficié d’un système éducatif qui existait avant que les ordinateurs ne puissent faire leurs devoirs. Une enquête britannique récente a révélé que 92 % des étudiants universitaires utilisent l’IA, et environ 20 % l’ont utilisée pour rédiger tout ou partie d’un devoir. Cela soulève des questions sur ce qu’ils apprennent réellement. Les écoles et universités forment-elles encore des penseurs créatifs et originaux capables de construire des sociétés plus intelligentes, ou produisent-elles des drones sans esprit critique et crédules qui comptent sur l’IA pour écrire leurs dissertations ?
Il y a quelques années, Matt Miles, professeur de psychologie dans un lycée de Virginie, a participé à un programme de formation sur la technologie dans les écoles. Les instructeurs ont montré une vidéo d’une élève surprise en train d’utiliser son téléphone en classe, qui a ensuite prétendu faire des recherches avec un expert de l’eau du Botswana. « C’est risible. Les enfants rient tous quand ils voient ça », dit Miles. Inquiets de l’écart entre les vues des décideurs politiques et la réalité des salles de classe, lui et son collègue Joe Clement ont écrit « Screen Schooled » en 2017, soutenant que trop de technologie rend les enfants moins intelligents. Depuis, ils ont interdit les smartphones dans leurs classes, bien que les étudiants utilisent encore des ordinateurs portables. Comme l’a noté avec perspicacité un étudiant, « Si vous me voyez sur mon téléphone, il y a 0 % de chance que je sois productif. Sur mon ordinateur portable, c’est 50 %. »
Avant la pandémie, de nombreux enseignants étaient à juste titre sceptiques quant à l’ajout de plus de technologie dans les salles de classe, selon la chercheuse Faith Boninger. Mais lorsque les confinements ont forcé les écoles à passer en ligne, des outils comme Google Workspace for Education, Kahoot! et Zearn sont devenus courants. Avec l’essor de l’IA générative, de nouvelles promesses de révolutionner l’éducation grâce à l’apprentissage personnalisé et à la réduction de la charge de travail des enseignants ont émergé. Cependant, presque toutes les recherches soutenant ces avantages sont financées par l’industrie de l’ed-tech, tandis que la plupart des études indépendantes à grande échelle montrent que le temps d’écran nuit à la réussite. Par exemple, une étude mondiale de l’OCDE a révélé qu’une utilisation accrue de la technologie dans les écoles corrèle avec de moins bons résultats des élèves.
« Il n’y a tout simplement pas de preuve indépendante à grande échelle de l’efficacité de ces outils », déclare Wayne Holmes, professeur à l’University College London. « En substance, nous expérimentons ces technologies sur les enfants. La plupart des gens sensés n’entreraient pas dans un bar et… » Imaginez si quelqu’un vous proposait une nouvelle drogue, affirmant qu’elle est excellente pour votre santé, et que vous commenciez à la prendre sans poser de questions. Nous exigeons généralement que nos médicaments subissent des tests rigoureux et soient prescrits par des professionnels. Pourtant, quand il s’agit de technologie éducative, censée être si bénéfique pour l’esprit en développement des enfants, nous abandonnons soudainement ces normes.
Miles et Clement s’inquiètent non seulement que leurs étudiants soient constamment distraits par leurs appareils, mais aussi qu’ils manquent l’occasion de développer leur esprit critique et leur compréhension profonde lorsque les réponses sont toujours à une recherche rapide. Clement se souvient d’une époque où il posait une question comme : « À votre avis, où les États-Unis se classent-ils pour le PIB par habitant ? » et guidait la classe pour le déterminer. Maintenant, quelqu’un l’a déjà cherché en ligne avant qu’il n’ait fini de poser la question. Les étudiants utilisent régulièrement ChatGPT et s’énervent si les devoirs ne sont pas fournis numériquement, les obligeant à taper les questions au lieu de les copier-coller dans une IA ou un moteur de recherche.
« Trouver la bonne réponse via Google n’est pas la même chose que posséder des connaissances », souligne Clement. « Et les connaissances sont cruciales car elles vous permettent de remettre en question quelque chose qui semble faux ou truqué. Sans elles, vous pourriez lire un blog sur la Terre plate et penser : ‘C’est logique’, parce que vous n’avez pas les bases pour savoir que c’est faux. » Il craint qu’Internet ne soit déjà inondé de théories du complot et de désinformation, un problème qui ne fera que s’aggraver à mesure que l’IA génère un contenu convaincant mais faux, et que les jeunes ne soient pas préparés à y faire face.
Pendant la pandémie, Miles a trouvé son jeune fils en pleurs devant sa tablette scolaire. Le garçon était bloqué sur un problème de mathématiques qui lui demandait de faire le chiffre six en utilisant le moins de jetons possible de un, trois et cinq. Il essayait continuellement deux trois, mais l’ordinateur le rejetait. Miles a suggéré un et cinq, ce qui a fonctionné. « C’est le genre de problème que vous rencontrez avec une IA non humaine », note Miles, expliquant que les étudiants pensent souvent de manière créative que les machines ne peuvent pas accommoder.
Mais en entendant cette histoire, une autre inquiétude m’a frappé : peut-être que la véritable menace n’est pas de se soumettre à des machines super-intelligentes, mais de céder le contrôle à des machines qui ne le sont pas tant que ça.
Foire Aux Questions
Bien sûr Voici une liste de FAQ sur l'idée que nous sommes dans une ère où la bêtise semble prospérer, avec des réponses claires et directes.
Questions Générales de Définition
1. Que signifie même une ère de bêtise prospère ?
Cela signifie qu'on a l'impression que les idées irrationnelles, le mauvais jugement et les informations manifestement fausses deviennent plus courantes, visibles et même récompensées dans la vie publique, en ligne et parfois au sein du leadership.
2. La bêtise n'est-elle pas simplement une partie de la nature humaine ? N'a-t-elle pas toujours existé ?
Oui, la bêtise a toujours fait partie de l'histoire humaine. Le sentiment qu'elle prospère actuellement vient de la rapidité et de l'ampleur avec laquelle elle peut se propager via la technologie et les médias, la rendant plus visible et impactante que jamais auparavant.
3. Quelle est la différence entre la bêtise et l'ign
