At gå ind i MIT Media Lab i Cambridge, Massachusetts, føles som at tage et skridt tættere på fremtiden. Glasmontere fylder rummet og viser prototyper af mærkelige og vidunderlige opfindelser – fra miniaturebordrobotter til en surrealistisk skulptur designet af en AI, der blev bedt om at forestille sig et teservice lavet af kropsdele. I lobbyen hjælper en AI-assistent ved navn Oscar besøgende med at sortere deres affald og fortæller dem, hvor de skal smide en brugt kaffekop.
Oppe på femte sal har forskningsvidenskabsmand Nataliya Kosmyna udviklet bærbare hjerne-computer-grænseflader. Hendes mål er en dag at hjælpe mennesker, der har mistet evnen til at tale – på grund af tilstande som ALS – med at kommunikere udelukkende ved hjælp af deres tanker.
Meget af Kosmynas arbejde involverer analyse af hjerneaktivitet. Hun designer også en bærbar enhed – én version ligner et par briller – der kan opdage, når nogen er forvirret eller mister koncentrationen. For omkring to år siden begyndte hun at modtage uventede e-mails fra fremmede, der sagde, at efter de havde brugt store sprogmodeller som ChatGPT, følte de, at deres sind var ændret. Deres hukommelse virkede ikke så skarp – var det overhovedet muligt, spurgte de?
Kosmyna selv havde lagt mærke til, hvor hurtigt folk omfavnede generativ AI. Hun så kolleger bruge ChatGPT på arbejdet, og ansøgninger fra forskere, der håbede at komme med på hendes hold, begyndte at se anderledes ud. Deres e-mails var længere og mere formelle. Undertiden under Zoom-interviews lagde hun mærke til, at kandidater holdt pause, før de svarede, og kiggede væk. Fik de hjælp fra AI? Tanken chokerede hende. Og hvis de gjorde, hvor meget forstod de egentlig af de svar, de gav?
Nysgerrig satte Kosmyna og nogle MIT-kolleger et eksperiment op. De brugte EEG-scanning til at overvåge hjerneaktivitet, mens deltagerne skrev essays – nogle uden hjælp, nogle med en søgemaskine og andre med ChatGPT. Resultaterne viste, at jo mere ekstern hjælp folk fik, jo lavere var deres hjerneforbindelse. Dem, der brugte ChatGPT, viste markant mindre aktivitet i områder forbundet med tænkning, opmærksomhed og kreativitet.
Kort sagt, mens brugerne måske følte sig engagerede, fortalte hjernescanningerne en anden historie: der skete ikke ret meget deroppe.
Efter at have afleveret deres essays blev deltagerne – alle studerende fra MIT eller nærliggende skoler – spurgt, om de kunne huske, hvad de havde skrevet. "Næsten ingen i ChatGPT-gruppen kunne citere deres eget arbejde," siger Kosmyna. "Det er bekymrende – du har lige skrevet det, og du kan ikke huske noget."
Kosmyna, 35 år, er stilfuldt klædt i en blå skjortekjole og et stort, farverigt halskæde. Hun taler hurtigere end de fleste mennesker kan tænke. Som hun påpeger, kræver det at skrive et essay færdigheder, vi bruger hver dag: at syntetisere information, veje forskellige synspunkter og opbygge et argument. "Hvordan skal du håndtere en samtale?" spørger hun. "Bliver du nødt til at sige, 'Øh... må jeg lige tjekke min telefon?'"
Undersøgelsen var lille – kun 54 deltagere – og er endnu ikke blevet fagfællebedømt. Alligevel offentliggjorde Kosmyna den online i juni i tanken om, at andre forskere kunne finde den interessant. Hun anede ikke, at den ville udløse en international mediestorm.
Sammen med interviewanmodninger modtog hun over 4.000 e-mails fra hele verden. Mange kom fra stressede lærere, der var bekymrede for, at studerende, der stoler på ChatGPT til lektier, ikke rigtig lærer. De frygter, at AI skaber en generation, der kan producere acceptabelt arbejde, men mangler en virkelig forståelse af stoffet.
Kerneproblemet, forklarer Kosmyna, er, at når en teknologi gør livet lettere, er vi evolutionært hardwired til at bruge den. "Vores hjerner... Vi elsker naturligt genveje, men vores hjerner har faktisk brug for udfordringer for at lære effektivt. De kræver en vis mængde modstand for at vokse."
Det er interessant, at mens vores sind har brug for denne modstand, undgår vi den instinktivt. Teknologien lover derimod en "gnidningsløs" oplevelse, der sikrer, at vi glider ubesværet fra én app eller skærm til den næste uden forhindringer. Denne problemfrie interaktion er grunden til, vi så villigt overlader information og opgaver til vores enheder. Det forklarer, hvorfor vi let bliver opslugt af endeløst onlineindhold og kæmper for at komme ud af det. Det er også grunden til, at generativ AI så hurtigt er blevet en fast del af mange menneskers dagligdag.
Af vores fælles erfaringer ved vi, at når man først vænner sig til den hypereffektivitet, den digitale verden byder på, føles den virkelige verden – med al sin gnidning – sværere at navigere i. Så du undgår måske telefonopkald, bruger selvbetjeningskasser og bestiller alt via en app. Du tager måske din telefon for at løse en matematikopgave, du kunne have løst mentalt, slår et faktum op i stedet for at huske det, eller stoler på Google Maps til at guide dig fra A til B uden at tænke. Måske er du holdt op med at læse bøger, fordi det at holde fokus føles som for stor en indsats, eller du drømmer om at eje en selvkørende bil. Er dette begyndelsen på det, forfatteren og uddannelseseksperten Daisy Christodoulou kalder et "stupidogent samfund" – svarende til et miljø, der fremmer overvægt, men et som gør det nemt at blive intellektuelt doven, fordi maskinerne udfører tænkningen for dig?
Den menneskelige intelligens er for alsidig til blot at betegnes som "dum," men der er bekymrende tegn på, at vores digitale bekvemmeligheder tager deres tol. I udviklede OECD-lande toppede Pisa-score – som vurderer læse-, matematik- og naturfærdigheder hos 15-årige – omkring 2012. Mens IQ-score steg globalt gennem det 20. århundrede, sandsynligvis på grund af bedre uddannelse og ernæring, ser de nu ud til at falde i mange udviklede nationer.
Debatten om faldende test- og IQ-score er heftig. Hvad der er sværere at benægte, er, at vi med hver teknologisk fremskridt bliver mere afhængige af digitale enheder og finder det i stigende grad vanskeligt at arbejde, huske, tænke eller endda fungere uden dem. Som en ekspert, Kosmyna, udtrykker det med frustration: "Det er kun softwareudviklere og narkohandlere, der kalder folk for brugere." Dette fremhæver AI-virksomheders jag for at skubbe deres produkter ud til offentligheden, før vi helt forstår de psykologiske og kognitive konsekvenser.
I det evigt voksende, gnidningsløse online rige er du primært en bruger: passiv og afhængig. Efterhånden som vi går ind i en æra med AI-genereret misinformation og deepfakes, hvordan skal vi så holde fast i den skepsis og selvstændige tænkning, vi får brug for? Når vi først indser, at vores sind ikke længere helt tilhører os selv, og at vi ikke kan tænke klart uden teknologi, hvor meget egen viljestyrke vil så være tilbage til at kæmpe imod?
Hvis du udtrykker bekymring for, hvad intelligente maskiner gør ved vores hjerner, bliver du måske udsat for latter i en nær fremtid som gammeldags. Sokrates bekymrede sig engang over, at skrift ville svække hukommelsen og fremelske en overfladisk forståelse – en "visdomsindbildning" snarere end sand visdom. Dette argument genlyder mange moderne kritikker af AI. Imidlertid gav skrift og efterfølgende teknologier som trykpressen, masse-medierne og internettet faktisk flere mennesker adgang til mere information. Dette tillod flere individer at udvikle og dele gode ideer, hvilket gjorde os klogere og mere innovative både individuelt og som samfund.
Skrift ændrede trods alt ikke bare, hvordan vi får adgang til og opbevarer information; den forvandlede, hvordan vi tænker. Med en notesbog og en pen kan en person tackle mere komplekse opgaver end med hukommelsen alene. At bruge AI resulterer ofte i kedeligt, uimaginativt og faktamæssigt tvivlsomt arbejde. Et problem er "anker-effekten": når du stiller en generativ AI et spørgsmål, kan dens svar låse din tænkning fast på en bestemt sti, hvilket gør dig mindre åben for andre ideer. Som en ekspert forklarer: "Tag et stearinlys for eksempel. AI kan hjælpe dig med at forbedre det – gøre det lysere, mere holdbart, billigere og mere attraktivt – men det vil ikke føre til opfindelsen af pæren." For at tage det spring har du brug for menneskelig kritisk tænkning, som kan være rodet, ustruktureret og uforudsigelig. Når virksomheder introducerer værktøjer som chatbotten Copilot uden ordentlig træning, risikerer de at skabe hold af middelmådige stearinlysproducenter i en verden, der har brug for højeffektivitetspærer.
En anden bekymring er, at voksne, der bruger AI som en genvej, i det mindste har haft gavn af et uddannelsessystem, der eksisterede, før computere kunne lave deres lektier. En nylig britisk undersøgelse viste, at 92% af universitetsstuderende bruger AI, og omkring 20% har brugt det til at skrive hele eller dele af en opgave. Dette rejser spørgsmål om, hvor meget de faktisk lærer. Fremelsker skoler og universiteter stadig kreative, originale tænkere, der kan bygge klogere samfund, eller producerer de tankeløse, godtroende drone, der stoler på AI til at skrive essays?
For få år siden deltog Matt Miles, en psykologilærer på en high school i Virginia, i et træningsprogram om teknologi i skolerne. Instruktørerne viste en video af en elev, der blev taget i at bruge sin telefon i timen, og som derefter hævdede, at hun researchede med en vandekspert fra Botswana. "Det er til at grine af. Børnene griner alle sammen, når de ser det," siger Miles. Bekymret over kløften mellem beslutningstageres syn og klasseværelsets virkelighed skrev han og hans kollega Joe Clement "Screen Schooled" i 2017, hvor de argumenterede for, at for meget teknologi gør børn mindre intelligente. Siden da har de forbudt smartphones i deres klasseværelser, selvom eleverne stadig bruger laptops. Som en elev indsigtsfuldt bemærkede: "Hvis du ser mig på min telefon, er der 0% chance for, at jeg er produktiv. På min laptop er det 50%."
Ifølge forskeren Faith Boninger var mange lærere ret skeptiske over for at tilføje mere teknologi til klasseværelserne før pandemien. Men da nedlukninger tvang skolerne online, blev værktøjer som Google Workspace for Education, Kahoot! og Zearn almindelige. Med fremkomsten af generativ AI kom der nye løfter om at revolutionere uddannelse gennem personificeret læring og reduceret lærernes arbejdsbyrde. Men næsten al forskning, der støtter disse fordele, er finansieret af ed-tech-branchen, mens de fleste uafhængige, storskalaundersøgelser viser, at skærmtid hæmmer præstationer. For eksempel viste en OECD global undersøgelse, at øget techbrug i skoler korrelerer med dårligere elevresultater.
"Der er simpelthen ingen uafhængige beviser i stor skala for effektiviteten af disse værktøjer," siger Wayne Holmes, en professor på University College London. "I bund og grund eksperimenterer vi med børn med disse teknologier. De fleste fornuftige mennesker ville ikke gå ind på en bar og..."Forestil dig, hvis nogen tilbød dig et nyt stof, påstod det var godt for dit helbred, og du bare begyndte at tage det uden spørgsmål. Vi forlanger normalt, at vores medicin gennemgår streng testning og bliver ordineret af fagfolk. Alligevel, når det kommer til uddannelsesteknologi, som formodes at være så gavnlig for børns udviklende sind, dropper vi pludselig de standarder.
Miles og Clement er bekymrede ikke kun for, at deres elever konstant bliver distraheret af enheder, men også for, at de går glip af at udvikle kritisk tænkning og dyb forståelse, når svar altid er en hurtig søgning væk. Clement husker en tid, hvor han stillede et spørgsmål som: "Hvor tror du, USA rangerer i BNP per indbygger?" og guidede klassen igennem at finde ud af det. Nu har nogen allerede slået det op online, før han er færdig med at stille spørgsmålet. Elever bruger regelmæssigt ChatGPT og bliver frustrerede, hvis opgaver ikke stilles digitalt til rådighed, hvilket tvinger dem til at skrive spørgsmål i stedet for at kopiere og indsætte dem i en AI eller søgemaskine.
"At finde det rigtige svar gennem Google er ikke det samme som at have viden," påpeger Clement. "Og viden er afgørende, fordi den giver dig mulighed for at sætte spørgsmålstegn ved noget, der lyder forkert eller falskt. Uden den læser du måske en flad jord-blog og tænker, 'Det giver mening,' fordi du mangler baggrundsviden til at vide bedre." Han er bekymret for, at internettet allerede er oversvømmet med konspirationsteorier og misinformation, et problem, der kun vil vokse, når AI genererer overbevisende men falskt indhold, og unge ikke er forberedt på at håndtere det.
Under pandemien fandt Miles sin unge søn grædende over sin skole-tablet. Drengen var gået i stå med en matematikopgave, der bad ham om at lave tallet
