Att gå in i MIT Media Lab i Cambridge, Massachusetts känns som att ta ett steg närmare framtiden. Glasmonter fyller utrymmet och visar upp prototyper av märkliga och fantastiska uppfinningar – från miniatyrsktoprobotar till en surrealistisk skulptur designad av en AI som ombads föreställa sig en teserv gjord av kroppsdelar. I lobbyn hjälper en AI-assistent vid namn Oscar besökare att sortera sitt avfall genom att berätta var de ska slängt en använd kaffemugg.
Uppe på femte våningen har forskaren Nataliya Kosmyna utvecklat bärbar hjärn-dator-gränssnitt. Hennes mål är att en dag hjälpa personer som förlorat talets förmåga – på grund av tillstånd som ALS – att kommunicera enbart med sina tankar.
Mycket av Kosmynas arbete innebär att analysera hjärnaktivitet. Hon designar också en bärbar anordning – en version ser ut som ett par glasögon – som kan upptäcka när någon är förvirrad eller tappar fokus. För ungefär två år sedan började hon få oväntade mejl från främlingar som sa att de efter att ha använt stora språkmodeller som ChatGPT kände att deras sinne hade förändrats. Deras minne verkade inte lika skarpt – kunde det ens vara möjligt, undrade de?
Kosmyna själv hade lagt märke till hur snabbt folk omfamnade generativ AI. Hon såg kollegor använda ChatGPT på jobbet, och ansökningar från forskare som hoppades gå med i hennes team började se annorlunda ut. Deras mejl var längre och mer formella. Ibland, under Zoom-intervjuer, märkte hon att kandidater pausade innan de svarade och tittade bort. Fick de hjälp av AI? Tanken chockade henne. Och om de gjorde det, hur mycket förstod de egentligen av de svar de gav?
Nyfiken satte Kosmyna och några MIT-kollegor upp ett experiment. De använde EEG-avläsningar för att övervaka hjärnaktivitet medan deltagare skrev uppsatser – några utan hjälp, några med en sökmotor och andra med ChatGPT. Resultaten visade att ju mer extern hjälp deltagarna fick, desto lägre blev deras hjärnans kopplingsmönster. De som använde ChatGPT uppvisade betydligt mindre aktivitet i områden kopplade till tänkande, uppmärksamhet och kreativitet.
Kort sagt, även om användarna kanske kände sig engagerade, berättade hjärnskanningarna en annan historia: det hände inte särskilt mycket där uppe.
Efter att de lämnat in sina uppsatser fick deltagarna – alla studenter från MIT eller närliggande skolor – frågan om de kunde minnas vad de hade skrivit. ”Nästan ingen i ChatGPT-gruppen kunde citera sitt eget arbete”, säger Kosmyna. ”Det är oroande – du skrev det precis, och du minns ingenting.”
Kosmyna, 35 år, är stilsäkert klädd i en blå skjortklänning och ett stort, färgglatt halsband. Hon pratar snabbare än de flesta kan tänka. Som hon påpekar kräver att skriva en uppsats färdigheter vi använder varje dag: att syntetisera information, väga olika synpunkter och bygga ett argument. ”Hur ska du klara av en konversation?” frågar hon. ”Måste du säga, ’Öh… får jag kolla min telefon?’”
Studien var liten – bara 54 deltagare – och har ännu inte genomgått peer review. Ändå publicerade Kosmyna den online i juni, i tanken att andra forskare kanske skulle finna den intressant. Hon hade ingen aning om att den skulle utlösa en internationell mediestorm.
Förutom intervjuförfrågningar fick hon över 4 000 mejl från hela världen. Många kom från stressade lärare som oroade sig för att elever som förlitar sig på ChatGPT för läxor inte lär sig på riktigt. De fruktar att AI skapar en generation som kan producera acceptabla arbeten men saknar verklig förståelse för materialet.
Kärnproblemet, förklarar Kosmyna, är att när en teknologi gör livet lättare är vi evolutionärt programmerade att använda den. ”Våra hjärnor… Vi älskar naturligtvis genvägar, men våra hjärnor behöver faktiskt utmaningar för att lära oss effektivt. De kräver en viss mängd friktion för att växa.
Det är intressant att medan våra sinnen behöver detta motstånd undviker vi det instinktivt. Teknik lovar å andra sidan en ”friktionsfri” upplevelse och ser till att vi glider effektlöst från en app eller skärm till nästa utan några hinder. Denna sömlösa interaktion är anledningen till att vi så lätt lämnar över information och uppgifter till våra enheter. Det förklarar varför vi lätt går vilse i ändlöst onlineinnehåll och kämpar för att dra oss ur det. Det är också därför generativ AI så snabbt har blivit en stapelvara i många människors vardag.
Av våra gemensamma erfarenheter vet vi att när man vänjer sig vid den hypereffektivitet som den digitala världen erbjuder känns den verkliga världen – med all sin friktion – svårare att navigera. Så du kanske undviker telefonsamtal, använder självutcheckningskassor och beställer allt via en app. Du kanske tar din telefon för att lösa ett matteproblem du kunde ha löst mentalt, slår upp ett faktum istället för att minnas det, eller förlitar dig på Google Maps för att guida dig från punkt A till B utan att tänka. Kanske har du slutat läsa böcker för att upprätthålla fokus känns som för mycket ansträngning, eller så drömmer du om att äga en självkörande bil. Är detta början på vad författaren och utbildningsexperten Daisy Christodoulou kallar ett ”stupidogent samhälle” – likt en miljö som främjar fetma, men en som gör det lätt att bli intellektuellt lat eftersom maskiner tänker åt dig?
Mänsklig intelligens är för mångfacetterad för att helt enkel kunna klassificeras som ”dum”, men det finns oroande tecken på att våra digitala bekvämligheter tar ut sin rätt. I utvecklade OECD-länder nådde Pisa-resultaten – som bedömer läsförståelse, matematik- och naturvetenskapskunskaper hos 15-åringar – sin topp runt 2012. Medan IQ-poäng steg globalt under hela 1900-talet, troligen på grund av bättre utbildning och näring, verkar de nu minska i många utvecklade länder.
Debatten om sjunkande prov- och IQ-poäng är het. Vad som är svårare att förneka är att vi med varje teknisk framsteg blir mer beroende av digitala enheter och finner det allt svårare att arbeta, minnas, tänka eller ens fungera utan dem. Som en expert, Kosmyna, med frustration påpekar, ”Det är bara mjukvaruutvecklare och knarklangare som kallar folk för ’användare’.” Detta belyser brådskan hos AI-företag att pressa sina produkter på allmänheten innan vi fullt ut förstår de psykologiska och kognitiva konsekvenserna.
I det ständigt växande, friktionsfria onlineområdet är du främst en användare: passiv och beroende. När vi går in i en era av AI-genererad desinformation och deepfakes, hur ska vi då hålla fast vid den skepticism och det oberoende tänkande vi kommer att behöva? När vi inser att våra sinnen inte längre är helt våra egna och att vi inte kan tänka klart utan teknik, hur mycket egen viljekraft har vi då kvar att sätta emot?
Om du uttrycker oro för vad intelligenta maskiner gör med våra hjärnor, kan du inom en snar framtid bli utskrattad som gammalmodig. Sokrates oroade sig en gång för att skrift skulle försvaga minnet och främja en ytlig förståelse – ett ”vishetsinbillning” snarare än sann visdom. Detta argument ekar många moderna kritiker av AI. Men skrift och efterföljande teknologier som tryckpressen, massmedia och internet gav faktiskt fler människor tillgång till mer information. Detta lät fler individer utveckla och dela stora idéer, vilket gjorde oss smartare och mer innovativa både individuellt och som samhälle.
Skriften förändrade trots allt inte bara hur vi får tillgång till och lagrar information; den förvandlade hur vi tänker. Med en anteckningsbok och penna kan en person ta sig an mer komplexa uppgifter än med enbart minnet. Att använda AI resulterar ofta i insipidt, fantasilöst och faktafelaktigt arbete. Ett problem är ”ankareffekten”: när du ställer en generativ AI en fråga kan dess svar låsa fast ditt tänkande på en specifik väg, vilket gör dig mindre öppen för andra idéer. Som en expert förklarar, ”Ta ett ljus till exempel. AI kan hjälpa dig att förbättra det – göra det ljusare, hållbarare, billigare och mer attraktivt – men det kommer inte att leda till att du uppfinner glödlampan.” För att ta det steget behövs mänskligt kritiskt tänkande, som kan vara rörigt, ostrukturerat och oförutsägbart. När företag introducerar verktyg som chattroboten Copilot utan ordentlig utbildning riskerar de att skapa team av mediokra ljustillverkare i en värld som behöver högeffektiva glödlampor.
En annan oro är att vuxna som använder AI som genväg åtminstone har dragit nytta av ett utbildningssystem som fanns innan datorer kunde göra deras läxor. En nyligen brittisk undersökning fann att 92% av universitetsstudenter använder AI, och cirka 20% har använt det för att skriva hela eller delar av en uppgift. Detta väcker frågor om hur mycket de faktiskt lär sig. Främjar skolor och universitet fortfarande kreativa, originella tänkare som kan bygga smartare samhällen, eller producerar de tankelösa, lättlurade drönare som förlitar sig på AI för att skriva uppsatser?
För några år sedan deltog Matt Miles, psykologilärare på en high school i Virginia, i ett utbildningsprogram om teknik i skolan. Instruktörerna visade en video på en elev som ertappades med att använda sin telefon i klassrummet, som sedan hävdade att hon forskade med en vattenexpert från Botswana. ”Det är löjligt. Barnen skrattar alla när de ser det”, säger Miles. Oroad över klyftan mellan beslutsfattares syn och klassrumsverklighet skrev han och hans kollega Joe Clement ”Screen Schooled” 2017, där de argumenterar för att för mycket teknik gör barn mindre intelligenta. Sedan dess har de förbjudit smartphones i sina klassrum, även om elever fortfarande använder laptops. Som en elev insiktsfullt noterade, ”Om du ser mig på min telefon är det 0% chans att jag är produktiv. På min laptop är det 50%.”
Enligt forskaren Faith Boninger var många lärare med rätta skeptiska till att lägga till mer teknik i klassrummen före pandemin. Men när lockdowns tvingade skolor online blev verktyg som Google Workspace for Education, Kahoot! och Zearn vanliga. Med uppkomsten av generativ AI fanns det nya löften om att revolutionera utbildningen genom personifierat lärande och minskad arbetsbörda för lärare. Men nästan all forskning som stöder dessa fördelar finansieras av ed-tech-industrin, medan de flesta oberoende, storskaliga studier visar att skärmtid hindrar prestationer. Till exempel fann en OECD-global studie att ökad teknikanvändning i skolor korrelerar med sämre elevresultat.
”Det finns helt enkelt inga oberoende bevis i stor skala för dessa verktygs effektivitet”, säger Wayne Holmes, professor vid University College London. ”I grund och botten experimenterar vi på barn med dessa teknologier. De flesta förnuftiga människor skulle inte gå in i en bar och...” Tänk dig om någon erbjöd dig ett nytt läkemedel, påstod att det är bra för din hälsa, och du bara började ta det utan att fråga. Vi kräver vanligtvis att våra läkemedel genomgår rigorösa tester och ordineras av proffs. Ändå när det gäller utbildningsteknik, som sägs vara så fördelaktig för barns utvecklande sinnen, släpper vi plötsligt de kraven.
Miles och Clement är oroade inte bara över att deras elever ständigt distraheras av enheter, utan också att de missar att utveckla kritiskt tänkande och djup förståelse när svar alltid är ett snabbt sökande bort. Clement minns en tid då han skulle ställa en fråga som, ”Var tror du USA placerar sig i BNP per capita?” och guida klassen genom att lista ut det. Nu har någon redan slagit upp det online innan han hunnit avsluta frågan. Elever använder regelbundet ChatGPT och blir frustrerade om uppgifter inte tillhandahålls digitalt, vilket tvingar dem att skriva frågor istället för att kopiera och klistra in i en AI eller sökmotor.
”Att hitta rätt svar via Google är inte detsamma som att ha kunskap”, påpekar Clement. ”Och kunskap är avgörande eftersom den låter dig ifrågasätta något som låter fel eller falskt. Utan den kanske du läser en platt jord-blogg och tänker, ’Det låter vettigt’, för du saknar bakgrundskunskapen att veta bättre.” Han oroar sig för att internet redan är översvämmat med konspirationsteorier och desinformation, ett problem som bara kommer att växa när AI genererar övertygande men falskt innehåll, och unga människor inte är förberedda att hantera det.
Under pandemin fann Miles sin unga son gråta över sin skolplatta. Pojken fastnade på ett matteproblem som bad honom att göra talet sex med färrest antal tokens av ett, tre och fem. Han försökte upprepade gånger med två treor, men datorn accepterade det inte. Miles föreslog ett och fem, vilket fungerade. ”Det är den typen av problem man stöter på med icke-mänsklig AI”, noterar Miles och förklarar att elever ofta tänker på kreativa sätt som maskiner inte kan hantera.
Men när jag hörde den här historien slog en annan oro mig: kanske är det verkliga hotet inte att underkasta oss superintelligenta maskiner, utan att lämna över kontroll till sådana som inte är särskilt smarta.
Vanliga frågor
Naturligtvis. Här är en lista med vanliga frågor om idén att vi befinner oss i en era där dumhet tycks frodas, med tydliga och direkta svar.
Allmänna definitionsfrågor
