Å gå inn i MIT Media Lab i Cambridge, Massachusetts, føles som å ta et skritt nærmere fremtiden. Glassmonter fyller rommet og viser prototyper av merkelige og fantastiske oppfinnelser – fra miniatyrmaskinroboter til en surrealistisk skulptur designet av en AI som ble bedt om å forestille seg et teservise laget av kroppsdeler. I lobbyen hjelper en AI-assistent ved navn Oscar besøkende med å sortere søppelet deres og forteller dem hvor de skal kaste en brukt kaffekopp.
Oppe i femte etasje har forskningsvitenskapen Nataliya Kosmyna utviklet bærbare hjerne-datagrensesnitt. Målet hennes er å en dag hjelpe mennesker som har mistet taleevnen – på grunn av tilstander som ALS – med å kommunisere kun ved hjelp av tankene sine.
Mye av Kosmynas arbeid innebærer å analysere hjerneaktivitet. Hun designer også en bærbar enhet – én versjon ser ut som et par briller – som kan oppdage når noen er forvirret eller mister konsentrasjonen. For omtrent to år siden begynte hun å motta uventede e-poster fra fremmede som sa at etter å ha brukt store språkmodeller som ChatGPT, følte de at sinnet deres hadde forandret seg. Hukommelsen deres virket ikke like skarp – var det i det hele tatt mulig, spurte de?
Kosmyna selv hadde lagt merke til hvor raskt folk omfavnet generativ AI. Hun så kolleger bruke ChatGPT på jobben, og søknader fra forskere som håpet å bli med på teamet hennes begynte å se annerledes ut. E-postene deres var lengre og mer formelle. Noen ganger, under Zoom-intervjuer, la hun merke til at kandidatene stoppet opp før de svarte og kikket bort. Fikk de hjelp fra AI? Tanken sjokkerte henne. Og hvis de gjorde det, hvor mye forsto de egentlig av svarene de ga?
Nysgjerrig satt Kosmyna og noen MIT-kolleger i gang et eksperiment. De brukte EEG-skannering for å overvåke hjerneaktivitet mens deltakerne skrev essays – noen uten hjelp, noen med en søkemotor, og andre med ChatGPT. Resultatene viste at jo mer hjelp deltakerne fikk utenfra, desto lavere var hjernekoblingen deres. De som brukte ChatGPT, viste betydelig mindre aktivitet i områder knyttet til tenkning, oppmerksomhet og kreativitet.
Kort sagt, selv om brukerne kanskje følte seg engasjert, fortalte hjerneskanningene en annen historie: det var ikke mye som foregikk der oppe.
Etter å ha levert essayene sine, ble deltakerne – alle studenter fra MIT eller nærliggende skoler – spurt om de kunne huske hva de hadde skrevet. «Nesten ingen i ChatGPT-gruppen kunne sitere sitt eget arbeid,» sier Kosmyna. «Det er bekymringsfullt – du skrev det nettopp, og du husker ingenting.»
Kosmyna, 35 år, er stilig kledd i en blå skjortekjole og et stort, fargerikt halskjede. Hun snakker fortere enn de fleste kan tenke. Som hun påpeker, krever det å skrive et essay ferdigheter vi bruker hver dag: å syntetisere informasjon, vurdere ulike synspunkter og bygge et argument. «Hvordan skal du takle en samtale?» spør hun. «Må du si: 'Øh... kan jeg sjekke telefonen min?'»
Studien var liten – bare 54 deltakere – og har ennå ikke blitt fagfellevurdert. Likevel la Kosmyna den ut på nettet i juni, i tankene om at andre forskere kanskje ville synes den var interessant. Hun hadde ingen anelse om at den ville utløse en internasjonal mediastorm.
Sammen med forespørsler om intervjuer mottok hun over 4000 e-poster fra hele verden. Mange kom fra stressede lærere som var bekymret for at elever som stoler på ChatGPT til lekser, ikke virkelig lærer. De frykter at AI skaper en generasjon som kan produsere akseptabelt arbeid, men som mangler ekte forståelse av stoffet.
Kjerneproblemet, forklarer Kosmyna, er at når en teknologi gjør livet enklere, er vi evolusjonært hardkodet til å bruke den. «Hjernene våre... Vi elsker snarveier naturlig, men hjernene våre trenger faktisk utfordringer for å lære effektivt. De krever en viss mengde friksjon for å vokse.»
Det er interessant at mens sinnet vårt trenger denne motstanden, unngår vi den instinktivt. Teknologi lover derimot en «friksjonsfri» opplevelse, som sikrer at vi gli
