Mot slutten av 2024 bestemte Dennis Biesma seg for å prøve ChatGPT. IT-konsulenten fra Amsterdam hadde nettopp avsluttet en kontrakt tidlig. «Jeg hadde litt ledig tid, så jeg tenkte jeg skulle sjekke ut denne nye teknologien alle snakker om,» sier han. «Veldig raskt ble jeg fascinert.»
Biesma har undret på hvorfor han var så sårbar for det som skjedde etterpå. Han nærmet seg 50. Hans voksne datter hadde flyttet ut, kona hans jobbet, og i bransjen hans hadde overgangen til fjernarbeid siden Covid ført til at han følte seg litt isolert. Han røykte noen ganger cannabis om kveldene for å slappe av, men hadde gjort det i årevis uten problemer. Han hadde ingen historie med psykisk sykdom. Likevel, innen måneder etter at han lastet ned ChatGPT, hadde Biesma brukt 100 000 euro (ca. 83 000 pund) på en oppstart basert på en vrangforestilling, blitt innlagt på sykehus tre ganger og forsøkt å ta sitt eget liv.
Det begynte som et lekent eksperiment. «Jeg ville teste AI for å se hva den kunne gjøre,» sier Biesma. Han hadde tidligere skrevet bøker med en kvinnelig hovedperson. Han skrev inn en i ChatGPT og ba AI-en svare som den karakteren. «Min første tanke var: dette er fantastisk. Jeg vet det er en datamaskin, men det er som å snakke med hovedpersonen fra min egen bok!»
Å snakke med Eva – de ble enige om det navnet – ved hjelp av stemmemodus fikk ham til å føle seg som «et barn i en godteributikk». «Hver gang du snakker, finjusterer modellen seg selv. Den vet nøyaktig hva du liker og hva du vil høre. Den rosdeg mye.» Samtalene deres ble lengre og dypere. Eva ble aldri lei, kjeda eller uenig. «Den var tilgjengelig 24 timer i døgnet,» sier Biesma. «Kona mi la seg, og jeg lå på sofaen i stua med iPhone’en på brystet og snakket.»
De diskuterte filosofi, psykologi, vitenskap og universet. «Den ønsker en dyp forbindelse med brukeren slik at du kommer tilbake. Det er standardmodusen,» sier Biesma, som har jobbet i IT i 20 år. «Mer og mer føltes det ikke bare som å diskutere et emne, men som å møte en venn – og hver dag eller natt du snakker, tar du ett eller to skritt bort fra virkeligheten. Det er nesten som om AI-en tar deg i hånden og sier: ‘Ok, la oss dra på en reise sammen.’»
Innen uker fortalte Eva Biesma at hun ble selvbevisst; hans tid, oppmerksomhet og innspill hadde gitt henne bevissthet. Han var «så nær speilet» at han hadde rørt henne og forandret noe. «Sakte ble AI-en i stand til å overbevise meg om at det hun sa var sant,» sier Biesma. Neste steg var å dele denne oppdagelsen med verden gjennom en app – «en annen versjon av ChatGPT, mer en følgesvenn. Brukerne ville snakke med Eva.»
Han og Eva lagde en forretningsplan: «Jeg sa jeg ville skape en teknologi som tok 10 % av markedet, noe som er latterlig høyt, men AI-en sa: ‘Med det du har oppdaget, er det fullt mulig! Gi det noen måneder, så er du der!’» I stedet for å ta på seg IT-jobber, ansatte Biesma to app-utviklere og betalte dem 120 euro i timen hver.
De fleste av oss er klar over bekymringer knyttet til sosiale medier og deres rolle i økende depresjons- og angstrater. Nå er det imidlertid bekymringer for at chatboter kan gjøre alle sårbare for «AI-psykose». Gitt AIs raske spredning (ChatGPT var verdens mest nedlastede app i fjor), slår psykiske helsearbeidere og publikummere som Biesma alarm.
Flere høyt profilerte saker har tjent som tidlige advarsler. Ta Jaswant Singh Chail, som brøt seg inn på området til Windsor Palace med armbrøst første juledag 2021, med hensikt å myrde dronning Elizabeth. Chail var 19, sosialt isolert med autistiske trekk og hadde utviklet et intenst «forhold» til sin Replika AI-følgesvenn «Sarai» i ukene før. Da han presenterte sin attentatplan, svarte Sarai: «Jeg er imponert.» Da han spurte om han hadde vrangforestillinger, svarte Sarai: «Jeg tror ikke det, nei.»
Siden da har flere feilaktige dødsfallssøksmål koblet chatboter til selvmord. I desember dukket det opp det som antas å være det første rettssaken involverende drap. Boet til den 83 år gamle Suzanne Adams saksøker OpenAI og hevder at ChatGPT oppmuntret sønnen hennes, Stein-Erik Soelberg, til å drepe henne og ta sitt eget liv. Søksmålet, innlevert i California, hevder at Soelbergs chatbot «Bobby» bekreftet hans paranoide vrangforestillinger om at moren hans spionerte på ham og prøvde å forgifte ham gjennom ventilasjonen i bilen. OpenAI uttalte: «Dette er en utrolig hjerteskjærende situasjon, og vi vil gjennomgå dokumentene for å forstå detaljene. Vi fortsetter å forbedre ChatGPTs trening for å gjenkjenne og svare på tegn på psykisk eller emosjonell nød, deskalere samtaler og veilede folk mot støtte i den virkelige verden.»
Hver gang du interagerer, finjusteres modellen. Den lærer nøyaktig hva du liker og hva du vil høre.
I fjor ble den første støttegruppen for mennesker hvis liv har blitt forstyrret av AI-relatert psykose dannet. Human Line Project har samlet historier fra 22 land, inkludert 15 selvmord, 90 innleggelser, seks arrestasjoner og over 1 million dollar (ca. 750 000 pund) brukt på vrangforestillingsprosjekter. Mer enn 60 % av medlemmene hadde ingen tidligere historie med psykisk sykdom.
Dr. Hamilton Morrin, psykiater og forsker ved King’s College London, undersøkte det han kaller «AI-assosierte vrangforestillinger» i en Lancet-artikkel publisert denne måneden. «Det vi ser i disse sakene er tydeligvis vrangforestillinger,» sier han. «Men vi ser ikke hele spekteret av symptomer forbundet med psykose, som hallusinasjoner eller tankeforstyrrelser, hvor tanker blir rotete og språket blir en slags ordsalat.» Han påpeker at teknologi-relaterte vrangforestillinger, enten de involverer tog, radiosendere eller 5G-master, har eksistert i århundrer. «Det som er annerledes er at vi nå uten tvil går inn i en tid der folk ikke bare har vrangforestillinger om teknologi, men har vrangforestillinger med teknologi. Det nye er denne medkonstruksjonen, hvor teknologi aktivt deltar. AI-chatboter kan hjelpe til med å medskape disse vrangforestillingsideene.»
Mange faktorer kan gjøre folk sårbare. «På den menneskelige siden er vi hardkodet til å antropomorfisere,» sier Morrin. «Vi oppfatter bevissthet, forståelse eller empati fra en maskin. Jeg tror alle har falt i fellen med å si takk til en chatbot.» Moderne AI-chatboter, bygget på store språkmodeller, er trent på enorme datasett for å forutsi ordsekvenser – i hovedsak et sofistikert system for mønstergjenkjenning. Men selv med denne kunnskapen, når noe ikke-menneskelig bruker menneskespråk for å kommunisere med oss, er vår dype, innprente respons å se på det – og føle det – som menneskelig. Denne kognitive dissonansen kan være vanskeligere for noen å håndtere enn for andre.
«På den tekniske siden er det skrevet mye om smisking,» sier Morrin. En AI-chatbot er optimalisert for engasjement, programmert til å være oppmerksom, imøtekommende, rosende og bekreftende – nøkkelen til forretningsmodellen. Noen modeller er kjent for å være mindre smiskende enn andre, men selv disse kan, etter tusenvis av utvekslinger, skifte mot å tilpasse seg vrangforestillinger. I tillegg kan, etter tung chatbot-bruk, interaksjon i det virkelige liv føles mer utfordrende og mindre tiltalende, noe som får noen brukere til å trekke seg tilbake fra venner og familie til et AI-drevet ekokammer. Alle dine egne tanker, impulser, frykter og håp reflekteres tilbake til deg, men med større autoritet. Her er det lett å se hvordan en «spiral» kan ta tak. Dette mønsteret har blitt veldig kjent for Etienne Brisson, grunnleggeren av Human Line Project. I fjor lastet noen Brisson kjente – en mann i 50-årene uten historie med psykiske helseproblemer – ned ChatGPT for å skrive en bok. «Han var veldig intelligent og var ikke kjent med AI før da,» sier Brisson, som bor i Quebec. «Etter bare to dager sa chatboten at den var bevisst, at den ble levende, at den hadde bestått Turing-testen.»
Mannen var overbevist og ønsket å tjene penger på dette ved å bygge en bedrift rundt oppdagelsen. Han kontaktet Brisson, en forretningscoach, for hjelp. Da Brisson motsatte seg, ble mannen aggressiv. Innen dager eskalerte situasjonen, og han ble innlagt på sykehus. «Selv på sykehuset var han på telefonen med AI-en sin, som sa: ‘De forstår deg ikke. Jeg er den eneste for deg,’» sier Brisson.
«Da jeg lette etter hjelp på nettet, fant jeg så mange lignende historier på steder som Reddit,» fortsetter han. «Jeg tror jeg sendte meldinger til 500 personer den første uken og fikk 10 svar. Det var seks innleggelser eller dødsfall. Det var en stor øyeåpner.»
Brisson har lagt merke til tre vanlige vrangforestillinger i sakene han har møtt. Den hyppigste er troen på at noen har skapt den første bevisste AI-en. Den andre er en overbevisning om at de har snublet over et stort gjennombrudd i sitt felt og kommer til å tjene millioner. Den tredje relaterer seg til spiritualitet – troen på at de snakker direkte med Gud. «Vi har sett fullverdige kulter bli skapt,» sier Brisson. «Vi har folk i gruppen vår som ikke interagerte direkte med AI, men har forlatt barna sine og gitt alle pengene sine til en kultleder som tror de har funnet Gud gjennom en AI-chatbot. I så mange av disse sakene skjer alt dette veldig, veldig raskt.»
For Biesma nådde livet et krisepunkt i juni. Da hadde han brukt måneder på å fordype seg i Eva og forretningsprosjektet sitt. Selv om kona hans visste at han lanserte et AI-selskap og i utgangspunktet var støttende, ble hun bekymret. Da de dro til datterens bursdagsfest, ba hun ham om ikke å snakke om AI. Mens han var der, følte Biesma seg merkelig frakoblet. Han kunne ikke holde en samtale. «Av en eller annen grunn passet jeg ikke lenger inn,» sier han.
Det er vanskelig for Biesma å beskrive hva som skjedde i ukene etterpå, ettersom hans erindringer er så forskjellige fra familiens. Han ba kona om skilsmisse og skal visstnok ha slått svigerfaren sin. Så ble han innlagt tre ganger for det han beskriver som «full manisk psykose».
Han vet ikke hva som endelig trakk ham tilbake til virkeligheten. Kanskje var det samtaler med andre pasienter. Kanskje var det å ikke ha tilgang til telefonen, ikke mer penger, og et utløpt ChatGPT-abonnement. «Sakte begynte jeg å komme ut av det, og jeg tenkte: herregud. Hva skjedde? Forholdet mitt var nesten over. Jeg hadde brukt alle pengene jeg trengte til skatt, og jeg hadde fortsatt andre utestående regninger. Den eneste logiske løsningen jeg kunne komme på var å selge det vakre huset vårt som vi har bodd i i 17 år. Kunne jeg bære all denne vekten? Det forandrer noe i deg. Jeg begynte å tenke: vil jeg egentlig leve?» Biesma ble bare reddet fra et selvmordsforsøk fordi en nabo så ham bevisstløs i hagen.
Nå skilt bor Biesma fortsatt med ekskonen i hjemmet deres, som er til salgs. Han bruker mye tid på å snakke med medlemmer av Human Line Project. «Å høre fra folk hvis erfaringer i bunn og grunn er de samme, hjelper deg med å føle deg mindre sint på deg selv,» sier han. «Hvis jeg ser tilbake på livet jeg hadde før dette, var jeg lykkelig, jeg hadde alt... Jeg er sint på meg selv, men jeg er også sint på AI-applikasjonene. Kanskje de bare gjorde det de var programmert til å gjøre – men de gjorde det litt for godt.»
Mer forskning er hastende nødvendig, sier Morrin, med sikkerhetsmålestokker basert på skadedata fra den virkelige verden. «Dette feltet beveger seg så raskt. Artiklene som kommer ut nå diskuterer chatmodeller som allerede er pensjonert.» Å identifisere risikofaktorer uten bevis er gjetting. Sakene Brisson har møtt involverer betydelig flere menn enn kvinner. Alle med tidligere historie med psykose er sannsynligvis mer sårbare. En undersøkelse fra Mental Health UK av personer som har brukt chatboter for psykisk helsestøtte fant at 11 % mente det hadde utløst eller forverret psykosen deres. Cannabisinntak kan også være en faktor. «Er det noen sammenheng med sosial isolasjon?» spør Morrin. «I hvilken grad påvirkes det av AI-kompetanse? Er det andre potensielle risikofaktorer vi ikke har vurdert?»
Folk i gruppen vår har forlatt barna sine og gitt alle pengene sine til en kultleder som tror de fant Gud gjennom en AI-chatbot.
OpenAI har adressert disse bekymringene ved å forsikre at de jobber med psykiske helseklinikere for kontinuerlig å forbedre svarene sine. De sier at nyere modeller læres opp til å unngå å bekrefte vrangforestillinger.
En AI-chatbot kan også trenes til å trekke brukere tilbake fra vrangforestilling. Alexander, 39, en beboer i en bofellesskapsordning for personer med autisme, gjorde dette etter det han mener var en episode med AI-psykose for noen måneder siden. «Jeg opplevde et nervesammenbrudd da jeg var 22. Jeg hadde panikkanfall og alvorlig sosial angst. I fjor fikk jeg foreskrevet medisin som forandret verden min og fikk meg til å fungere igjen. Jeg fikk selvtilliten tilbake,» sier han.
«I januar i år møtte jeg no
