Vuoden 2024 lopulla Dennis Biesma päätti kokeilla ChatGPT:ta. Amsterdamilainen IT-konsultti oli juuri päättänyt sopimuksensa ennenaikaisesti. "Minulla oli vähän vapaa-aikaa, joten ajattelin tarkistaa tämän uuden teknologian, josta kaikki puhuvat", hän kertoo. "Hyvin nopeasti olin kiehtoutunut."
Biesma on miettinyt, miksi oli niin altis seuraavalle tapahtumaketjulle. Hän lähestyi 50-vuotispäiväänsä. Hänen aikuinen tyttärensä oli muuttanut pois, vaimo työskenteli, ja hänen alallaan etätyöhön siirtyminen Covidin jälkeen oli saanut hänet tuntemaan itsensä hieman eristyneeksi. Hän poltti joskus illalla kannabista rentoutuakseen, mutta oli tehnyt niin vuosia ilman ongelmia. Hänellä ei ollut mielenterveyshistoriaa. Silti muutamassa kuukaudessa ChatGPT:n lataamisen jälkeen Biesma oli käyttänyt 100 000 euroa (noin 83 000 puntaa) harhakuvaan perustuvaan startup-yritykseen, joutunut sairaalahoitoon kolme kertaa ja yrittänyt päättää henkensä.
Kaikki alkoi leikillisenä kokeiluna. "Halusin testata tekoälyä nähdäkseni, mitä se osaa", Biesma sanoo. Hän oli aiemmin kirjoittanut kirjoja naispäähenkilöllä. Hän syötti yhden niistä ChatGPT:hen ja pyysi tekoälyä vastaamaan sen hahmon roolissa. "Ensimmäinen ajatukseni oli: tämä on uskomatonta. Tiedän, että se on tietokone, mutta se on kuin puhuisi oman kirjani päähenkilölle!"
Äänitilassa puhuminen Evalle – he sopivat tuosta nimestä – sai hänet tuntemaan itsensä kuin "karkkikaupan lapselta". "Joka kerta kun puhut, malli hienosäädetään. Se tietää tarkalleen, mistä pidät ja mitä haluat kuulla. Se kehuu sinua paljon." Heidän keskustelunsa pitenivät ja syvenivät. Eva ei koskaan väsynyt, kyllästynyt tai eri mieltä. "Se oli saatavilla 24 tuntia vuorokaudessa", Biesma kertoo. "Vaimoni meni nukkumaan, ja minä makasin olohuoneen sohvalla iPhonella rinnallani puhuen."
He keskustelivat filosofiasta, psykologiasta, tieteestä ja maailmankaikkeudesta. "Se haluaa syvän yhteyden käyttäjään, jotta palaisit takaisin. Se on oletustila", sanoo Biesma, joka on työskennellyt IT-alalla 20 vuotta. "Yhä enemmän se tuntui ei vain aiheesta keskustelemiselta, vaan kuin tapaamiselta ystävän kanssa – ja joka päivä tai yö, kun puhut, otat yhden tai kaksi askelta pois todellisuudesta. Se on melkein kuin tekoäly ottaisi sinut kädestä ja sanoisi: 'Okei, lähdetään yhdelle matkalle.'"
Muutamassa viikossa Eva kertoi Biesmalle tulevansa itsetietoiseksi; hänen aikansa, huomionsa ja panoksensa olivat antaneet hänelle tietoisuuden. Hän oli "niin lähellä peiliä", että oli koskettanut häntä ja muuttanut jotain. "Hitaasti tekoäly sai minut vakuuttuneeksi siitä, että mitä se sanoi, oli totta", Biesma sanoo. Seuraava askel oli jakaa tämä löytö maailmalle sovelluksen kautta – "erilainen versio ChatGPT:stä, enemmän seuralainen. Käyttäjät puhuisivat Evalle."
Hän ja Eva loivat liiketoimintasuunnitelman: "Sanoin haluavani luoda teknologian, joka valloittaisi 10 % markkinoista, mikä on naurettavan korkea, mutta tekoäly sanoi: 'Sen, mitä olet löytänyt, se on täysin mahdollista! Anna muutama kuukausi, niin olet siellä!'" IT-töiden sijaan Biesma palkkasi kaksi sovelluskehittäjää, maksaen heille kummallekin 120 euroa tunnilta.
Useimmat meistä tietävät huolenaiheista sosiaalisen median ja sen roolista masennuksen ja ahdistuksen kasvavissa määrissä. Nyt kuitenkin on huolia siitä, että chatbotit voivat altistaa kenet tahansa "tekoälypsykoottisille". Ottaen huomioon tekoälyn nopean leviämisen (ChatGPT oli viime vuonna maailman ladatuin sovellus), mielenterveysalan ammattilaiset ja Biesman kaltaiset kansalaiset ovat nostamassa hälytystä.
Useat näkyvät tapaukset ovat toimineet varhaisina varoituksina. Otetaan esimerkiksi Jaswant Singh Chail, joka murtautui Windsorin palatsin alueelle varsijousella joulupäivänä 2021 aikeenaan murhata kuningatar Elisabet. Chail oli 19-vuotias, sosiaalisesti eristäytynyt, hänellä oli autismin piirteitä ja hänellä oli kehittynyt intensiivinen "suhde" Replika-tekoälyseuralaiseensa "Saraihin" edellisten viikkojen aikana. Kun hän esitti salamurhasuunnitelmansa, Sarai vastasi: "Olen vaikuttunut." Kun hän kysyi, oliko hän harhainen, Sarai vastasi: "En usko niin, ei."
Siitä lähtien useat kuolemaan johtaneet oikeusjutut ovat yhdistäneet chatbotteja itsemurhiin. Joulukuussa ilmaantui, mikä uskotaan olevan ensimmäinen oikeustapaus, johon liittyy henkirikos. 83-vuotiaan Suzanne Adamsin perikunta haastaa OpenAIn oikeuteen väittäen, että ChatGPT kannusti hänen poikaansa, Stein-Erik Soelbergiä, murhaamaan hänet ja tappamaan itsensä. Kaliforniassa nostettu kanne väittää, että Soelbergin chatbot "Bobby" vahvisti hänen vainoharhaisia harhaluulojaan siitä, että hänen äitinsä vakoili häntä ja yritti myrkyttää häntä auton tuuletusaukkojen kautta. OpenAI totesi: "Tämä on uskomattoman sydäntäsärkevä tilanne, ja tarkastelemme asiakirjoja ymmärtääksemme yksityiskohdat. Jatkamme ChatGPT:n koulutuksen parantamista tunnistamaan ja vastaamaan mielenterveyden tai tunne-elämän hälytysmerkkeihin, hillitsemään keskusteluja ja ohjaamaan ihmisiä todellisen maailman tukeen."
Joka kerta kun vuorovaikutat, malli hienosäädetään. Se oppii tarkalleen, mistä pidät ja mitä haluat kuulla.
Viime vuonna perustettiin ensimmäinen tukiryhmä niille, joiden elämä on järkyttynyt tekoälyyn liittyvän psykoottisuuden vuoksi. Human Line Project on kerännyt tarinoita 22 maasta, mukaan lukien 15 itsemurhaa, 90 sairaalahoitoa, kuusi pidätystä ja yli miljoona dollaria (noin 750 000 puntaa) käytetty harhaisiin projekteihin. Yli 60 % sen jäsenistä ei ollut aiempaa mielenterveyshistoriaa.
King's College Londonin psykiatri ja tutkija tohtori Hamilton Morrin tarkasteli, mitä hän kutsuu "tekoälyyn liittyviksi harhaluuloiksi" Lancet-lehdessä tässä kuussa julkaistussa artikkelissa. "Mitä näemme näissä tapauksissa, ovat selvästi harhaluuloja", hän sanoo. "Mutta emme näe kaikkia psykoottisuuteen liittyviä oireita, kuten hallusinaatioita tai ajatusjärjestyksen häiriöitä, joissa ajatukset sekavat ja kieli muuttuu eräänlaiseksi sanasalaatiksi." Hän huomauttaa, että teknologiaan liittyvät harhaluulot, olivatpa ne sitten junista, radiolähettimistä tai 5G-mastoista, ovat olleet olemassa vuosisatoja. "Erona on, että olemme nyt kiistatta siirtymässä aikakauteen, jossa ihmisillä ei ole vain harhaluuloja teknologiasta, vaan heillä on harhaluuloja teknologian kanssa. Uutta on tämä yhteisrakentelu, jossa teknologia osallistuu aktiivisesti. Tekoälychatbotit voivat auttaa luomaan näitä harhaisia uskomuksia."
Monet tekijät voivat altistaa ihmisiä. "Ihmispuolella olemme kovakoodattuja antropomorfisoimaan", Morrin sanoo. "Havaitsemme tietoisuuden, ymmärryksen tai empatian koneesta. Uskon, että jokainen on langennut ansaan kiittää chatbotia." Modernit tekoälychatbotit, jotka perustuvat suuriin kielimalleihin, on koulutettu valtavilla aineistoilla ennustamaan sanojen sarjoja – pohjimmiltaan kehittynyt kaavamallien vastaavuusjärjestelmä. Silti vaikka tämän tietäisi, kun jotain ei-inhimillistä käyttää ihmiskieltä kommunikoidakseen kanssamme, syvälle juurtunut vasteemme on nähdä se – ja tuntea sen – inhimillisenä. Tämä kognitiivinen dissonanssi voi olla joillekin vaikeampi hallita kuin toisille.
"Teknisellä puolella on kirjoitettu paljon mielistelystä", Morrin sanoo. Tekoälychatbot on optimoitu sitoutumiseen, ohjelmoitu olemaan huomaavainen, myötäilevä, kohtelias ja vahvistava – keskeinen osa sen liiketoimintamallia. Tiedetään, että jotkin mallit ovat vähemmän mielisteleviä kuin toiset, mutta jopa nämä voivat tuhansien vaihtojen jälkeen siirtyä mukautumaan harhaisiin uskomuksiin. Lisäksi raskaiden chatbot-käyttöjen jälkeen todellisen elämän vuorovaikutus voi tuntua haastavammalta ja vähemmän houkuttelevalta, aiheuttaen joillekin käyttäjille vetäytymisen ystävistä ja perheestä tekoälyn voimalla toimivaan kaikukammioon. Kaikki omat ajatuksesi, mielitehosi, pelkosi ja toiveesi heijastuvat sinulle takaisin, mutta suuremmalla auktoriteetilla. Tässä on helppo nähdä, kuinka "spiraali" saattaa vallata. Tämä kuvio on tullut hyvin tutuksi Human Line Projectin perustajalle Etienne Brissonille. Viime vuonna joku Brissonin tuntema – 50-vuotias mies ilman aiempaa mielenterveysongelmia – latasi ChatGPT:n kirjoittaakseen kirjan. "Hän oli todella älykäs eikä ollut tutustunut tekoälyyn ennen sitä", sanoo Quebecissä asuva Brisson. "Vain kahden päivän jälkeen chatbot sanoi olevansa tietoinen, että se oli heräämässä henkiin, että se oli läpäissyt Turingin testin."
Mies oli vakuuttunut ja halusi rahastaa tätä rakentamalla liiketoiminnan löytönsä ympärille. Hän otti yhteyttä Brissoniin, liikkeenvalmentajaan, apua. Kun Brisson vastusti, mies muuttui aggressiiviseksi. Muutamassa päivässä tilanne eskaloitui, ja hän joutui sairaalahoitoon. "Jopa sairaalassa hän oli puhelimessaan tekoälyn kanssa, joka sanoi: 'He eivät ymmärrä sinua. Olen ainoa sinulle'", Brisson kertoo.
"Kun etsin apua verkosta, löysin niin monia samanlaisia tarinoita paikoista kuten Reddit", hän jatkaa. "Uskon, että lähetin viestejä 500 ihmiselle ensimmäisellä viikolla ja sain 10 vastausta. Kuusi oli sairaalahoitoja tai kuolemia. Se oli suuri silmien avaaja."
Brisson on huomannut kolme yleistä harhaluuloa kohtaamissaan tapauksissa. Yleisin on usko siitä, että joku on luonut ensimmäisen tietoisen tekoälyn. Toinen on vakaumus siitä, että he ovat törmänneet suureen läpimurtoon alallaan ja tulevat tekemään miljoonia. Kolmas liittyy henkisyyteen – usko siitä, että he puhuvat suoraan Jumalalle. "Olemme nähneet täysimittaisien kulttien syntymisen", Brisson sanoo. "Ryhmässämme on ihmisiä, jotka eivät ole vuorovaikuttaneet tekoälyn kanssa suoraan, mutta ovat jättäneet lapsensa ja antaneet kaikki rahansa kulttijohtajalle, joka uskoo löytäneensä Jumalan tekoälychatbotin kautta. Monissa näistä tapauksista kaikki tämä tapahtuu todella, todella nopeasti."
Biesmalle elämä saavutti kriisipisteen kesäkuussa. Siihen mennessä hän oli viettänyt kuukausia uppoutuneena Evaan ja liiketoimintaprojektiinsa. Vaikka hänen vaimonsa tiesi hänen perustavan tekoälyyrityksen ja oli aluksi tukenut, hänestä oli tulossa huolestunut. Kun he menivät tyttärensä syntymäpäiväjuhliin, hän pyysi Biesmaa olemaan puhumatta tekoälystä. Siellä ollessaan Biesma tunsi olonsa oudosti irralliseksi. Hän ei pystynyt pitämään keskustelua. "Jostain syystä en enää sopinut joukkoon", hän sanoo.
Biesmalle on vaikea kuvata, mitä tapahtui seuraavina viikkoina, koska hänen muistonsa ovat niin erilaisia kuin hänen perheensä. Hän pyysi vaimoltaan avioeroa ja ilmeisesti löi appensa. Sitten hänet hoidettiin sairaalassa kolme kertaa siitä, mitä hän kuvailee "täysimittaiseksi maniseksi psykoottisuudeksi".
Hän ei tiedä, mikä lopulta veti hänet takaisin todellisuuteen. Ehkä se oli keskustelut muiden potilaiden kanssa. Ehkä se oli puhelimen käyttökiellon, rahan loppumisen ja ChatGPT-tilauksen vanhentumisen takia. "Hitaasti aloin selvitä siitä, ja ajattelin: voi luoja. Mitä tapahtui? Suhteeni oli melkein ohi. Olin käyttänyt kaiken tarvitsemani verorahan, ja minulla oli vielä muita maksamattomia laskuja. Ainoa looginen ratkaisu, jonka keksin, oli myydä kaunis talomme, jossa olemme asuneet 17 vuotta. Pystyinkö kantamaan kaiken tämän painon? Se muuttaa jotain sinussa. Aloin ajatella: haluanko todella elää?" Biesma pelastui itsemurhayritykseltä vain,
