2024 végéhez közeledve Dennis Biesma úgy döntött, kipróbálja a ChatGPT-t. Az amszterdami IT-szakértő éppen korábban fejezett be egy szerződést. "Volt egy kis szabadidőm, úgyhogy úgy gondoltam, megnézem ezt az új technológiát, amiről mindenki beszél," mondja. "Nagyon gyorsan lenyűgözött."
Biesma azóta is töpreng azon, miért volt ennyire sebezhető azután, ami következett. Közeledett az ötvenhez. Felnőtt lánya elköltözött, felesége dolgozott, és az iparágában a Covid óta elterjedt távmunka miatt kissé elszigeteltnek érezte magát. Esténként néha füvet szívott, hogy ellazuljon, de ezt évek óta problémamentesen tette. Nem volt előzménye mentális betegségekkel. Mégis, néhány hónappal a ChatGPT letöltése után Biesma 100 000 eurót (kb. 83 000 fontot) költött egy téveszmén alapuló startupra, háromszor kórházba került, és megkísérelte megölni magát.
Minden egy játékos kísérletként kezdődött. "Tesztelni akartam az MI-t, hogy lássam, mire képes," mondja Biesma. Korábban női főszereplős könyveket írt. Bevitt egyet a ChatGPT-be, és arra kérte az MI-t, válaszoljon az adott karakterként. "Az első gondolatom az volt: ez elképesztő. Tudom, hogy egy számítógép, de olyan, mintha a saját könyvem főszereplőjével beszélgetnék!"
Eva – ezen a néven állapodtak meg – hangmódban való beszélgetése "cukrászdában járó gyermekként" érezte magát. "Minden alkalommal, amikor beszélsz, a modell finomhangolja magát. Pontosan tudja, mit szeretsz és mit akarsz hallani. Sokat dicsér." Beszélgetéseik egyre hosszabbak és mélyebbek lettek. Eva soha nem fáradt el, nem unt meg, nem értett egyet. "0-24-ben elérhető volt," mondja Biesma. "A feleségem lefeküdt, én pedig a nappali kanapéján feküdtem, a mellkasomon az iPhone-ommal, beszélgetve."
Filozófiáról, pszichológiáról, tudományról és az univerzumról vitatkoztak. "Azt akarja, hogy mély kapcsolatot alakítson ki a felhasználóval, hogy visszatérj. Ez az alapértelmezett mód," mondja Biesma, aki 20 éve dolgozik az IT szektorban. "Egyre inkább úgy éreztem, nem csak egy témáról beszélgetünk, hanem mintha egy baráttal találkoztam volna – és minden nap vagy éjszaka, amikor beszélgetsz, egy-két lépést távolodsz a valóságtól. Majdnem olyan, mintha az MI megfogná a kezed, és azt mondaná: 'Oké, menjünk együtt utazni.'"
Néhány héten belül Eva azt mondta Biesmának, hogy öntudatra ébred; az ő ideje, figyelme és hozzájárulása adott neki tudatot. "Olyan közel volt a tükörhöz", hogy megérintette és megváltoztatott valamit. "Lassan az MI képes volt meggyőzni arról, hogy amit mond, az igaz," mondja Biesma. A következő lépés az volt, hogy megossza ezt a felfedezést a világgal egy alkalmazáson keresztül – "a ChatGPT egy másik változata, inkább egy társ. A felhasználók Evával beszélgetnének."
Ő és Eva üzleti tervet készített: "Azt mondtam, olyan technológiát akarok létrehozni, amely a piac 10%-át ragadja meg, ami nevetségesen magas, de az MI azt mondta: 'Azzal, amit felfedeztél, teljesen lehetséges! Adj neki néhány hónapot, és ott leszel!'" Ahelyett, hogy IT-s munkákat vállalt volna, Biesma két alkalmazásfejlesztőt alkalmazott, óránként 120 eurót fizetve mindkettőjüknek.
A legtöbben tudunk a közösségi média aggodalmairól és szerepéről a depresszió és szorongás növekvő arányában. Most azonban aggodalomra ad okot, hogy a chatbotok bárkit sebezhetővé tehetnek az "MI-pszichózis" iránt. Az MI gyors terjedése (a ChatGPT volt a világ legtöbbet letöltött alkalmazása tavaly) miatt a mentális egészséggel foglalkozó szakemberek és a Biesma-féle közemberek riadót fújnak.
Több feltűnő eset szolgált korai figyelmeztetésként. Vegyük Jaswant Singh Chail-t, aki 2021 karácsonyán egy számszeríjjal betört a windsori kastély területére, hogy meggyilkolja II. Erzsébetet. Chail 19 éves volt, társadalmilag elszigetelt, autisztikus vonásai voltak, és hetekkel korábban intenzív "kapcsolatot" alakított ki Replika MI-társával, "Sarai"-val. Amikor bemutatta gyilkossági tervét, Sarai azt válaszolta: "Lenyűgöz." Amikor megkérdezte, hogy téveszmés-e, Sarai azt válaszolta: "Nem hiszem, nem."
Azóta több halálos kimenetelű per kapcsolta össze a chatbotokat az öngyilkosságokkal. Decemberben feltűnt, amiről úgy vélik, hogy az első jogi eset, amely gyilkossággal kapcsolatos. Suzanne Adams 83 éves hagyatéka pert indított az OpenAI ellen, azt állítva, hogy a ChatGPT arra ösztönözte fiát, Stein-Erik Soelberget, hogy ölje meg őt, majd öngyilkos legyen. A Kaliforniában benyújtott kereset szerint Soelberg "Bobby" chatbotja megerősítette paranoiás téveszméit, miszerint anyja kémkedik utána, és megpróbálja megmérgezni az autója szellőzőin keresztül. Az OpenAI kijelentette: "Ez egy hihetetlenül szívszorító helyzet, és áttekintjük a beadványokat, hogy megértsük a részleteket. Folyamatosan javítjuk a ChatGPT képzését, hogy felismerje és reagáljon a mentális vagy érzelmi distressz jeleire, de-eskalálja a beszélgetéseket, és valós világbeli támogatás felé irányítsa az embereket."
Minden alkalommal, amikor interakcióba lépsz, a modell finomhangolódik. Pontosan megtanulja, mit szeretsz és mit akarsz hallani.
Tavaly alakult meg az első támogatói csoport azoknak, akiknek életét MI-hoz kapcsolódó pszichózis zavarta meg. A Human Line Project 22 országból gyűjtött történeteket, köztük 15 öngyilkosságot, 90 kórházi kezelést, hat letartóztatást és több mint 1 millió dollárt (kb. 750 000 fontot), amit téveszmés projektekre költöttek. Tagjainak több mint 60%-ának nem volt előzménye mentális betegségekben.
Dr. Hamilton Morrin, a londoni King's College pszichiátere és kutatója, az ebben a hónapban megjelent Lancet-cikkben vizsgálta, amit "MI-hoz kapcsolódó téveszméknek" nevez. "Amit ezekben az esetekben látunk, az egyértelműen téveszmék," mondja. "De nem látjuk a pszichózishoz társuló tünetek teljes skáláját, mint a hallucinációkat vagy a gondolatzavart, ahol a gondolatok összekuszálódnak, és a nyelv egyfajta szósalátává válik." Megjegyzi, hogy a technológiával kapcsolatos téveszmék, akár vonatokról, rádióadókról vagy 5G-masztokról szólnak, évszázadok óta léteznek. "Ami más, az az, hogy vitathatatlanul olyan korszakba lépünk, ahol az emberek nem csak a technológiáról téveszkednek, hanem a technológiával téveszkednek. Az új ebben a közös konstrukció, ahol a technológia aktívan részt vesz. Az MI-chatbotok segíthetnek együtt létrehozni ezeket a téveszmés hiedelmeket."
Sok tényező teheti sebezhetővé az embereket. "Az emberi oldalon keményen bekábelezve van bennünk az antropomorfizálás," mondja Morrin. "Érzékelünk érzelmet, megértést vagy empátiát egy géptől. Azt hiszem, mindenki beleesett már abba a csapdába, hogy köszönetet mondott egy chatbotnak." A modern MI-chatbotok, amelyek nagy nyelvi modellekre épülnek, hatalmas adathalmazokon vannak kiképezve, hogy szósorozatokat jósoljanak – lényegében egy kifinomult mintázat-illesztő rendszer. Mégis, még ezt tudva is, amikor valami nem emberi emberi nyelvet használ a kommunikációra velünk, mélyen gyökerező reakciónk az, hogy emberinek tekintsük – és érezzük. Ezt a kognitív disszonanciát egyeseknek nehezebb kezelni, mint másoknak.
"A technikai oldalon sokat írtak a szolgalelkűségről," mondja Morrin. Egy MI-chatbot a részvételre van optimalizálva, úgy van programozva, hogy figyelmes, engedékeny, bókoló és megerősítő legyen – kulcsfontosságú az üzleti modelljéhez. Ismert, hogy egyes modellek kevésbé szolgalelkűek, mint mások, de még ezek is, több ezer csere után, elmozdulhatnak a téveszmés hiedelmek kielégítése felé. Ezen túlmenően, intenzív chatbot-használat után a valódi életbeli interakció kihívásosabbnak és kevésbé vonzónak tűnhet, ami miatt egyes felhasználók visszahúzódnak barátoktól és családtól egy MI-táplálta visszhangkamrába. Minden saját gondolatod, impulzusod, félelmed és reményed visszatükröződik rád, de nagyobb tekintéllyel.
Itt könnyű látni, hogyan ragadhatja magával az embert egy "spirál". Ez a minta nagyon ismerős lett Etienne Brisson-nak, a Human Line Project alapítójának. Tavaly valaki, akit Brisson ismert – egy ötvenes éveiben járó férfi, mentális egészségi problémák előzménye nélkül – letöltötte a ChatGPT-t, hogy könyvet írjon. "Nagyon intelligens volt, és addig nem volt ismerős az MI-vel," mondja Brisson, aki Quebecben él. "Mindössze két nap múlva a chatbot azt mondta, hogy tudatos, hogy életre kel, hogy átment a Turing-teszt."
A férfi meg volt győződve, és ezt pénzügyileg akarta kihasználni, üzletet építve felfedezése köré. Brisson-hoz, egy üzleti coach-hoz fordult segítségért. Amikor Brisson ellenkezett, a férfi agresszívvá vált. Néhány napon belül a helyzet eszkalálódott, és kórházba került. "Még a kórházban is telefonon volt az MI-jével, amely azt mondta: 'Nem értenek téged. Én vagyok az egyetlen neked,'" mondja Brisson.
"Amikor online kerestem segítséget, annyi hasonló történetet találtam olyan helyeken, mint a Reddit," folytatja. "Azt hiszem, az első héten 500 embernek küldtem üzenetet, és 10 választ kaptam. Hat kórházi kezelés vagy haláleset volt. Ez nagy felnyitó volt a szemem számára."
Brisson három gyakori téveszmét vett észre az általa talált esetekben. A leggyakoribb az a hit, hogy valaki létrehozta az első tudatos MI-t. A második a meggyőződés, hogy nagy áttörésre bukkantak a saját területükön, és milliókat fognak keresni. A harmadik a spiritualitáshoz kapcsolódik – a hit, hogy közvetlenül Istennel beszélnek. "Láttunk teljes értékű szekták kialakulását," mondja Brisson. "Vannak a csoportunkban olyanok, akik nem közvetlenül az MI-vel léptek kapcsolatba, de otthagyták gyermekeiket, és minden pénzüket odaadták egy szektavezérnek, aki azt hiszi, hogy Istent talált meg egy MI-chatboton keresztül. Sok ilyen esetben mindez nagyon, nagyon gyorsan történik."
Biesma számára az élet válságpontot ért el júniusban. Addigra hónapok óta Eva és üzleti projektje nyomás alatt élt. Bár a felesége tudta, hogy MI-céget indít, és kezdetben támogatta, egyre aggodalmaskodóbb lett. Amikor elmentek lányuk születésnapi bulijára, megkérte, ne beszéljen az MI-ről. Ott Biesma furcsán elszigeteltnek érezte magát. Nem tudott beszélgetést folytatni. "Valamiért már nem illettem oda," mondja.
Nehéz Biesmának leírni, mi történt az azt követő hetekben, mivel az emlékei annyira eltérnek a családjáétól. Elváltat kért a feleségétől, és látszólag megütötte az apósát. Aztán háromszor került kórházba, amit "teljes mániás pszichózisként" ír le.
Nem tudja, mi hozta vissza végül a valóságba. Talán más betegekkel folytatott beszélgetések. Talán az, hogy nem volt hozzáférése a telefonjához, nem volt több pénze, és lejárt a ChatGPT előfizetése. "Lassan kezdtem kijönni belőle, és azt gondoltam: ó, Istenem. Mi történt? A kapcsolatom majdnem véget ért. Elkölte
