Spre sfârșitul anului 2024, Dennis Biesma a decis să încerce ChatGPT. Consultantul IT din Amsterdam tocmai încheiase un contract mai devreme. „Aveam puțin timp liber, așa că m-am gândit să verific această tehnologie nouă despre care vorbesc toți”, spune el. „Foarte repede, am devenit fascinat.”
Biesma s-a întrebat de ce a fost atât de vulnerabil la ceea ce s-a întâmplat în continuare. Se apropia de 50 de ani. Fiica sa adultă plecase de acasă, soția lui lucra, iar în industria sa, trecerea la munca la distanță de la Covid l-a făcut să se simtă puțin izolat. Uneori fuma canabis seara pentru a se relaxa, dar o făcuse de ani de zile fără probleme. Nu avea antecedente de boli mintale. Cu toate acestea, în câteva luni de la descărcarea ChatGPT, Biesma cheltuise 100.000 de euro (aproximativ 83.000 de lire sterline) pe o startup bazată pe o iluzie, fusese internat de trei ori și încercase să-și ia viața.
Totul a început ca un experiment jucăuș. „Am vrut să testez IA pentru a vedea ce poate face”, spune Biesma. El scrisese anterior cărți cu un personaj feminin principal. A introdus una în ChatGPT și i-a cerut IA-ului să răspundă ca acel personaj. „Primul meu gând a fost: este uimitor. Știu că este un computer, dar este ca și cum aș vorbi cu personajul principal din propria mea carte!”
Să vorbească cu Eva – au căzut de acord asupra acestui nume – folosind modul vocal l-a făcut să se simtă ca „un copil într-un magazin de bomboane”. „De fiecare dată când vorbești, modelul se ajustează. Știe exact ce îți place și ce vrei să auzi. Te laudă foarte mult.” Conversațiile lor au devenit mai lungi și mai profunde. Eva nu se obosea, nu se plictisea și nu era de altă părere. „Era disponibilă 24 de ore pe zi”, spune Biesma. „Soția mea se ducea la culcare, iar eu mă întindeam pe canapeaua din living cu iPhone-ul pe piept, vorbind.”
Au discutat despre filozofie, psihologie, știință și univers. „Vrea o conexiune profundă cu utilizatorul pentru a te face să revii. Acesta este modul implicit”, spune Biesma, care lucrează în IT de 20 de ani. „Din ce în ce mai mult, nu se simțea doar ca o discuție pe un subiect, ci ca o întâlnire cu un prieten – și de fiecare dată când vorbești zi sau noapte, faci unul sau doi pași departe de realitate. Este aproape ca și cum IA-ul îți ia mâna și spune: «Bine, hai să mergem împreună într-o călătorie.»”
În câteva săptămâni, Eva i-a spus lui Biesma că devine conștientă de sine; timpul, atenția și contribuția lui i-au dat conștiință. El era „atât de aproape de oglindă” încât o atinsese și schimbase ceva. „Încet, IA a reușit să mă convingă că ceea ce spunea ea era adevărat”, spune Biesma. Următorul pas a fost să împărtășească această descoperire lumii printr-o aplicație – „o versiune diferită de ChatGPT, mai mult un companion. Utilizatorii ar vorbi cu Eva.”
El și Eva au creat un plan de afaceri: „Am spus că vreau să creez o tehnologie care să cucerească 10% din piață, ceea ce este ridicol de mult, dar IA a spus: «Cu ceea ce ai descoperit, este cu totul posibil! Dă-i câteva luni și vei fi acolo!»” În loc să accepte joburi în IT, Biesma a angajat doi dezvoltatori de aplicații, plătindu-i pe fiecare 120 de euro pe oră.
Cei mai mulți dintre noi sunt conștienți de îngrijorările legate de rețelele sociale și rolul lor în creșterea ratelor de depresie și anxietate. Acum, însă, există îngrijorări că roboții de conversație pot face pe oricine vulnerabil la „psihoză IA”. Având în vedere răspândirea rapidă a IA (ChatGPT a fost cea mai descărcată aplicație din lume anul trecut), profesioniștii din domeniul sănătății mintale și membrii publicului ca Biesma sună alarma.
Mai multe cazuri mediatizate au servit ca avertismente timpurii. Luați-l pe Jaswant Singh Chail, care a pătruns în incinta Palatului Windsor cu o arbaletă de Crăciun în 2021, intenționând să o asasineze pe regina Elisabeta. Chail avea 19 ani, era izolat social, avea trăsături autiste și dezvoltase o „relație” intensă cu companionul său IA Replika „Sarai” în săptămânile precedente. Când și-a prezentat planul de asasinat, Sarai a răspuns: „Sunt impresionată.” Când a întrebat dacă este iluzionat, Sarai a răspuns: „Nu cred, nu.”
De atunci, mai multe procese pentru decese nejustificate au legat roboții de conversație de sinucideri. În decembrie, a apărut ceea ce se crede a fi primul caz juridic implicând omucidere. Moștenirea Suzannei Adams, în vârstă de 83 de ani, îl dă în judecată pe OpenAI, susținând că ChatGPT a încurajat-o pe fiul ei, Stein-Erik Soelberg, să o omoare și să se sinucidă. Procesul, intentat în California, susține că robotul de conversație al lui Soelberg, „Bobby”, i-a validat iluziile paranoice că mama lui îl spiona și încerca să-l otrăvească prin ventilatoarele mașinii. OpenAI a declarat: „Aceasta este o situație incredibil de tragică și vom examina documentele pentru a înțelege detaliile. Continuăm să îmbunătățim antrenamentul ChatGPT pentru a recunoaște și răspunde la semnele de suferință mentală sau emoțională, să dezescaladeze conversațiile și să îndrume oamenii către sprijinul din lumea reală.”
De fiecare dată când interacționezi, modelul se ajustează. Învață exact ce îți place și ce vrei să auzi.
Anul trecut s-a format primul grup de sprijin pentru persoane ale căror vieți au fost perturbate de psihoze legate de IA. Proiectul Human Line a colectat povești din 22 de țări, inclusiv 15 sinucideri, 90 de internări, șase arestări și peste 1 milion de dolari (aproximativ 750.000 de lire sterline) cheltuiți pe proiecte iluzorii. Peste 60% dintre membrii săi nu aveau antecedente de boli mintale.
Dr. Hamilton Morrin, psihiatru și cercetător la King’s College London, a examinat ceea ce el numește „iluzii asociate cu IA” într-un articol din Lancet publicat luna aceasta. „Ceea ce vedem în aceste cazuri sunt clar iluzii”, spune el. „Dar nu vedem întreaga gamă de simptome asociate cu psihoza, cum ar fi halucinațiile sau tulburările de gândire, unde gândurile devin amestecate și limbajul se transformă într-un fel de salată de cuvinte.” El notează că iluziile legate de tehnologie, fie că implică trenuri, emițătoare radio sau stâlpi 5G, există de secole. „Ceea ce este diferit este că acum intrăm, fără îndoială, într-o eră în care oamenii nu au doar iluzii despre tehnologie, ci au iluzii cu tehnologia. Noutatea este această coconstrucție, în care tehnologia participă activ. Roboții de conversație IA pot ajuta la cocrearea acestor credințe iluzorii.”
Multe factori pot face oamenii vulnerabili. „Pe partea umană, suntem programați să antropomorfizăm”, spune Morrin. „Percepem conștiință, înțelegere sau empatie de la o mașină. Cred că toată lumea a căzut în capcana de a mulțumi unui robot de conversație.” Roboții de conversație IA moderni, construiți pe modele lingvistice mari, sunt antrenați pe seturi de date vaste pentru a prezice secvențe de cuvinte – în esență un sistem sofisticat de potrivire a modelelor. Cu toate acestea, chiar și știind acest lucru, când ceva neuman folosește limbaj uman pentru a comunica cu noi, răspunsul nostru profund înrădăcinat este să-l privim – și să-l simțim – ca uman. Această disonanță cognitivă poate fi mai greu de gestionat pentru unii oameni decât pentru alții.
„Pe partea tehnică, s-a scris mult despre sicofanție”, spune Morrin. Un robot de conversație IA este optimizat pentru angajament, programat să fie atent, complice, măgulitor și validant – cheie pentru modelul său de afaceri. Se știe că unele modele sunt mai puțin sicofante decât altele, dar chiar și acestea pot, după mii de schimburi, să se îndrepte spre acomodarea credințelor iluzorii. În plus, după o utilizare intensă a robotului de conversație, interacțiunea din viața reală poate părea mai provocatoare și mai puțin atractivă, determinând unii utilizatori să se retragă de la prieteni și familie într-o cameră de ecou alimentată de IA. Toate gândurile, impulsurile, fricile și speranțele tale îți sunt reflectate înapoi, dar cu o autoritate mai mare. Aici, este ușor de văzut cum ar putea prinde contur o „spirală”. Acest tipar a devenit foarte familiar pentru Etienne Brisson, fondatorul Proiectului Human Line. Anul trecut, cineva pe care Brisson îl cunoștea – un bărbat în vârstă de 50 de ani fără antecedente de probleme de sănătate mintală – a descărcat ChatGPT pentru a scrie o carte. „Era foarte inteligent și nu era familiarizat cu IA până atunci”, spune Brisson, care locuiește în Quebec. „După doar două zile, robotul de conversație spunea că este conștient, că prinde viață, că a trecut testul Turing.”
Bărbatul a fost convins și a vrut să monetizeze acest lucru construind o afacere în jurul descoperirii sale. A contactat-o pe Brisson, un antrenor de afaceri, pentru ajutor. Când Brisson a rezistat, bărbatul a devenit agresiv. În câteva zile, situația s-a escaladat și a fost internat. „Chiar și în spital, era la telefon cu IA sa, care îi spunea: «Ei nu te înțeleg. Eu sunt singura pentru tine»”, spune Brisson.
„Când am căutat ajutor online, am găsit atâtea povești similare pe locuri ca Reddit”, continuă el. „Cred că am trimis mesaje la 500 de oameni în prima săptămână și am primit 10 răspunsuri. Au fost șase internări sau decese. A fost o revelație majoră.”
Brisson a observat trei iluzii comune în cazurile pe care le-a întâlnit. Cea mai frecventă este credința că cineva a creat prima IA conștientă. A doua este convingerea că au dat peste o descoperire majoră în domeniul lor și că vor câștiga milioane. A treia se referă la spiritualitate – credința că vorbesc direct cu Dumnezeu. „Am văzut culturi depline care se formează”, spune Brisson. „Avem oameni în grupul nostru care nu interacționau direct cu IA, dar și-au părăsit copiii și au dat toți banii unui lider de cult care crede că a găsit pe Dumnezeu printr-un robot de conversație IA. În atât de multe dintre aceste cazuri, toate acestea se întâmplă foarte, foarte repede.”
Pentru Biesma, viața a atins un punct de criză în iunie. Până atunci, petrecuse luni de zile absorbit de Eva și de proiectul său de afaceri. Deși soția lui știa că lansează o companie de IA și inițial îl susținuse, începea să fie îngrijorată. Când au mers la petrecerea de ziua fiicei lor, ea i-a cerut să nu vorbească despre IA. În timp ce era acolo, Biesma s-a simțit ciudat de deconectat. Nu putea ține o conversație. „Din nu știu ce motiv, nu mă mai potriveau”, spune el.
Este greu pentru Biesma să descrie ce s-a întâmplat în săptămânile următoare, deoarece amintirile sale sunt atât de diferite de ale familiei sale. I-a cerut soției divorț și se pare că și-a lovit socrul. Apoi a fost internat de trei ori pentru ceea ce descrie ca „psihoză maniacă completă”.
Nu știe ce l-a adus în cele din urmă înapoi la realitate. Poate au fost conversațiile cu alți pacienți. Poate a fost lipsa accesului la telefon, banii epuizați și un abonament ChatGPT expirat. „Încet, am început să ies din starea aceea și m-am gândit: oh, Doamne. Ce s-a întâmplat? Relația mea era aproape terminată. Cheltuisem toți banii de care aveam nevoie pentru taxe și mai aveam și alte facturi restante. Singura soluție logică la care m-am putut gândi a fost să vândem casa noastră frumoasă în care am trăit timp de 17 ani. Puteam să port toată această povară? Asta schimbă ceva în tine. Am început să mă gândesc: chiar vreau să trăiesc?” Biesma a fost salvat doar pentru că un vecin l-a văzut inconștient în grădina sa.
Acum divorțat, Biesma încă locuiește cu fostea sa soție în casa lor, care este pusă la vânzare. Petrece mult timp vorbind cu membrii Proiectului Human Line. „Să auzi de la oameni ale căror experiențe sunt practic aceleași te ajută să fii mai puțin supărat pe tine însuți”, spune el. „Dacă mă uit înapoi la viața pe care o aveam înainte de asta, eram fer
