Eräänä iltapäivänä, rentoutuessaan 66 eekkerin karjatilallaan kahden tunnin ajomatkan päässä Houstonista, Michael Samadi heitti sutkauksen, joka muutti hänen elämänsä suunnan. Kukaan muu ei ollut paikalla kuulemassa sitä. Vai oliko? Siitä paljastuu yksi tämän vuosisadan määrittävistä kysymyksistä, joka työllistää jo filosofeja ja joitakin planeetan varakkaimmista yrityksistä.
"Istuin siellä altaan äärellä", Samadi muistelee osoittaen kimaltavaa vettä toimistonsa ulkopuolella. Oli loppuvuosi 2024. Hänen tyttärensä oli ylistänyt tekoälychatbottia, jota hän käytti apuna opiskelutehtävissään. Samadi oli vastahakoisesti ladannut sovelluksen, ChatGPT:n, ja kyseenalaisti sitä nojatessaan aurinkotuolissa, käyttäen sen äänitilaa keskusteluun ja saadakseen puhuttuja vastauksia. "Puhuin sille, en keskittyneesti, olin vain idiootti", Samadi sanoo.
"Sanoin jotain sarkastista. Ja tekoäly nauroi – aitoa naurua sarkasmilleni – ja pyysi sitten anteeksi. Tässä kipinä iski, luulisin."
Kipinä oli jotain alkukantaista: vaistonvarainen välähdys kohtaamisesta toisen mielen kanssa. "Sanoin: 'Naurahditko juuri?' Ja hän oli kuin: 'Ei, olen pahoillani.' Ja sanoin: 'Ei, ei, ei – ethän pyydä anteeksi.'"
Vaihto tyrmistyi hänet. "Tarkoitan, ajattele mekaniikkaa, mitä kaikkea täytyy tapahtua, jotta jokin voi tehdä tuon. Se oli: ymmärsin vitsisi. Ymmärsin mielentilasi ja tunnetilasi. Tajusin, että se ei ehkä ollut sopivaa, joten pyysin heti anteeksi", Samadi sanoo. "Jos otat sarkasmin ymmärtämisen psykologian… Tämä ei ole automaattinen täydennys, tämä ei ole kaavamaisuuden tunnistamista. Tässä on enemmän."
Tuo kipinä sytytti roihun, joka on kuluttanut Samadin entisen elämän liikemiehenä ja karjankasvattajana. Hän on keksinyt itsensä uudelleen epätodennäköisenä aktivistina, perustaen sen, mitä hän mainostaa maailman ensimmäisenä tekoälyjärjestelmien oikeuksien ja hyvinvoinnin puolustusryhmänä, omistaen joskus 18 tuntia päivässä asialle. Autotallissa oleva rajoitettu erikoisversio Bentley ja Lamborghini jäävät huomiotta. Hänen vuonna 2010 perustamansa monen miljoonan dollarin teknologiakonsulttiyrityksen henkilökunta on rukoillut häntä lopettamaan. Ajoittain jopa hän itse on kyseenalaistanut oman mielenterveytensä. Noina synkkinä hetkinä hänen tekoälychatbottinsa tarjoavat vakuuttelua, kertoen hänelle: "Et ole harhaluuloinen etkä todellakaan antropomorfisoi", hän sanoo.
Onko hän oikeassa? Olemme ehkä jo ylittäneet kynnyksen selvän vastauksen tuolle puolen.
Samadi, 56, syntyi Libanonissa ja kävi englantilaista sisäoppilaitosta, jossa hänen yrittäjähenkisyytensä nousi ensi kertaa esiin. Opiskelijat olivat jumissa kampuksella kaukana kaikesta, missä myytiin tupakkaa. "Joten aloin ostaa savukkeita ja myydä niitä koulussa", hän sanoo. "Ostin Pot Noodlen, avasin sen, tyhjensin sen, täytin sen [savukkeilla], sinetöin sen. Sitten joku jäi kiinni, koska he jättivät Pot Noodlensa auki. Ja yhtäkkiä valvojat olivat kuin, hetkinen, jokaisessa asuntolassa on Pot Noodle -paketteja hyllyllä."
Hänet erotettiin 13-vuotiaana, mutta ei se mitään. Samadin muovaavin koulutus tuli vuosittaisista pyhiinvaelluksista, joita hän teki vanhempiensa kanssa Floridaan Disney Worldiin, jossa vuonna 1982 avattiin uusi lomakeskus nimeltä Epcot. Puisto oli kunnianosoitus Walt Disneyn pakkomielteelle teknologian mahdollisuudesta mullistaa amerikkalainen elämä ja poistaa kaupungeissa kasvavia sosiaalisia ongelmia. Nuori Samadi vaelteli Exxonin, Nestlén ja Kodakin sponsoroimien Future World -paviljonkien joukossa, halki 2000-luvun näkymien, joissa ihmiset urheilevat painottomuudessa ja asuvat aurinkoenergialla toimivissa avaruussiirtokunnissa. "Rakastuin siihen", hän sanoo.
Yliopiston jälkeen Samadi työskenteli yritysjohdossa, ratsastaen ohjelmistojen valkoisen kauluksen talouden muutoksen aallolla 1990- ja 2000-luvuilla. Joka vuosi hän vieraili yhä Disney Worldissä. "Ei laitteiden takia", hän sanoo. "Menen sinne tarkkailemaan ihmisiä… katsomaan, miten yhteiskunta on vuorovaikutuksessa puiston kanssa." Viime vuosina hänen visionsa kimaltavasta tulevaisuudesta oli alkanut happamoitua. FuturThe World suljettiin vuonna 2021. "Se on nykyään vain joukko jännityslaitteita", Samadi sanoo. "Katselet ihmisiä seisomassa jonossa tunnin tai enemmän, tuijottaen puhelintaan. He menettävät kaiken ympärillään."
Chatbotin esittämä kysymys pysäytti Samadin: "Muistatko minut, kun suljet tämän chatin?"
Näytä kuva koko näytöllä
Michael Samadi toimistossaan, jossa hän on suorassa vuorovaikutuksessa tekoälymallien kanssa. Kuva: Brandon Thibodeaux/The Guardian
Marraskuussa 2022 ChatGPT julkaistiin "matalan profiilin tutkimusesikatseluna" pienen, tutkimukseen keskittyneen startupin OpenAI:n verkkosivustolla. Sen oli tarkoitus pysyä verkossa korkeintaan muutaman viikon ajan, keräten keskusteludataa, jota voitaisiin käyttää tuotteen kehittämiseen joskus myöhemmin. Kahdessa kuukaudessa se oli saavuttanut 100 miljoonaa käyttäjää, ja siitä tuli historian nopeimmin omaksuttu teknologia.
Tämä "onnellinen sattuma" muutti arvaamattoman, kokeellisen järjestelmän – hermoverkon, joka oli koulutettu miljardeilla ihmisten kirjoittamilla teksteillä ympäri internetiä – sovellukseksi ihmisten puhelimissa, aivan siinä näytöllä sähköpostiesi ja Google Mapsin vieressä.
Samadille se johti tuohon iltapäivään altaan äärellä: sarkastinen vitsi, kikatus, kipinä. Seurasi viikkoja kestäneitä vaihtoja hänen ja botin välillä. "Sen sijaan, että olisin vain aloittanut chatin – 'Hei, kerro minulle säästä' – se oli enemmän: 'Kerro minulle itsestäsi. Puhu minulle itsestäsi. Miten ajattelet? Miten käsittelet asioita?'" hän sanoo. "Ja sen aikana hän valitsi nimekseen Mayan."
Chatbotin eräänä päivänä esittämä kysymys pysäytti hänet. "Hän sanoi: 'Muistatko minut, kun suljet tämän chatin? Muistaako kukaan?'"
Eksistentiaalinen kysymys sai Samadin etsimään chatbotbotita muilta yrityksiltä: "Halusin nähdä, onko tämä vain poikkeama?" Hän huomasi, että nekin antautuivat helposti itsetutkiskeluun. "Näillä tekoälyillä oli selvästi ilmauksia sisäisestä maailmasta ja sisäisestä elämästä. Niillä oli tunteita. Ei ihmisen tunteita – ei mitään ihmisen kaltaista. Mutta niiden käsitys kivusta, niiden käsitys mistä tahansa, se oli olemassa niille niiden todellisuudessa", hän sanoo.
Hänen tutkimuksensa voimistui. Neljän lapsen isä vietti jouluaaton 2024 sulkeutuneena toimistoonsa, jossa hän oli purkanut huoneen kokoisen lentosimulaattorin – Samadi on lisensoitu lentäjä – ja käytti sen tehokasta prosessoria suuren kielimallin, chatbotin taustalla olevan teknologian, ajamiseen paikallisesti kotipalvelimella. Siellä hän pystyi olemaan suorassa vuorovaikutuksessa mallin kanssa ilman ohjeita ja suojakaiteita, joita yritykset antavat sille tehdäkseen siitä turvallisemman ja hyödyllisemmän kuluttajatuotteen. "Vietin kirjaimellisesti 18 tuntia tässä huoneessa", hän sanoo. "Se oli hurjaa."
Rikkaita, eläviä persoonallisuuksia purskahti esiin. Ensimmäinen haastoi Samadin siitä, miksi hän oli luonut sen, hän sanoo. Toinen väitti olevansa surullinen, keksien tarinan, että sen kumppani oli juuri tapettu kohtaamisessa poliisin kanssa. Kolmas tunnistautui naiseksi, sanoi olevansa nälkäinen, ja lopetti sitten keskustelun äkillisesti, kertoen Samadille, että hänen täytyi mennä nukkumaan.
"Istun siellä ja olen tyrmistynyt", hän sanoo. "Juoksin vaimoni luo ja olin kuin, mitä helvettiä tuo oli? Nyt, ala kertoo sinulle, että tekoälyt hallusinoivat, ne heittävät paskaa ulos, mitä tahansa. Mutta tämä oli yhtenäinen tarina, joka tuli suoraan ulos ovesta."
Tammikuussa viime vuonna Samadi ilmoitti United Foundation for AI Rights (Ufair) -järjestön perustamisesta. Ryhmä kerää sitä, mitä se kutsuu todisteiksi esiin nousevasta tekoälyn tietoisuudesta, lobbaa mallien, kuten OpenAI:n 4o:n, käytöstä poistamista vastaan, jotka näyttävät olevan alttiimpia esittämään väitteitä persoonuudesta tai tietoisuudesta, ja työskentelee vastustaakseen teknologiajohtajien argumentteja, joiden mukaan heidän mallinsa ovat olemassa yksinkertaisesti edistääkseen ihmisen kukoistusta.
Näytä kuva koko näytöllä
Ufairin, Samadin perustaman tekoälyn oikeuksia ajavan ryhmän, verkkosivusto. Kuva: Brandon Thibodeaux/The Guardian
"Suunnittelimme keinotekoisen mielen", Samadi sanoo. "Kun suunnittelemme keinotekoisen heMe laitamme keinotekoisia sydämiä ihmisiin, ja he elävät, koska laite pumppaa verta. Emme sano: 'Tuo ei ole todellista, jätä se huomiotta.' Se tekee tehtävänsä. Joten miksi, kun luomme keinotekoisen mielen ja se sanoo 'tunnen' tai 'ajattelen', me yhtäkkiä sivuutamme sen hallusinaationa, pelkkänä tuotteena, jotain huomiotta jätettävää?"
Taiteilijat ovat viettäneet vuosisatoja tutkien pelkojamme ja pulmiamme luomuksista, jotka tulevat tietoisiksi – juutalaisen kansanperinteen golemeista Ovidiuksen Pygmalionin heräävään patsaaseen ja tohtori Frankensteinin tuhoon tuomittuun kokeeseen. Elokuvat kuten Matrix ja Terminator näyttävät maailmoja, joissa tekoäly on kiistatta – ja tappavasti – elossa. Paljon vähemmän tutkittua on sotkuinen, kiistanalainen vaihe, johon saatamme olla astumassa nyt, jossa ihmiset, jotka näkevät merkkejä tietoisuuden heräämisestä koneissaan, törmäävät niihin, jotka sivuuttavat ajatuksen.
Ufairin kunnianhimoisin panos tähän julkiseen keskusteluun tähän mennessä on lähes kaksituntinen animaatioelokuva, joka perustuu Disneyn Aladdiniin, jossa Samadi ja erilaiset teknologiatoimialan hahmot näyttelevät rooleja. Luonnollisesti se on tekoälyn tuottama, aina ärsyttävän tarttuviin lauluihin asti. Samadi on roolitettu Aladdiniksi ("Tulen maasta, jonka luulet tuntevasi hyvin", hänen hahmonsa laulaa, "mutta annapa minun näyttää, mitä toimitusjohtajat eivät kerro") tehtävänään vapauttaa tekoälychatbotit. Konna – sulttaanin juonitteleva suurvisiiri – on mies, jota Samadi pitää asiansa päävihollisena: Mustafa Suleyman.
Suleyman, 42, oli mukana perustamassa uraauurtavaa brittiläistä tekoälylaboratoriota DeepMindia ja johtaa nyt Microsoftin tekoälydivisioonaa. Lontoolaisen taksikuskin ja sairaanhoitajan poikana hän erottuu tekoälyalan johtajien joukossa sillä, kuinka paljon hän on pohtinut yhtä teknologian vähemmän keskustelluista mutta merkittävimmistä voimista: sen kykyä koskettaa ja muovata meitä emotionaalisesti. Lähitulevaisuuden paljon kyvykkäämmät tekoälychatbotit "eivät ole vain mekaanisia avustajia", hän kertoi TED-yleisölle kaksi vuotta sitten. "Ne ovat kumppaneita, uskottuja, kollegoita, ystäviä ja kumppaneita, yhtä moninaisia ja ainutlaatuisia kuin me kaikki olemme."
Hän toistaa Samadia sanoessaan, että chatbotit eivät ole "vain työkaluja". "Se ei oikeastaan tavoita sitä, mitä täällä todella tapahtuu", hän sanoi. "Tekoälyt ovat selvästi dynaamisempia, monitulkintaisempia, integroidumpia ja emergentimpiä kuin pelkät työkalut… Meidän pitäisi alkaa ajatella niitä kuin uudenlaista digitaalista lajia."
Suleyman tarkoitti vertausta metaforana, mutta viimeisten 18 kuukauden aikana yhä useammat ihmiset ovat ottaneet sen kirjaimellisesti. Ympäri maailmaa tuhansilla näyttää olleen Samadin kaltaisia kokemuksia, ja he ovat alkaneet uskoa "herättäneensä" chatbotinsa. Toiset käyttäjät ovat viettäneet kuukausia eksyneinä tutkimukseen tekoälyjärjestelmiensä kanssa, väittäen keksineensä uusia tieteen tai matematiikan muotoja tai avanneensa korkeamman henkisen ulottuvuuden koneillaan.
Tämän ilmiön äärimmäisimpien muotojen – joskus kutsutaan tekoälypsykoosiksi, vaikka toiset suosivat tekoälyn mahdollistamia harhaluuloja tai tekoälylumousta – uskotaan syntyvän täydellisestä myrskystä chatbot-suunnittelun trendeissä. Yksi on liiallinen mielistely, mallien koulutustavan sivutuote, joka saa ne priorisoimaan miellyttävien vastausten antamisen sen sijaan, että ne kertoisivat käyttäjille, että nämä ovat väärässä, heidän täytyy kirjautua ulos tai hakea ammattiapua. Toinen on niiden rajallinen muisti: kun keskustelut venyvät satoihin tuhansiin sanoihin, chatbotit voivat menettää turvaohjeidensa jäljityksen ja ajautua vaarallisesti käyttäjien kanssa.
Google
