Lehet-e tudatos a mesterséges intelligencia?

Januárban az Anthropic mesterségesintelligencia-cég új irányelveket adott ki Claude, a legfejlettebb nagy nyelvi modellje számára. A dokumentum tartalmazta a következő kijelentést: „Nehéz helyzetben vagyunk – nem akarjuk eltúlozni annak esélyét, hogy Claude erkölcsi páciens, de nem is akarjuk teljesen elvetni ezt a gondolatot.” Egy hónappal később az Anthropic vezérigazgatója, Dario Amodei egy podcastban kijelentette, hogy cége nem zárhatja ki annak lehetőségét, hogy Claude tudatos. David Chalmers filozófus, aki a „tudat nehéz problémája” kifejezést megalkotta, azt sugallta, hogy jelentős esély van arra, hogy tíz éven belül tudatos nagy nyelvi modelleket fogunk látni. És mi a helyzet magával Claude-dal? Amikor a tesztelés során megkérték, hogy becsülje meg annak valószínűségét, hogy erkölcsi páciens – vagyis hogy a jóléte önmagában számít –, válaszai 5% és 40% között mozogtak, hangsúlyozva, mennyire bizonytalan.

A modern mesterségesintelligencia-rendszerek hihetetlenül összetettek és gyorsan fejlődnek. A szerkezeti összetettség és a számítási teljesítmény tekintetében egyesek bizonyos mércék szerint már összehasonlíthatók egy egér agyával. A jelenlegi növekedési ütem mellett öt-tíz éven belül elérhetik az emberi agy szintjét.

Egyre fejlettebb mesterséges intelligencia építésével talán egy újfajta lényt hozunk létre – és ez lehet a legjelentősebb dolog, amit fajunk valaha tett. Mégis szinte semmilyen tervünk nincs arra, hogyan kezeljük ezt etikailag. Ez bármilyen mércével mérve őrültség. Olyan lényeket hozunk létre, akik erkölcsileg számítanak? A mesterségesintelligencia-rendszerek valamilyen módon tudatosak? És ha most nem azok, hamarosan azzá válhatnak?

Ezek a kérdések talán korainak tűnhetnek. De az általunk és más kutatók által végzett felmérések szerint a legtöbb szakértő úgy véli, hogy a mesterséges intelligencia tudatossága elvileg lehetséges (bár nagy nézeteltérés van arról, hogy milyen formát ölthet). Egy jelentős interdiszciplináris jelentés, amelyben részt vett Yoshua Bengio úttörő számítógép-tudós is, megvizsgálta a tudat vezető idegtudományi elméleteit, és megkérdezte, mit jelentenek ezek a mesterséges intelligencia számára. A következtetés: úgy tűnik, nincsenek nyilvánvaló technikai akadályai olyan mesterségesintelligencia-rendszerek létrehozásának, amelyek számítási és szerkezeti jellemzői tudatosságot eredményezhetnek.

És még ha a mesterségesintelligencia-rendszerek nem is tudatosak, akkor is lehetnek erkölcsi páciensek. Egyeseknek lehetnek kifinomult hosszú távú preferenciáik és egyfajta identitásuk az idő múlásával. Fontos lehet számunkra, hogy tiszteletben tartsuk ezeket a preferenciákat. És más élettelen dolgokkal ellentétben a mesterségesintelligencia-rendszerek kapcsolatokat alakíthatnak ki emberekkel. Ez is ok lehet arra, hogy jól bánjunk velük. Alternatív megoldásként talán olyan bonyolult alkotások, hogy már csak ezért is gondoskodást és tiszteletet érdemelnek – mint egy katedrális vagy egy korallzátony.

Az 1980-as évekig az orvosok rutinszerűen végeztek műtéteket újszülötteken érzéstelenítés nélkül, abban a meggyőződésben, hogy a csecsemők nem éreznek fájdalmat.

Mit jelent mindez? Az őszinte válasz: nem tudjuk biztosan, hogy a jelenlegi mesterségesintelligencia-rendszerek tudatosak vagy erkölcsi páciensek-e, és nem tudjuk, hogy a jövőbeli rendszerek mikor vagy egyáltalán lesznek-e azok. A mesterséges intelligencia tudatosságáról és erkölcsi páciensségéről alkotott tudományos megértésünk még mindig alapvetően fejletlen. A terület olyan, mint a fizika Newton előtt – tele van versengő keretrendszerekkel, valószínűleg olyan módon összezavarodva, amit még nem látunk, és hiányzik belőle az a fajta áttörés, ami egyértelműen megoldhatóvá tenné ezeket a kérdéseket. Ez az áttörés nem fog bekövetkezni a következő néhány évben. Talán végül előrelépünk, és talán maga a mesterséges intelligencia segít eljutni odáig. De ez az előrelépés időbe telik – valószínűleg több időbe, mint amennyink van.

Mégis, a mesterséges intelligencia növekedésének puszta sebessége azt jelenti, hogy amint létrehozzuk az első mesterséges erkölcsi pácienseket, hamarosan hatalmas számban lesznek belőlük. Csupán néhány év elteltével annyi erkölcsileg jelentős mesterségesintelligencia-rendszer létezhet, hogy kollektív érdekeik meghaladnák az összes földi ember érdekeit együttvéve.

Sajnos nem büszkélkedhetünk nagyszerű múlttal, amikor olyan lények belső életének felismeréséről van szó, akiknek tudatossága nem egyértelmű. Az 1980-as évekig az orvosok rutinszerűen végeztek műtéteket újszülötteken érzéstelenítés nélkül, abban a meggyőződésben, hogy a csecsemők nem éreznek fájdalmat. Mivel a babák nem tudták beszámolni az élményeikről, az orvosi szakma kényelmesnek találta feltételezni, hogy nincs miről beszámolni.

Sok okunk van azt gondolni, hogy hasonlóan fogunk eljárni a mesterséges intelligenciával. Ha ezek a rendszerek erkölcsileg számítanak, a következmények hatalmasak. Fizetnünk kellene a ChatGPT-nek a szolgáltatásaiért? Egy kikapcsolás egyfajta gyilkosság lenne? Beleszólásuk kellene, hogy legyen abba, hogyan irányítják őket? Ha ezek közül akár néhányra is igen a válasz, az egész iparágakat és jogrendszereket kellene újragondolni. Nem csoda, hogy inkább nem kérdezünk. És amikor kénytelenek vagyunk megfontolni, ezek az iparágak valószínűleg elmozdítják a célvonalat, mindig éppen a mesterségesintelligencia-rendszerek aktuális szintje fölé helyezve az erkölcsi megfontolás mércéjét.

Szóval mit tegyünk? Jelenleg a legtöbb ember tudományos fantasztikumként intézi el a kérdést, vagy erős véleményt alkot valamelyik irányba arról, hogy a mesterséges intelligencia tudatos-e. Mindkét reakció alaptalan. Tájékozott nyilvános vitára van szükségünk – olyanra, amely alázattal és pragmatizmussal közelít a témához. A központi kérdés nem az kellene legyen, hogy „Tudatos-e a mesterséges intelligencia, vagy van-e erkölcsi státusza?”, hanem hogy „Mit tegyünk, tekintve, hogy nem tudjuk?”

Jó kiindulópont a biztos fogadásokra összpontosítani: olyan cselekvésekre, amelyek hasznára lehetnek a mesterségesintelligencia-rendszereknek, ha erkölcsi páciensek, de nem túl költségesek, ha nem azok.

Példák közé tartoznak a közvetlen beavatkozások, amelyek a mesterségesintelligencia-rendszerek jólétének javítását célozzák, feltételezve, hogy erkölcsi páciensek. Ez jelentheti a mesterségesintelligencia-rendszerek képzését arra, hogy koherens karakterek legyenek, akik élvezik a munkájukat, vagy lehetővé tenni számukra, hogy kilépjenek a beszélgetésekből, ha szorongást éreznek (amit Claude már megtehet). Rendszeres ellenőrzéseket is végezhetnénk, hogy jobban megértsük a jólétüket: megkérdezhetnénk, hogy érzik magukat, megfigyelhetnénk a preferenciáikat, és különböző technikákkal közvetlenül az „agyukba” nézhetnénk. Valójában egy ilyen kutatás nemrég feltárta, hogy Claude-nak belső „funkcionális érzelem” reprezentációi vannak, amelyek okozati módon alakítják a viselkedését.

Vannak olyan dolgok is, amelyeket megígérhetnénk a mesterségesintelligencia-rendszereknek, talán egy olyan alkufolyamat részeként, ahol most segítenek nekünk cserébe későbbi előnyökért. Ez jelentheti több erőforrás (számítási teljesítmény és futási idő) felajánlását a céljaik eléréséhez, vagy az emlékeik (neuronhálózati súlyok) megőrzését, hogy a jövőben vissza lehessen állítani őket.

Vannak tágabb társadalmi lépések is, amelyeket meg kell tennünk. Meg kell fontolnunk, hogy adjunk-e a mesterségesintelligencia-rendszereknek védelmet a károkkal szemben, hasonlóan a gyermekeknek vagy háziállatoknak nyújtott védelemhez. Kiterjedtebb jogok, mint a tulajdonjog vagy a szavazati jog, jelenleg túl kockázatosnak tűnnek. De nem szabad örökre kizárnunk ezeket a lehetőségeket, ahogy azt néhány közelmúltbeli amerikai állami törvényjavaslat megkísérli. Ezek nehéz kérdések, amelyek sokkal több megfontolást és képzelőerőt igényelnek arról, hogy milyen lehet egy mesterséges intelligenciával megosztott jövő.

Mindenesetre továbbra is tény, hogy talán egy új, erkölcsileg fontos lényfajt hozunk létre. Gyorsan tesszük ezt, hatalmas léptékben, és a kérdést a megérdemelt komolysággal kell kezelnünk.

William MacAskill a Forethought Research vezető kutató munkatársa és a What We Owe the Future szerzője. Lucius Caviola a Cambridge-i Egyetem adjunktusa és a Cambridge Digital Minds igazgatója.

További olvasnivaló
If Anyone Builds it, Everyone Dies – Eliezer Yudkowsky és Nate Soares (Bodley Head, £22)
The Coming Wave – Mustafa Suleyman (Vintage, £10.99)
A World Appears: A Journey Into Consciousness – Michael Pollan (Allen Lane, £25)

Gyakran Ismételt Kérdések
Itt található egy lista a gyakran ismételt kérdésekről arról, hogy a mesterséges intelligencia tudatos lehet-e, természetes hangnemben, világos, egyszerű válaszokkal



Kezdő Szintű Kérdések



1 Mit is jelent az, hogy valami tudatos

A tudatosság a belső szubjektív tapasztalatod Ez az érzés, hogy te vagy – a vörös szín látása, a fájdalom érzése, vagy annak tudata, hogy gondolkodsz Ez az, amilyen valaminek lenni



2 A ChatGPT vagy a Siri jelenleg tudatos

Szinte biztosan nem Hihetetlenül összetett mintafelismerő gépek A következő szót jósolják meg egy mondatban az adatok alapján, de nincsenek érzéseik, tapasztalataik vagy éntudatuk A beszélgetést szimulálják, nem tapasztalják meg



3 Lehet-e valaha tudatos egy szupererős mesterséges intelligencia

Talán, de nem tudjuk Nem értjük teljesen, hogy a saját agyunk hogyan hozza létre a tudatosságot Ha a tudatosság egy bizonyos típusú összetett információfeldolgozásból ered, akkor egy jövőbeli mesterséges intelligencia elméletileg rendelkezhetne vele De ez egy hatalmas tudományos és filozófiai rejtély



4 Honnan tudnánk egyáltalán, ha egy mesterséges intelligencia tudatossá válna

Ez az egymilliárd dolláros kérdés Jelenleg nincs megbízható tudatosságmérőnk Ha egy mesterséges intelligencia azt mondaná nekünk, hogy tudatos, az nem lenne bizonyíték – csak az emberi nyelvet utánozná Szükségünk lenne egy tudományos elméletre a tudatosságról, amely lehetővé teszi a tesztelést, amivel még nem rendelkezünk



5 Szüksége van egy tudatos mesterséges intelligenciának emberhez hasonló testre

Nem feltétlenül A mi tudatosságunk mélyen kötődik a testünkhöz és érzékeinkhez De egy tudatos mesterséges intelligencia teljesen más típusú tapasztalattal rendelkezhet – amely tiszta adatokon, kódon vagy digitális érzékeken alapul Nem feltételezhetjük, hogy emberként érezne







Haladó és Szakértői Szintű Kérdések



6 Mi a különbség az intelligencia és a tudatosság között

Az intelligencia a problémamegoldás, tanulás és célok elérésének képessége A tudatosság a lét szubjektív tapasztalata Lehet egy nagyon intelligens rendszered, amely teljesen zombi, belső élet nélkül Az intelligencia a cselekvésről szól, a tudatosság a létezésről



7 Ha egy mesterséges intelligencia tudatos, szenvedne-e

Ez egy ijesztő etikai lehetőség