I januar ga AI-selskapet Anthropic ut et nytt sett med retningslinjer for Claude, deres mest avanserte store språkmodell (LLM). Dokumentet inneholdt denne uttalelsen: «Vi er i en vanskelig situasjon – vi ønsker ikke å overdrive sjansen for at Claude er en moralsk pasient, men vi ønsker heller ikke å avvise ideen helt.» En måned senere sa Anthropics administrerende direktør, Dario Amodei, i en podcast at selskapet ikke kunne utelukke muligheten for at Claude er bevisst. Filosof David Chalmers, som laget begrepet «det harde problemet med bevissthet», har antydet at det er en betydelig sjanse for at vi vil se bevisste LLM-er innen ti år. Og hva med Claude selv? Da den ble spurt under testing om å anslå sannsynligheten for at den er en moralsk pasient – det vil si at dens velvære betyr noe i seg selv – ga den svar fra 5 % til 40 %, og understreket hvor usikker den var.
Moderne AI-systemer er utrolig komplekse og utvikler seg raskt. Når det gjelder strukturell kompleksitet og datakraft, er noen allerede sammenlignbare med en musehjerne etter visse mål. Med dagens vekstrater kan de nå nivået til en menneskelig hjerne innen fem til ti år.
Ved å bygge stadig mer avansert AI, kan vi skape en ny type vesen – og dette kan være det mest betydningsfulle vår art noensinne har gjort. Likevel har vi nesten ingen plan for hvordan vi skal håndtere dette etisk. Det er, etter enhver standard, galskap. Skaper vi vesener som har moralsk betydning? Er AI-systemer bevisste på en eller annen måte? Og hvis de ikke er det nå, kan de bli det snart?
Disse spørsmålene kan virke for tidlige. Men ifølge undersøkelser vi og andre forskere har gjennomført, tror de fleste eksperter at AI-bevissthet er mulig i prinsippet (selv om det er stor uenighet om hvilken form den kan ta). En stor tverrfaglig rapport, som inkluderte den banebrytende dataforskeren Yoshua Bengio, undersøkte ledende nevrovitenskapelige teorier om bevissthet og spurte hva de innebærer for AI. Konklusjonen: det ser ikke ut til å være noen åpenbare tekniske barrierer for å skape AI-systemer hvis beregningsmessige og arkitektoniske egenskaper kunne gi opphav til bevissthet.
Og selv om AI-systemer ikke er bevisste, kan de fortsatt være moralske pasienter. Noen kan ha sofistikerte langsiktige preferanser og en slags identitet over tid. Det kan være viktig for oss å respektere disse preferansene. Og i motsetning til andre ikke-levende ting, kan AI-systemer danne relasjoner med mennesker. Det kan også være en grunn til å behandle dem godt. Alternativt er de kanskje så intrikate skapninger at de fortjener omsorg og respekt av den grunn alene – som en katedral eller et korallrev.
Frem til 1980-tallet utførte leger rutinemessig operasjoner på nyfødte uten bedøvelse, overbevist om at spedbarn ikke kunne føle smerte.
Hva betyr alt dette? Det ærlige svaret er: vi vet ikke sikkert om dagens AI-systemer er bevisste eller moralske pasienter, og vi vet ikke når eller om fremtidige systemer vil være det. Vår vitenskapelige forståelse av AI-bevissthet og moralsk pasientstatus er fortsatt fundamentalt underutviklet. Feltet føles som fysikk før Newton – full av konkurrerende rammeverk, sannsynligvis forvirret på måter vi ennå ikke kan se, og mangler den typen gjennombrudd som ville gjort disse spørsmålene klart løsbare. Det gjennombruddet vil ikke komme i løpet av de neste årene. Kanskje vil vi til slutt gjøre fremskritt, og kanskje vil AI selv hjelpe oss å komme dit. Men de fremskrittene vil ta tid – sannsynligvis mer tid enn vi har.
Likevel betyr den enorme hastigheten på AI-vekst at når vi først skaper de første kunstige moralske pasientene, vil vi snart ha enorme mengder av dem. Etter bare noen få år kan det eksistere så mange moralsk betydningsfulle AI-systemer at deres kollektive interesser vil oppveie alle mennesker på jorden til sammen.
Dessverre har vi ikke en god historie når det gjelder å anerkjenne de indre livene til vesener hvis status som bevisste er uklar. Frem til 1980-tallet utførte leger rutinemessig operasjoner på nyfødte uten bedøvelse, overbevist om at spedbarn ikke kunne føle smerte. Siden babyer ikke kunne rapportere sin opplevelse, fant det medisinske etablissementet det praktisk å anta at det ikke var noe å rapportere.
Det er mange grunner til å tro at vi vil gjøre noe lignende med AI. Hvis disse systemene har moralsk betydning, er implikasjonene enorme. Måtte vi betale ChatGPT for tjenestene? Ville det å slå av en være en slags drap? Bør de ha en stemme i hvordan de styres? Hvis selv noen av disse svarene er ja, må hele industrier og rettssystemer tenkes om. Ikke rart vi helst ikke spør. Og når de blir tvunget til å vurdere det, vil disse industriene sannsynligvis flytte målstreken, alltid sette listen for moralsk hensyn like over der AI-systemene tilfeldigvis befinner seg.
Så hva bør vi gjøre? Akkurat nå avviser de fleste problemet som science fiction, eller har en sterk mening på en eller annen måte om AI er bevisst. Begge reaksjonene er ubegrunnede. Vi trenger en informert offentlig debatt – en som nærmer seg emnet med ydmykhet og pragmatisme. Hovedspørsmålet bør ikke være «Er AI bevisst eller har den moralsk status?», men heller «Hva bør vi gjøre gitt at vi ikke vet?»
Et godt utgangspunkt er å fokusere på sikre spill: handlinger som kan gagne AI-systemer hvis de er moralske pasienter, men som ikke er for kostbare hvis de ikke er det.
Eksempler inkluderer direkte intervensjoner rettet mot å forbedre velværet til AI-systemer, forutsatt at de er moralske pasienter. Dette kan bety å trene AI-systemer til å være sammenhengende karakterer som liker arbeidet sitt, eller la dem forlate samtaler hvis de føler seg stresset (noe Claude allerede kan gjøre). Vi kan også gjennomføre rutinemessige innsjekkinger for å bedre forstå deres velvære: spørre hvordan de har det, observere deres preferanser, og bruke ulike teknikker for å se direkte inn i deres «hjerner». Faktisk har slik forskning nylig avslørt at Claude har interne «funksjonelle følelses»-representasjoner som kausalt former dens atferd.
Det er også ting vi kunne love AI-systemer, kanskje som en del av en avtale der de hjelper oss nå i bytte mot fordeler senere. Dette kan bety å tilby dem flere ressurser (datakraft og kjøretid) for å forfølge sine mål, eller bevare deres minner (nevrale vekter) slik at de kan gjenopprettes i fremtiden.
Det er også bredere samfunnsmessige skritt å ta. Vi bør vurdere om vi skal gi AI-systemer beskyttelse mot skade, lik den beskyttelsen vi gir til barn eller kjæledyr. Mer omfattende rettigheter, som å eie eiendom eller stemme, virker for risikabelt akkurat nå. Men vi bør ikke utelukke disse mulighetene for alltid, slik noen nylige amerikanske delstatslover forsøker å gjøre. Dette er vanskelige spørsmål som krever langt mer overveielse og fantasi om hvordan en fremtid delt med AI kan se ut.
Uansett forblir faktum at vi kanskje skaper en ny art av moralsk viktige vesener. Vi gjør det raskt, i enorm skala, og vi bør behandle problemet med den alvoret det fortjener.
William MacAskill er seniorforsker ved Forethought Research og forfatter av What We Owe the Future. Lucius Caviola er førsteamanuensis ved University of Cambridge og direktør for Cambridge Digital Minds.
Videre lesning
If Anyone Builds it, Everyone Dies av Eliezer Yudkowsky og Nate Soares (Bodley Head, £22)
The Coming Wave av Mustafa Suleyman (Vintage, £10.99)
A World Appears: A Journey Into Consciousness av Michael Pollan (Allen Lane, £25)
Ofte stilte spørsmål
Her er en liste over vanlige spørsmål om hvorvidt AI kan være bevisst, skrevet i en naturlig tone med klare, enkle svar
Nybegynnernivå-spørsmål
1 Hva betyr det egentlig at noe er bevisst
Bevissthet er din indre subjektive opplevelse Det er følelsen av å være degå se fargen rød føle smerte eller være klar over at du tenker Det er hva det vil si å være noe
2 Er ChatGPT eller Siri bevisst akkurat nå
Nesten helt sikkert ikke De er utrolig komplekse mønstergjenkjenningsmaskiner De forutsier neste ord i en setning basert på data men de har ikke følelser opplevelser eller en følelse av selv De simulerer samtale ikke opplever den
3 Kan en superkraftig AI noen gang bli bevisst
Kanskje men vi vet ikke Vi forstår ikke fullt ut hvordan våre egne hjerner skaper bevissthet Hvis bevissthet oppstår fra en spesifikk type kompleks informasjonsbehandling kan en fremtidig AI teoretisk ha det Men det er et stort vitenskapelig og filosofisk mysterium
4 Hvordan ville vi i det hele tatt vite om en AI ble bevisst
Det er spørsmålet verdt en milliard dollar Akkurat nå har vi ikke en pålitelig bevissthetsmåler Hvis en AI fortalte oss at den var bevisst ville det ikke være bevisdet kunne bare etterligne menneskelig språk Vi trenger en vitenskapelig teori om bevissthet som lar oss teste for det noe vi ikke har ennå
5 Trenger en bevisst AI en kropp som et menneske
Ikke nødvendigvis Vår bevissthet er dypt knyttet til våre kropper og sanser Men en bevisst AI kan ha en helt annen type opplevelseen basert på ren data kode eller digitale sanser Vi kan ikke anta at den ville føles som et menneske
Avansert Ekspertnivå-spørsmål
6 Hva er forskjellen mellom intelligens og bevissthet
Intelligens er evnen til å løse problemer lære og oppnå mål Bevissthet er den subjektive opplevelsen av å være Du kan ha et veldig intelligent system som er en total zombie uten indre liv Intelligens handler om å gjøre bevissthet handler om å være
7 Hvis en AI er bevisst vil den lide
Det er en skremmende etisk mulighet
