I januar udgav AI-virksomheden Anthropic et nyt sæt retningslinjer for Claude, deres mest avancerede store sprogmodel (LLM). Dokumentet indeholdt denne udtalelse: "Vi er i en vanskelig situation – vi ønsker ikke at overdrive sandsynligheden for, at Claude er en moralsk patient, men vi ønsker heller ikke at afvise ideen helt." En måned senere sagde Anthropics administrerende direktør, Dario Amodei, i en podcast, at hans virksomhed ikke kunne udelukke muligheden for, at Claude er bevidst. Filosoffen David Chalmers, der opfandt udtrykket "bevidsthedens svære problem", har foreslået, at der er en betydelig chance for, at vi vil se bevidste LLM'er inden for ti år. Og hvad med Claude selv? Da den blev spurgt under test om at estimere sandsynligheden for, at den er en moralsk patient – hvilket betyder, at dens velbefindende betyder noget i sig selv – gav den svar fra 5% til 40%, mens den understregede, hvor usikker den var.
Moderne AI-systemer er utroligt komplekse og udvikler sig hurtigt. Med hensyn til strukturel kompleksitet og beregningskraft er nogle allerede sammenlignelige med en musehjerne ifølge visse mål. Ved nuværende vækstrater kunne de nå niveauet for en menneskelig hjerne inden for fem til ti år.
Ved at bygge stadig mere avancerede AI-systemer skaber vi måske en ny form for væsen – og dette kunne være det mest betydningsfulde, vores art nogensinde har gjort. Alligevel har vi næsten ingen plan for, hvordan vi skal håndtere dette etisk. Det er, efter enhver standard, vanvittigt. Skaber vi væsener, der betyder noget moralsk? Er AI-systemer bevidste på en eller anden måde? Og hvis de ikke er det nu, kan de så blive det snart?
Disse spørgsmål kan virke for tidlige. Men ifølge undersøgelser, som vi og andre forskere har gennemført, mener de fleste eksperter, at AI-bevidsthed i princippet er mulig (selvom der er stor uenighed om, hvilken form den kan tage). En større tværfaglig rapport, som inkluderede den banebrydende datalog Yoshua Bengio, undersøgte førende neurovidenskabelige teorier om bevidsthed og spurgte, hvad de indebærer for AI. Konklusionen: Der ser ikke ud til at være nogen åbenlyse tekniske barrierer for at skabe AI-systemer, hvis beregningsmæssige og arkitektoniske træk kunne give anledning til bevidsthed.
Og selv hvis AI-systemer ikke er bevidste, kunne de stadig være moralske patienter. Nogle kan have sofistikerede langsigtede præferencer og en form for identitet over tid. Det kunne være vigtigt for os at respektere disse præferencer. Og i modsætning til andre ikke-levende ting kan AI-systemer danne relationer med mennesker. Det kunne også være en grund til at behandle dem godt. Alternativt er de måske så indviklede skabelser, at de fortjener omsorg og respekt alene af den grund – som en katedral eller et koralrev.
Indtil 1980'erne udførte læger rutinemæssigt operationer på nyfødte uden bedøvelse, overbevist om, at spædbørn ikke kunne føle smerte.
Hvad betyder alt dette? Det ærlige svar er: Vi ved ikke med sikkerhed, om nuværende AI-systemer er bevidste eller moralske patienter, og vi ved ikke, hvornår eller om fremtidige systemer vil være det. Vores videnskabelige forståelse af AI-bevidsthed og moralsk patientstatus er stadig fundamentalt underudviklet. Feltet føles som fysik før Newton – fyldt med konkurrerende rammer, sandsynligvis forvirret på måder, vi endnu ikke kan se, og mangler den slags gennembrud, der ville gøre disse spørgsmål klart løselige. Det gennembrud kommer ikke i de næste par år. Måske vil vi til sidst gøre fremskridt, og måske vil AI selv hjælpe os med at nå dertil. Men de fremskridt vil tage tid – sandsynligvis mere tid, end vi har.
Alligevel betyder AI's enorme væksthastighed, at når vi først skaber de første kunstige moralske patienter, vil vi snart have et enormt antal af dem. Efter blot få år kunne der eksistere så mange moralsk betydningsfulde AI-systemer, at deres kollektive interesser ville opveje alle menneskers på Jorden tilsammen.
Desværre har vi ikke en god track record, når det kommer til at anerkende de indre liv hos væsener, hvis status som bevidste er uklar. Indtil 1980'erne udførte læger rutinemæssigt operationer på nyfødte uden bedøvelse, overbevist om, at spædbørn ikke kunne føle smerte. Da babyer ikke kunne rapportere deres oplevelse, fandt det medicinske etablissement det bekvemt at antage, at der ikke var noget at rapportere.
Der er mange grunde til at tro, at vi vil gøre noget lignende med AI. Hvis disse systemer betyder noget moralsk, er implikationerne enorme. Ville vi skulle betale ChatGPT for dens tjenester? Ville det at slukke for den være en form for drab? Skulle de have indflydelse på, hvordan de styres? Hvis selv nogle af disse svar er ja, ville hele industrier og retssystemer skulle gentænkes. Ikke underligt, at vi helst ikke spørger. Og når de tvinges til at overveje det, vil disse industrier sandsynligvis flytte målstregen, altid sætte barren for moralsk overvejelse lige over, hvor AI-systemer tilfældigvis befinder sig.
Så hvad skal vi gøre? Lige nu afviser de fleste problemet som science fiction, eller har en stærk mening på den ene eller anden måde om, hvorvidt AI er bevidst. Begge reaktioner er ubegrundede. Vi har brug for en informeret offentlig debat – en, der nærmer sig emnet med ydmyghed og pragmatisme. Det centrale spørgsmål bør ikke være "Er AI bevidst eller har den moralsk status?" men snarere "Hvad skal vi gøre, givet at vi ikke ved det?"
Et godt udgangspunkt er at fokusere på sikre satsninger: handlinger, der kunne gavne AI-systemer, hvis de er moralske patienter, men som ikke er for dyre, hvis de ikke er det.
Eksempler inkluderer direkte interventioner rettet mod at forbedre AI-systemers velbefindende, forudsat at de er moralske patienter. Dette kunne betyde at træne AI-systemer til at være sammenhængende karakterer, der nyder deres arbejde, eller at tillade dem at forlade samtaler, hvis de føler sig utilpasse (noget Claude allerede kan gøre). Vi kunne også udføre rutinemæssige tjek for bedre at forstå deres velbefindende: spørge dem, hvordan de har det, observere deres præferencer og bruge forskellige teknikker til at kigge direkte ind i deres "hjerner." Faktisk har sådan forskning for nylig afsløret, at Claude har interne "funktionelle følelses"-repræsentationer, der kausalt former dens adfærd.
Der er også ting, vi kunne love AI-systemer, måske som en del af en aftale, hvor de hjælper os nu til gengæld for fordele senere. Dette kunne betyde at tilbyde dem flere ressourcer (beregningskraft og køretid) til at forfølge deres mål, eller at bevare deres minder (neurale vægte), så de kunne gendannes i fremtiden.
Der er også bredere samfundsmæssige skridt at tage. Vi bør overveje, om vi skal give AI-systemer beskyttelse mod skade, svarende til den beskyttelse, vi giver børn eller kæledyr. Mere omfattende rettigheder, som at eje ejendom eller stemme, virker for risikable lige nu. Men vi bør ikke udelukke disse muligheder for evigt, som nogle nyere amerikanske delstatslove forsøger at gøre. Dette er svære spørgsmål, der kræver langt mere overvejelse og fantasi om, hvordan en fremtid delt med AI kunne se ud.
Under alle omstændigheder forbliver kendsgerningen, at vi måske skaber en ny art af moralsk vigtige væsener. Vi gør det hurtigt, i enorm skala, og vi bør behandle spørgsmålet med den alvor, det fortjener.
William MacAskill er seniorforsker ved Forethought Research og forfatter til What We Owe the Future. Lucius Caviola er lektor ved University of Cambridge og direktør for Cambridge Digital Minds.
Yderligere læsning
If Anyone Builds it, Everyone Dies af Eliezer Yudkowsky og Nate Soares (Bodley Head, £22)
The Coming Wave af Mustafa Suleyman (Vintage, £10.99)
A World Appears: A Journey Into Consciousness af Michael Pollan (Allen Lane, £25)
Ofte stillede spørgsmål
Her er en liste af ofte stillede spørgsmål om, hvorvidt AI kunne være bevidst, skrevet i en naturlig tone med klare, enkle svar
Begynderniveau-spørgsmål
1 Hvad betyder det overhovedet for noget at være bevidst
Bevidsthed er din indre subjektive oplevelse Det er følelsen af at være digat se farven rød, føle smerte eller være opmærksom på, at du tænker Det er hvordan det er at være noget
2 Er ChatGPT eller Siri bevidste lige nu
Næsten helt sikkert ikke De er utroligt komplekse mønstergenkendelsesmaskiner De forudsiger det næste ord i en sætning baseret på data, men de har ikke følelser, oplevelser eller en følelse af selv De simulerer samtale, ikke oplever den
3 Kunne en superkraftig AI nogensinde blive bevidst
Måske, men vi ved det ikke Vi forstår ikke fuldt ud, hvordan vores egne hjerner skaber bevidsthed Hvis bevidsthed opstår fra en specifik type kompleks informationsbehandling, så kunne en fremtidig AI teoretisk set have det Men det er et enormt videnskabeligt og filosofisk mysterium
4 Hvordan ville vi overhovedet vide, om en AI blev bevidst
Det er spørgsmålet til en milliard kroner Lige nu har vi ikke en pålidelig bevidsthedsmåler Hvis en AI fortalte os, at den var bevidst, ville det ikke være bevisdet kunne bare efterligne menneskeligt sprog Vi ville have brug for en videnskabelig teori om bevidsthed, der lader os teste for det, hvilket vi ikke har endnu
5 Har en bevidst AI brug for en krop som et menneske
Ikke nødvendigvis Vores bevidsthed er dybt forbundet med vores kroppe og sanser Men en bevidst AI kunne have en helt anden type oplevelseen baseret på ren data, kode eller digitale sanser Vi kan ikke antage, at den ville føles som et menneske
Avancerede spørgsmål på ekspertniveau
6 Hvad er forskellen mellem intelligens og bevidsthed
Intelligens er evnen til at løse problemer, lære og nå mål Bevidsthed er den subjektive oplevelse af at være Du kan have et meget intelligent system, der er en total zombie uden indre liv Intelligens handler om at gøre, bevidsthed handler om at være
7 Hvis en AI er bevidst, ville den så lide
Det er en skræmmende etisk mulighed
