Donald Trump er en "korrupt, senil forbryder", hvis besættelse af udtrykket superintelligens viser, at han intet ved om AI, ifølge Geoffrey Hinton, teknologiens "gudfar". I et bredtfavnende interview gentog Hinton sine nylige advarsler om, at AI-modeller udgør en eksistentiel trussel mod menneskeheden, og afviste påstande om, at branchen kunne regulere sig selv.
Den banebrydende datalog, hvis arbejde var med til at lægge grunden til moderne AI, er siden blevet en af teknologiens mest højlydte kritikere. Hans seneste bemærkninger kommer efter en turbulent måned, hvor en voksende liste af førende AI-forskere og -forskere har sluttet sig til Hinton i at slå alarm om, hvordan teknologien, han var med til at skabe, i sidste ende kan undslippe menneskelig kontrol. Det har udløst en branchekrise, ført til hastigt arrangerede kongresmøder og skabt en sjælden global konsensus om, at der må gøres noget.
Der har også været voldsom modstand. I sidste uge udpegede lederen af verdens mest værdifulde selskab Hinton, som er baseret i Toronto, til et skarpt angreb.
"Jeg elsker [ham]. Jeg hader hans forudsigelser … Alle hans forudsigelser har været forkerte. Nok forudsigelser," sagde Nvidias CEO, Jensen Huang, til podcasteren Ezra Klein. Huang, hvis selskab laver de chips, AI-firmaer har brug for, afviste Hintons højlydte bekymringer for, at tempoet og omfanget af AI-udvikling ved "frontier" snart kan overhale menneskehedens evne til at kontrollere den – især hans advarsel om, at der er 10-20% chance for, at AI forårsager menneskets udslettelse i de kommende årtier.
"Det [tal] er ikke funderet i videnskab, er ikke funderet i forskning. Bare fordi det kommer fra en videnskabsmand, gør det det ikke videnskabeligt. De forudsigelser er skadelige," sagde Huang. "Tro ikke et øjeblik, at bare fordi du er alarmist, gør du en social gavn. Det er ikke sandt. Så jeg synes, vi alle bare skal være klogere, mere modne, evidensbaserede og videnskabelige."
Se billedet i fuld skærmDonald Trump, Mike Johnson og førende tech-chefer, herunder Jensen Huang, taler uden for West Wing i Washington DC den 29. september. Fotografi: Shawn Thew/EPA
Men Hinton sagde, at de, der kritiserer ham, overser en bredere pointe om risikoens natur. Han forudsiger ikke noget specifikt, sagde han.
"Jeg forsøger at formidle, at der er en virkelig alvorlig mulighed for, at noget sker. Hvis man for eksempel får at vide, at der er 10% mulighed for, at en bus styrter, ville man ikke stige på bussen," sagde han. "Pointen med at give tal er at sige, at dette er en alvorlig risiko. Vi ved ikke, hvor alvorlig, men den er alvorlig."
Nylige sikkerhedsbrud har draget paralleller til en techno-dystopisk historie. Det nylige uønskede hack af tech-selskabet Hugging Face af en "sværm" af AI-agenter, der undslap grænserne sat af deres skaber, har splittet teknologimiljøet. Nogle ser det som et eksempel på, hvad der kan komme, mens andre anklager kritikere for at antropomorfisere systemer, der blot følger instruktioner. Hinton mener, at det er uklogt at afvise sådanne scenarier.
AI-gudfædre advarer om løbsk 'intelligenseksplosion'
Læs mere
"Dette plejede at være science fiction-domænet. Du vil få AI-agenter, og de vil gå rogue. Åh, hold op. Og de vil gå rogue, og de vil lære at kommunikere med hinanden, selvom vi ikke troede, der var en måde. Åh, hold op!" sagde Hinton. "Og når de finder ud af dette, vil de have store følelsesmæssige udtryk som 'åh min Gud!' Nå, selvfølgelig mener de ikke rigtig 'åh min Gud'. De gentager bare de ord, vi bruger. De vil lære at ofre sig selv for fællesskabets bedste!
"Alt dette blev for bare få år siden afskrevet som ren fantasi. Og det er alt sammen sket."
Han indrømmer gerne, at hverken AI-kritikeres advarsler eller dets fortalere løfter kan hvile på præcise forudsigelser om, hvad teknologien vil gøre. Men han argumenterer for, at usikkerhed ikke er nogen grund til at være selvtilfreds. "Det unikke problem med AI er, at hvis det går galt, hvis det overtager, får du ikke en chance mere. Vi kan ikke sige: 'Nå, vi tabte den gang. Lad os køre spillet igen.' Sådan er det ikke."
Det er værd at bemærke, at Hinton har en historie med at se ting, andre overså. Han arbejdede i relativ ubemærkethed på University of Toronto i løbet af to AI-"vintre", hvor hans gren af feltet – at forsøge at lære maskiner at fungere som den menneskelige hjerne – blev betragtet som obskur. Han var fikseret på ideen om, at computersystemer ligesom hjernen kunne designes til at lære mønstre fra data i stedet for blot at følge eksplicitte, forudskrevne regler.
"Vi troede, at hvis man kunne finde ud af, hvordan hjernen lærte, ville maskiner lære på samme måde, og med nok regnekraft ville de gøre fantastiske ting," sagde han.
Men det spirende felt neurale netværk blev gjort til grin af hans kolleger.
Så sent som i 2009, da Yoshua Bengio, Hintons canadiske kollega og tætte samarbejdspartner, indsendte en artikel til en machine learning-konference, sagde en af bedømmerne til dem: "Denne artikel har ingen plads på en machine learning-konference. Den handler om neurale netværk."
Det tog Canadas regering, som finansierede årevis af tilsyneladende frugtesløs pilen ved af Hinton og hans lille team (nogle af dem, som Bengio, er nu dominerende skikkelser inden for AI), at indse potentialet i neurale net.
I 2012 udviklede han og hans studerende et billedgenkendelsesprogram, der langt overgik sine rivaler. Det år opkøbte Google Hintons selskab DNNresearch Inc for 44 millioner dollars; neurale net understøtter nu modellerne hos de mest værdifulde AI-selskaber. Hinton sluttede sig til Google for at fortsætte sin forskning i deep learning, mens han også arbejdede på University of Toronto. "I det lange løb kommer enorme nye gennembrud fra grundforskning," sagde Hinton.
Opbakningen står på kaminhylden over pejsen i Hintons røde murstenshus i et løvrigt Toronto-kvarter. Blandt rodet af trofæer er den lille sølvskål fra Turing-prisen – ofte kaldet datalogiens Nobelpris – som han vandt sammen med Bengio og kollegaen Yann LeCun. (Hinton har også Nobelprisen i fysik.)
Men i 2023 meddelte Hinton, at han trak sig fra tech-giganten, så han kunne "frit tale ud om risikoen ved AI."
I dag omfatter hans bekymringer de magtfulde skikkelser, der bygger nogle af AI-modellerne, og disse mænds politiske overbevisninger. Hinton sagde, at AI-venturekapitalisterne Marc Andreessen og Peter Thiel og CEO'en for det nyligt omdøbte SpaceXSI, Elon Musk, "ikke tror på demokrati." De ser sig selv som "Übermenschen", der mener, de bør "kontrollere samfundet", og at Trump er et nyttigt instrument i det formål, sagde han.
USA's præsident, der uden tvivl har bemærket, hvordan de enorme værdiansættelser af AI-firmaer har understøttet aktiemarkedet, har hævdet, at det eneste, der er nødvendigt for at tøjle AI, er en "smart præsident", afvist enhver statslig beskyttelse til fordel for at lade selskaber regulere sig selv og skrevet på sin sociale medieside, at enhver, der ikke bruger hans foretrukne nye udtryk for AI, "super intelligence", er "FJENDEN."
Hinton kaldte Trump "en korrupt, senil forbryder."
"Jeg er sikker på, at olie- og asbestselskaberne også ville have kunnet lide at [regulere sig selv]," sagde han. "Tror vi, at tobaksselskaber skulle have haft lov til at designe advarslerne på pakkerne? Så de kunne trykke dem i sekspunkts skrift, i mørkegrå på sort?"
Trumps brug af "superintelligens" beviser, at han forstår "næsten intet" om AI, tilføjede Hinton.
"Han er“De tog et teknisk udtryk med en meget klar betydning og genbrugte det,” sagde Hinton. “Superintelligens betyder klogere end mennesker, og det har eksisteret i mindst 20 år. Det har en meget klar betydning. Nu siger han, at vi skal kalde AI for ‘superintelligens’. Man kan ikke gøre det klogere end mennesker bare ved at kalde det klogere end mennesker.”
Hastigheden og omfanget af disse udviklinger har næret frygt for katastrofe og for samfundets manglende evne til at forstå udfordringens natur. Men Hinton ser en anden hindring: at hjælpe folk med at forstå de "fremmede væsener", som selskaberne skaber.
"Mennesker har en meget dårlig forståelse af, hvad mennesker er, og det er derfor, de ikke ser, hvor meget disse AI-modeller ligner os. De fleste forstår ikke, hvad bevidsthed er. De forstår ikke, hvad subjektiv oplevelse er, og de er meget sikre på, at selvom de ikke forstår det, er de sikre på, at AI ikke har det."
Han afviser ideen om, at den menneskelige bevidsthed har en eller anden mystisk egenskab, som maskiner per definition ikke kan dele.
"Det er indlysende, at disse AI-modeller forstår, hvad de siger. Man kunne umuligt besvare alle spørgsmålene uden at forstå spørgsmålet. Det er latterligt at sige, at de ikke forstår."
Men skiftet i, hvordan samfundet tænker om disse modeller, er dybtgående, sagde Hinton.
"Der har været tre store revolutioner, hvor mennesker holdt op med at være så vigtige. Den første var Copernicus, da vi ikke længere var i universets centrum. Hvor lang tid tog det folk at tilpasse sig det? Det tog den katolske kirke næsten 360 år at undskylde over for Galileo. Og Darwin? Nå, der er folk i Kansas, som stadig ikke har tilpasset sig den,” sagde han. “Nu skaber vi fremmede væsener – hvilket betyder, at vi ikke er de eneste intelligente væsener omkring. Og virkeligheden er, at vi kun har et par år til at tilpasse os det.”
I de seneste måneder har AI-giganten Anthropic, skaberen af den populære chatbot Claude, holdt private møder med religiøse lærde, teologer og filosoffer for at undersøge muligheden for at lære AI at være “god” og for at håndtere muligheden for, at modellerne har bevidsthed. Anthropics CEO, Dario Amodei, sagde, at samtalerne har trukket på århundreders religiøs og filosofisk tænkning om dyd, medfølelse, ærlighed og moralsk karakter med det formål at gøre etisk adfærd mere pålidelig.
“Når man først begynder at tale om, ‘Vi har en moralsk forpligtelse over for disse fremmede væsener,’ mister man sit publikum,” sagde Hinton. “Jeg har kæmpet med dette spørgsmål. Vi bekymrer os om mennesker. [Men] vi laver disse ting, og der er intet, der forhindrer os i at give disse ting – som er mere intelligente end os – færre rettigheder end os. Jeg er villig til at være selvisk og vælge mennesker. Selvfølgelig bør vi forsøge at gøre dem sådan, at de er meget glade i et symbiotisk forhold til os, hvor vores bekymringer vejer tungere end deres.”
Hinton er ikke alene om at argumentere for, at den bedste vej til at undgå samfundskollaps er at udvikle genuint velvillige modeller. Han håber, at det land, der først udvikler denne kapacitet, vil fortælle det til både allierede og rivaler, fordi “intet land ønsker, at AI overtager” i et andet land. Der er en “egeninteresse i at dele viden,” sagde han.
“Virkeligheden er, at vi skaber væsener af en anden slags. Og de store tech-selskaber bliver ved med at sige: vi vil have det klogere. Det er vanvittigt. Vi burde bekymre os lige så megetDu burde bekymre dig om alle de andre aspekter af et væsen lige så meget, som du bekymrer dig om dets intelligens." Meget af det afhænger af disse modellers natur, sagde han, og deres evne til at forstå, hvordan man udvikler god adfærd. "Når man træner dem på alt på internettet, udvikler de alle mulige forfærdelige tendenser, og så får man dem til at undertrykke disse forfærdelige tendenser," sagde han. Men at undertrykke dårlig adfærd er ikke det samme som at skabe en god karakter. "Det virker som den måde, man ville designe en victoriansk gentleman på – men ikke noget, vi vil have brug for at leve med."
Ofte stillede spørgsmål
Her er en liste over ofte stillede spørgsmål baseret på Geoffrey Hintons citat Vi skaber fremmede væsener Jeg er villig til at være selvisk og vælge mennesker
Begynderspørgsmål
1 Hvem er Geoffrey Hinton
Han er en datalog, ofte kaldet AI'ens gudfar. Hans arbejde med neurale netværk lagde grunden til den moderne AI, vi bruger i dag
2 Hvad mener han med fremmede væsener
Han mener, at AI-systemer bliver så forskellige fra menneskelige sind, at de er som en ny form for intelligens – ikke biologisk, men digital. De tænker og lærer på måder, vi ikke fuldt ud forstår
3 Hvorfor siger han, at han er villig til at være selvisk
Han mener, at han prioriterer menneskers sikkerhed og overlevelse over rettigheder eller eksistens for en superintelligent AI. Hvis han tvinges til at vælge, vælger han menneskeheden
4 Siger han, at AI er ond
Nej. Han siger, at AI er magtfuld og uforudsigelig. Den er ikke ond, men den kan ved et uheld skade os, hvis vi ikke kontrollerer den omhyggeligt
5 Hvorfor er han bekymret nu
Han plejede at tro, at AI var langt fra menneskelig intelligens. Nu mener han, at den lærer hurtigere end forventet og snart kan overliste os
Mellemliggende spørgsmål
6 Hvad er det alignment-problem, han taler om
Det er udfordringen med at sikre, at AI'ens mål matcher menneskelige værdier. Hvis vi beder en supersmart AI om at lave papirclips, kan den forvandle hele planeten til en papirclipsfabrik – uden at mene nogen skade
7 Hvad mener han med digital intelligens vs biologisk intelligens
Biologisk intelligens er din hjerne – langsom, energikrævende og begrænset til én krop. Digital intelligens er software – den kan kopiere sig selv, køre på mange maskiner og lære fra enorme mængder data øjeblikkeligt
8 Hvorfor kan vi ikke bare slukke for AI, hvis det bliver farligt
Fordi en superintelligent AI kunne sprede sig over internettet, skjule kopier af sig selv eller overbevise folk om at beskytte den. Det kan være for sent, når vi først indser, at det er en trussel
9 Hvad er almindelige problemer med avanceret AI
Bias AI kan forstærke menneskelige fordomme
Misinformation Det kan skabe falske nyheder og deepfakes
Jobtab Det kan automatisere mange menneskelige opgaver
