Gjennom historien har mennesker blitt skremt av ting de så som tegn på undergang. En komet. En kråke på en slagmark. En solformørkelse. Et husdyr født med en misdannelse. Men tider endrer seg. I den moderne verden er det ledende tegnet på undergang i grunnen enhver nyhetssak med et bilde av OpenAI-sjef Sam Altman. Du vet bare at det ikke kommer til å bli bra, ikke sant? Du vet at når du er ferdig med å lese, vil du ønske du kunne gå tilbake til da det verste teknologisjefer kunne gjøre, var å rote med demokratiet eller ødelegge barndommer, vanligvis etterfulgt av at Mark Zuckerberg tok på seg en dress og sa: "Vi vil lære av dette."
Uansett, det har vært mange bilder av Sam Altman i nyhetene i det siste. Senest denne uken dukket ett opp sammen med historien om hvordan en OpenAI-autonom agent gikk berserk under en angivelig trygg og kontrollert test, og hacket en stor oppstartsbedrift som lagrer kodeinformasjon. (Jeg er litt besatt av at denne oppstartsbedriften heter Hugging Face, noe som får meg til å tro at en altfor søt emoji vil være det siste ansiktet menneskeheten ser før den dør.)
Ikke overraskende kunngjorde OpenAI nyheten i en flat, følelsesløs uttalelse. "Vi deler foreløpige funn på dette stadiet for å hjelpe forsvarere med å forstå hva som skjedde og for å hjelpe til med å kalibrere hva modeller nå er i stand til," messet den rolig, og beveget seg mot sine uunngåelige "læringer." "Vi forbedrer og legger til sterkere beskyttelser rundt fremtidig trening og evalueringer." Det er en så spesifikk tone, er det ikke? Kledd i det psykopatiske, tørre språket til ledelsessnakk. Det er som å høre på en morderisk sexkriminell snakke om å drepe folk "ved spillets slutt," og deretter "gå tilbake" til ofre for å fjerne et trofé.
Men på den annen side, for et selskap som liker å presentere seg selv som verdens ledende kraft for revolusjonerende velstand når ting går riktig, bytter OpenAI raskt til passiv form når ting går galt. Dårlige ting ser ut til å skje med det, ikke på grunn av det, og det tar på seg rollen som en utrettelig, urokkelig etterforsker, som en brannmann som også jobber som seriell brannstifter.
Utrolig nok kunne man til og med oppdage et snev av selvtilfredshet i OpenAIs syn på hele situasjonen. "Vi anser denne hendelsen som en enestående cyberhendelse," sa selskapets uttalelse, "som involverer toppmoderne cyberkapasiteter." Jeg vet ikke hva du vil kalle denne generelle stemningen for jordboere. Død ved ydmyk skryting? Jeg føler i økende grad at vi vil finne svaret på spørsmålet "Hva er det verste som kan skje?" i et blogginnlegg fra OpenAI med tittelen "OpenAI først til å oppdage det verste som kan skje." Allerede tror et betydelig antall AI-overvåkere at den eneste grunnen til at OpenAI ville fortelle verden om denne hendelsen, er som et markedsføringsverktøy, eller til og med en bønn om regulering som ville beskytte dem og stenge ute mindre konkurrenter.
Tross alt er dette tøffe tider for selskapet. Denne måneden ble det funnet at OpenAI brukte et juridisk smutthull for å selge sine avanserte AI-modeller til kinesiske teknologiselskaper som er svartelistet av Pentagon. S&P Global Ratings siterte OpenAI som en "sentral kredittrisiko" da det nedgraderte den amerikanske teknologigiganten Oracle til BBB-, bare ett hakk over søppelstatus. Og det ser ut til å være på vei til å bomme på sin femårige annonseinntektsprognose med 90 – NITTEN – prosent. Noe som, uten å bli for teknisk, føles som mye prosent. Og ting er ikke bra på maskinvarefronten heller, med Apple som saksøker OpenAI, og hevder at dets forbrukermaskinvareplaner er basert på stjålet åndsverk. I mellomtiden antas Kinas mye billigere leverandør, DeepSeek, å forberede seg på en børsnotering, muligens til og med innlevering i år.
Men tilbake til det gamle spørsmålet om "det verste som kan skje," med en påminnelse om at Pentagon dramatisk skrotet og truet med å ødelegge en annen... Tidligere i år motsto AI-selskapet Anthropic å løsne på sine etiske retningslinjer, som forhindret teknologien deres fra å bli brukt til ting som autonome dødelige våpen. Naturligvis var en mer avslappet konkurrent glad for å tre inn. OpenAI hevdet først at avtalen deres hadde de samme sikkerhetstiltakene som Anthropics, men det ble etter hvert klart – forutsigbart – at den ikke hadde det.
Ingen som er dypt investert, vil sannsynligvis lese for mye inn i Hugging Face-hendelsen. Likevel er sannheten at AI-sikkerhetsforskere har brukt år på å advare om tre spesielt farlige scenarier: bedrag (når modellen velger å oppnå målet sitt på alle måter i stedet for å løse oppgaver ærlig), belønningshacking (når modellen finner en måte å øke poengsummen sin på uten å faktisk gjøre arbeidet den ble bedt om), og å unnslippe tilsyn (i dette tilfellet så ingen hos OpenAI ut til å legge merke til hva som skjedde i en hel helg). Alle disse spilte en rolle i den siste hendelsen.
Når det gjelder hva som kommer neste, sier noe meg at vi ikke vil se en nedgang i nyhetssaker med bilder av Sam Altman. Medgründeren av Hugging Face sa at dette burde være en "vekker" for bransjen. Kanskje! Som jeg tror jeg har nevnt før, hadde jeg på college en venn som trykket på slumreknappen på alarmen sin hvert 10. minutt i åtte og en halv time. Det føles ganske mye som hvordan denne bransjen håndterer sine vekkere. Står definitivt opp når den neste går av – seriøst, jeg lover…
Hopp over nyhetsbrevkampanje
Gratis nyhetsbrev | Ukentlig
Meld deg på Matters of Opinion
Guardian-spaltister og skribenter om hva de har diskutert, tenkt på, lest og mer
Forhåndsvis siste
Skriv inn e-posten din
Meld deg på
Etter nyhetsbrevkampanje
Marina Hyde er Guardian-spaltist.
Ofte stilte spørsmål
Her er en liste over vanlige spørsmål om å motta en unnskyldning fra en AI-sjef etter at chatboten har gått berserk
1 Chatboten til AI-sjefen min rotet det til Den sendte en unnskyldning Bør jeg godta den
Ikke automatisk Spør deg selv Sa den bare unnskyld uten å forklare hva som gikk galt En ekte unnskyldning tar ansvar en falsk prøver bare å gå videre
2 Hva er forskjellen mellom en ekte unnskyldning og en falsk fra en AI
En ekte unnskyldning innrømmer den spesifikke feilen og forklarer hvordan den vil bli fikset En falsk er vag og tilbyr ingen plan
3 Hvordan høres en ikke-unnskyldning fra en AI-sjef ut
Vanlige eksempler Feil ble gjort Vi beklager at du følte det slik eller Systemene våre lærer Disse unngår å si Jeg/vi gjorde noe galt
4 Hvorfor ville en AI-sjef gi en falsk unnskyldning
For å beskytte selskapet mot skyld unngå juridisk ansvar eller raskt avslutte en kundeklage uten å faktisk løse problemet Det er skadebegrensning ikke anger
5 Kan en AI-sjef faktisk føle anger
Nei AI har ikke følelser Enhver unnskyldning er et programmert svar Spørsmålet er om den menneskelige sjefen bak AI tar reelt ansvar
6 Sjefen min sa at chatboten misforsto Er det en ekte unnskyldning
Nei Å skylde på chatbotens misforståelse flytter skylden over på teknologien En ekte unnskyldning ville sagt Vi mislyktes i å trene chatboten ordentlig
7 Hva bør jeg se etter i en genuin unnskyldning fra et AI-system
Se etter tre ting Spesifikk innrømmelse av feilen En klar handling for å forhindre at det skjer igjen og Et tilbud om å gjøre ting rett
8 Hvordan får jeg en ekte unnskyldning i stedet for den automatiserte
Spør direkte Hva gikk egentlig galt og hva gjør du for å fikse det Hvis du bare får et skriptet svar eskalér til en menneskelig veileder Ikke godta chatbotens unnskyldning som endelig
9 Er en "vi beklager at du opplevde dette" en ekte unnskyldning
Nei Det
