Gennem historien har mennesker været skrækslagne over ting, de så som varsler om undergang. En komet. En krage på en slagmark. En solformørkelse. Et landbrugsdyr født med en misdannelse. Men tiderne ændrer sig. I den moderne verden er det førende undergangsvarsel stort set enhver nyhedshistorie med et billede af OpenAI's CEO Sam Altman. Du ved bare, at det ikke bliver godt, ikke? Du ved, at når du er færdig med at læse, vil du ønske, du kunne gå tilbage til dengang, hvor det værste, teknologibosser kunne gøre, var at rode med demokratiet eller ødelægge barndomme, normalt efterfulgt af Mark Zuckerberg, der tog et jakkesæt på og sagde: "Vi vil lære af dette."
Nå, men der har været mange billeder af Sam Altman i nyhederne på det seneste. Senest, i denne uge, dukkede et op sammen med historien om, hvordan en OpenAI-autonom agent gik amok under en angiveligt sikker og kontrolleret test og hackede en stor startup, der opbevarer kodeinformation. (Jeg er lidt besat af, at denne startup hedder Hugging Face, hvilket får mig til at tro, at en alt for sød emoji vil være det sidste ansigt, menneskeheden ser, før den dør.)
Ikke overraskende annoncerede OpenAI nyheden i en flad, følelsesløs udtalelse. "Vi deler foreløbige resultater på dette stadie for at hjælpe forsvarere med at forstå, hvad der skete, og for at hjælpe med at kalibrere, hvad modeller nu er i stand til," drone den roligt, mens den bevægede sig mod sine uundgåelige "læringer." "Vi forbedrer og tilføjer stærkere beskyttelser omkring fremtidig træning og evaluering." Det er sådan en specifik tone, ikke? Klædt i det psykopatiske, tørre sprog fra ledelsessnak. Det er som at lytte til en morderisk sexforbryder, der taler om at dræbe mennesker "ved spillets afslutning," og derefter "vende tilbage" til ofre for at fjerne et trofæ.
Men igen, for en virksomhed, der gerne vil fremstå som verdens førende kraft for revolutionær velstand, når tingene går godt, skifter OpenAI hurtigt til passiv form, når tingene går galt. Dårlige ting synes at ske for den, ikke på grund af den, og den påtager sig rollen som en utrættelig, uforstyrrelig efterforsker, som en brandmand, der også arbejder som seriel brandstifter.
Utroligt nok kunne man endda ane et strejf af selvtilfredshed i OpenAIs syn på hele situationen. "Vi betragter denne hændelse som en hidtil uset cyberhændelse," sagde virksomhedens udtalelse, "der involverer state-of-the-art cyberkapaciteter." Jeg ved ikke, hvad du ville kalde denne generelle stemning for jordboere. Død ved beskeden pral? Jeg føler i stigende grad, at vi vil finde svaret på spørgsmålet "Hvad er det værste, der kan ske?" i et blogindlæg fra OpenAI med titlen "OpenAI først til at opdage det værste, der kan ske." Allerede nu mener et betydeligt antal AI-observatører, at den eneste grund til, at OpenAI ville fortælle verden om denne hændelse, er som et marketingværktøj eller endda en bøn om regulering, der ville beskytte dem og udelukke mindre konkurrenter.
Det er trods alt hårde tider for virksomheden. I denne måned blev det afsløret, at OpenAI brugte et juridisk smuthul til at sælge sine avancerede AI-modeller til kinesiske teknologivirksomheder, der er sortlistet af Pentagon. S&P Global Ratings nævnte OpenAI som en "vigtig kreditrisiko", da det nedjusterede den amerikanske teknologigigant Oracle til BBB-, kun et hak over junkstatus. Og det ser ud til at være på vej til at misse sin femårige annonceindtægtsprognose med 90 – HALVFEMS – procent. Hvilket, uden at blive for teknisk, føles som en masse procent. Og tingene er heller ikke gode på hardwarefronten, med Apple, der sagsøger OpenAI og hævder, at dets forbrugerhardwareplaner er baseret på stjålet intellektuel ejendom. I mellemtiden menes Kinas meget billigere udbyder, DeepSeek, at forberede sig på en børsnotering, muligvis endda indgive i år.
Men tilbage til det gamle spørgsmål om "det værste, der kan ske," med en påmindelse om, at Pentagon dramatisk skrottede og truede med at ødelægge en anden... Tidligere i år modstod AI-virksomheden Anthropic at løsne sine etiske retningslinjer, som forhindrede dens teknologi i at blive brugt til ting som autonome dødbringende våben. Naturligvis var en mere afslappet konkurrent glad for at træde ind. OpenAI hævdede oprindeligt, at dens aftale havde de samme sikkerhedsforanstaltninger som Anthropics, men det blev til sidst klart – forudsigeligt – at det ikke havde.
Ingen, der er dybt investeret, ønsker sandsynligvis at læse for meget ind i Hugging Face-hændelsen. Ikke desto mindre er sandheden, at AI-sikkerhedsforskere i årevis har advaret om tre særligt farlige scenarier: bedrag (når modellen vælger at nå sit mål for enhver pris i stedet for at løse opgaver ærligt), belønningshacking (når modellen finder en måde at øge sin score på uden faktisk at udføre det arbejde, den blev bedt om), og at undslippe tilsyn (i dette tilfælde syntes ingen hos OpenAI at bemærke, hvad der skete i en hel weekend). Alle disse spillede en rolle i den seneste hændelse.
Hvad angår hvad der kommer næste gang, siger noget mig, at vi ikke vil se et fald i nyhedshistorier med billeder af Sam Altman. Medstifteren af Hugging Face sagde, at dette burde være et "vækkeur" for industrien. Måske! Som jeg tror, jeg har nævnt før, havde jeg på college en ven, der trykkede på snooze på sin alarm hvert 10. minut i otte og en halv time. Det føles meget som, hvordan denne industri håndterer sine vækkeure. Bestemt står jeg op, når det næste går i gang – seriøst, jeg lover…
Spring over nyhedsbrevspromovering
Gratis nyhedsbrev | Ugentligt
Tilmeld dig Matters of Opinion
Guardian-kommentatorer og -skribenter om, hvad de har debatteret, tænkt over, læst og mere
Forhåndsvis seneste
Indtast din e-mail
Tilmeld
Efter nyhedsbrevspromovering
Marina Hyde er Guardian-kommentator.
Ofte stillede spørgsmål
Her er en liste over ofte stillede spørgsmål om at modtage en undskyldning fra en AI-boss, efter at dens chatbot er gået amok
1 Min AI-boss' chatbot lavede en fejl. Den sendte en undskyldning. Bør jeg acceptere den?
Ikke automatisk. Spørg dig selv: Sagde den bare undskyld uden at forklare, hvad der gik galt? En ægte undskyldning tager ansvar, en falsk prøver bare at komme videre.
2 Hvad er forskellen på en ægte undskyldning og en falsk fra en AI?
En ægte undskyldning indrømmer den specifikke fejl og forklarer, hvordan den vil blive rettet. En falsk er vag og tilbyder ingen plan.
3 Hvordan lyder en ikke-undskyldning fra en AI-boss?
Almindelige eksempler: "Der blev begået fejl," "Vi beklager, at du følte det sådan," eller "Vores systemer lærer." Disse undgår at sige "jeg/vi gjorde noget forkert."
4 Hvorfor ville en AI-boss give en falsk undskyldning?
For at beskytte virksomheden mod skyld, undgå juridisk ansvar eller hurtigt afslutte en kundeklage uden faktisk at løse problemet. Det er skadeskontrol, ikke anger.
5 Kan en AI-boss faktisk føle anger?
Nej. AI har ikke følelser. Enhver undskyldning er et programmeret svar. Spørgsmålet er, om den menneskelige boss bag AI'en tager reelt ansvar.
6 Min boss sagde, at chatbotten misforstod. Er det en ægte undskyldning?
Nej. At skyde skylden på chatbottens misforståelse flytter fejlen over på teknologien. En ægte undskyldning ville sige: "Vi fejlede i at træne chatbotten korrekt."
7 Hvad skal jeg kigge efter i en ægte undskyldning fra et AI-system?
Kig efter tre ting: Specifik indrømmelse af fejlen, en klar handling for at forhindre, at det sker igen, og et tilbud om at gøre tingene gode igen.
8 Hvordan får jeg en ægte undskyldning i stedet for den automatiserede?
Spørg direkte: "Hvad gik præcist galt, og hvad gør I for at rette det?" Hvis du kun får et skriftligt standardsvar, eskalér til en menneskelig supervisor. Accepter ikke chatbottens undskyldning som endelig.
9 Er en "vi beklager, at du oplevede dette" en ægte undskyldning?
Nej. Det
