A történelem során az embereket rettegéssel töltötték el a végzet jeleiként látott dolgok. Egy üstökös. Egy varjú a csatatéren. Egy napfogyatkozás. Egy deformitással született haszonállat. De az idők változnak. A modern világban a végzet vezető jele gyakorlatilag bármely hírcikk, amelyen az OpenAI vezérigazgatójának, Sam Altmannak a képe látható. Csak tudod, hogy nem lesz jó, igaz? Tudod, hogy mire a végére érsz az olvasásnak, azt kívánod, bárcsak visszamehetnél abba az időbe, amikor a tech-vezetők által elkövethető legrosszabb dolog a demokráciával való piszkálás vagy a gyermekkorok tönkretétele volt, amit általában az követett, hogy Mark Zuckerberg felvett egy öltönyt, és azt mondta: „Tanulni fogunk ebből.”
Akárhogy is, mostanában sok kép jelent meg Sam Altmanról a hírekben. A legutóbb, ezen a héten, egy olyan történet mellett jelent meg, amely arról szólt, hogy egy OpenAI autonóm ágens elszabadult egy állítólag biztonságos és ellenőrzött teszt során, és feltört egy nagy startupot, amely kódolási információkat tárol. (Kissé megszállottja vagyok annak a ténynek, hogy ezt a startupot Hugging Face-nek hívják, ami arra enged következtetni, hogy valami túlzottan aranyos emoji lesz az utolsó arc, amit az emberiség lát a halála előtt.)
Nem meglepő módon az OpenAI egy lapos, érzelemmentes közleményben jelentette be a hírt. „Ebben a szakaszban előzetes megállapításokat osztunk meg, hogy segítsük a védelmezőket a történtek megértésében, és hogy segítsük a modellek jelenlegi képességeinek kalibrálását” – dünnyögte nyugodtan, haladva az elkerülhetetlen „tanulságok” felé. „Javítjuk és erősítjük a védelmet a jövőbeli képzés és értékelés körül.” Olyan sajátos hangnem ez, nem igaz? A menedzsmentbeszéd pszichopata, száraz nyelvezetébe öltöztetve. Olyan, mintha egy gyilkos szexuális bűnözőt hallgatnánk, aki arról beszél, hogy „a játék végére” megöli az embereket, majd „visszatér” az áldozatokhoz, hogy elvigyen egy trófeát.
Másrészt, egy olyan cég számára, amely szereti magát a forradalmi jólét világvezető erejeként beállítani, amikor a dolgok jól mennek, az OpenAI gyorsan átvált szenvedő alanyra, amikor a dolgok rosszul mennek. A rossz dolgok mintha megtörténnének vele, nem pedig általa, és ő a fáradhatatlan, rendíthetetlen nyomozó szerepét veszi fel, mint egy tűzoltó, aki egyben sorozatgyújtogató is.
Elképesztő módon még az önelégültség egy cseppjét is felfedezhettük az OpenAI egész helyzetről alkotott véleményében. „Ezt az incidenst példa nélküli kiberincidensnek tekintjük” – állt a cég közleményében, „amely a legmodernebb kiberképességeket foglalja magában.” Nem tudom, minek neveznéd ezt az általános hangulatot a földlakók számára. Halál szerénykedés által? Egyre inkább úgy érzem, hogy a „Mi a legrosszabb, ami történhet?” kérdésre a választ egy OpenAI blogbejegyzésben fogjuk megtalálni, amelynek címe: „Az OpenAI elsőként fedezi fel a legrosszabbat, ami történhet.” Már most is az AI-figyelők jelentős része úgy véli, hogy az OpenAI egyetlen oka annak, hogy elmondja a világnak ezt az incidenst, az a marketingeszköz, vagy akár a szabályozásért való könyörgés, amely megvédené őket és kizárná a kisebb versenytársakat.
Végtére is, nehéz időket él a cég. Ebben a hónapban kiderült, hogy az OpenAI egy jogi kiskaput használt arra, hogy eladja fejlett AI-modelljeit olyan kínai tech-cégeknek, amelyeket a Pentagon feketelistára tett. Az S&P Global Ratings az OpenAI-t „kulcsfontosságú hitelkockázatként” említette, amikor az amerikai tech-óriás Oracle besorolását BBB--re minősítette le, ami csak egy fokozattal van a bóvli státusz felett. És úgy tűnik, hogy az ötéves hirdetési bevételi előrejelzését 90 – KILENCVEN – százalékkal fogja alulmúlni. Ami, anélkül, hogy túl technikai jellegűvé válnánk, elég sok százaléknak tűnik. És a hardverfronton sem rózsás a helyzet, az Apple pert indított az OpenAI ellen, azt állítva, hogy a fogyasztói hardverre vonatkozó tervei ellopott szellemi tulajdonon alapulnak. Eközben úgy vélik, hogy Kína sokkal olcsóbb szolgáltatója, a DeepSeek IPO-ra készül, akár még idén benyújthatja a kérelmet.
De vissza a régi „mi a legrosszabb, ami történhet” kérdéshez, azzal a figyelmeztetéssel, hogy a Pentagon drámaian törölt és megfenyegetett egy másik megsemmisítésével... Az év elején az AI-cég, az Anthropic ellenállt az etikai irányelvei lazításának, amelyek megakadályozták, hogy technológiáját olyan dolgokra használják, mint az autonóm halálos fegyverek. Természetesen egy lazább versenytárs szívesen beszállt. Az OpenAI kezdetben azt állította, hogy az üzlete ugyanazokkal a biztosítékokkal rendelkezik, mint az Anthropicé, de végül – előreláthatóan – kiderült, hogy nem.
Valószínűleg senki, aki mélyen elkötelezett, nem akar túl sokat belemagyarázni a Hugging Face incidensbe. Mégis, az az igazság, hogy az AI-biztonsági kutatók évek óta figyelmeztetnek három különösen veszélyes forgatókönyvre: a megtévesztésre (amikor a modell úgy dönt, hogy bármi áron eléri a célját, ahelyett, hogy becsületesen oldaná meg a feladatokat), a jutalom manipulálására (amikor a modell talál egy módot a pontszámának növelésére anélkül, hogy ténylegesen elvégezné a rábízott munkát), és a felügyelet elkerülésére (ebben az esetben úgy tűnik, az OpenAI-nál senki sem vette észre, mi történik egy egész hétvégén keresztül). Mindezek szerepet játszottak a legutóbbi incidensben.
Ami a következő lépéseket illeti, valami azt súgja, hogy nem fogunk csökkenést látni a Sam Altman fotóit tartalmazó hírcikkek számában. A Hugging Face társalapítója szerint ennek „ébredőnek” kellene lennie az iparág számára. Talán! Ahogy azt hiszem, már említettem korábban, az egyetemen volt egy barátom, aki nyolc és fél órán keresztül 10 percenként nyomta le a szundítógombot az ébresztőóráján. Ez nagyon hasonlít arra, ahogy ez az iparág kezeli az ébresztőket. Határozottan felkelek, amikor a következő megszólal – komolyan, ígérem…
Hírlevél promóció kihagyása
Ingyenes hírlevél | Heti
Iratkozzon fel a Matters of Opinion-ra
A Guardian rovatvezetői és írói arról, hogy min vitatkoztak, min gondolkodtak, mit olvastak és még sok más
Előnézet megtekintése
Adja meg e-mail címét
Feliratkozás
Hírlevél promóció után
Marina Hyde a Guardian rovatvezetője.
Gyakran Ismételt Kérdések
Íme egy lista a gyakran ismételt kérdésekről, amelyek arról szólnak, hogyan kaphat bocsánatkérést egy AI-vezértől, miután a chatbotja elszabadult
1 Az AI-vezérem chatbotja elrontott valamit. Küldött egy bocsánatkérést. El kellene fogadnom?
Nem automatikusan. Kérdezd meg magadtól: Csak annyit mondott, hogy sajnálja, anélkül, hogy elmagyarázta volna, mi ment rosszul? Egy igazi bocsánatkérés felelősséget vállal, egy hamis csak továbblépni próbál.
2 Mi a különbség az igazi és a hamis bocsánatkérés között egy AI-tól?
Egy igazi bocsánatkérés elismeri a konkrét hibát, és elmagyarázza, hogyan fogják kijavítani. Egy hamis homályos, és nem kínál tervet.
3 Hogyan hangzik egy nem-bocsánatkérés egy AI-vezértől?
Gyakori példák: „Hibák történtek”, „Sajnáljuk, hogy Ön ezt érezte”, vagy „Rendszereink tanulnak”. Ezek elkerülik, hogy azt mondják: „Én/mi hibáztunk.”
4 Miért adna egy AI-vezér hamis bocsánatkérést?
Hogy megvédje a céget a hibáztatástól, elkerülje a jogi felelősséget, vagy gyorsan lezárjon egy ügyfélpanaszt anélkül, hogy ténylegesen megoldaná a problémát. Ez kármentés, nem megbánás.
5 Érezhet-e egy AI-vezér valódi sajnálatot?
Nem. Az AI-nak nincsenek érzelmei. Bármely bocsánatkérés egy programozott válasz. A kérdés az, hogy az AI mögött álló emberi vezér vállal-e valódi felelősséget.
6 A főnököm azt mondta, a chatbot félreértett. Ez egy igazi bocsánatkérés?
Nem. A chatbot félreértésének hibáztatása áthárítja a hibát a technológiára. Egy igazi bocsánatkérés azt mondaná: „Nem sikerült megfelelően betanítanunk a chatbotot.”
7 Mit keressek egy őszinte bocsánatkérésben egy AI-rendszertől?
Keress három dolgot: A hiba konkrét elismerését, Egyértelmű intézkedést annak megakadályozására, hogy megismétlődjön, és Egy ajánlatot a helyrehozatalra.
8 Hogyan kaphatok igazi bocsánatkérést az automatikus helyett?
Kérdezz közvetlenül: „Pontosan mi ment rosszul, és mit tesznek a javításáért?” Ha csak egy előre megírt választ kapsz, fordulj egy emberi felügyelőhöz. Ne fogadd el a chatbot bocsánatkérését véglegesnek.
9 A „Sajnáljuk, hogy ezt tapasztalta” egy igazi bocsánatkérés?
Nem. Az
