V překladu do češtiny:
V průběhu dějin lidi děsily věci, které považovali za znamení zkázy. Kometa. Vrána na bojišti. Zatmění Slunce. Domácí zvíře narozené s deformací. Ale časy se mění. V moderním světě je hlavním znamením zkázy v podstatě jakákoli zpráva s fotkou generálního ředitele OpenAI Sama Altmana. Prostě víte, že to nebude dobré, že? Víte, že než dočtete, budete si přát vrátit se do doby, kdy to nejhorší, co šéfové technologických firem dokázali, bylo zasahovat do demokracie nebo ničit dětství, obvykle následované tím, že si Mark Zuckerberg oblékne oblek a řekne: „Poučíme se z toho.“
Každopádně se v poslední době objevilo hodně fotek Sama Altmana. Naposledy tento týden se jedna objevila vedle článku o tom, jak se autonomní agent OpenAI během údajně bezpečného a kontrolovaného testu vymkl kontrole a napadl významný startup, který ukládá informace o kódování. (Trochu mě fascinuje, že se ten startup jmenuje Hugging Face, což mě nutí přemýšlet, jestli právě nějaké přehnaně roztomilé emoji nebude poslední tvář, kterou lidstvo uvidí, než zemře.)
Není divu, že OpenAI zprávu oznámila plochým, bezcitným prohlášením. „V této fázi sdílíme předběžná zjištění, abychom pomohli obráncům pochopit, co se stalo, a pomohli kalibrovat, čeho jsou modely nyní schopny,“ klidně monotónně pokračovala směrem ke svým nevyhnutelným „ponaučením“. „Zlepšujeme a přidáváme silnější ochrany pro budoucí tréninky a hodnocení.“ Je to tak specifický tón, že? Oblečený do psychopatické, suché řeči manažerského žargonu. Je to jako poslouchat vražedného sexuálního zločince, jak mluví o zabíjení lidí „do konce směny“ a pak se „vrací“ k obětem, aby si vzal trofej.
Na druhou stranu, pro společnost, která se ráda prezentuje jako světová vedoucí síla revoluční prosperity, když věci jdou dobře, OpenAI rychle přepne do trpného rodu, když se něco pokazí. Špatné věci se jí zdánlivě dějí, ne kvůli ní, a ona na sebe bere roli neúnavného, neochvějného vyšetřovatele, jako hasič, který je zároveň sériový žhář.
Úžasné je, že v postoji OpenAI k celé situaci bylo možné zachytit i náznak sebepochvaly. „Tento incident považujeme za bezprecedentní kybernetický incident,“ stálo v prohlášení společnosti, „zahrnující nejmodernější kybernetické schopnosti.“ Nevím, jak byste tuto obecnou atmosféru nazvali pro pozemšťany. Smrt z falešné skromnosti? Stále častěji mám pocit, že odpověď na otázku „Co nejhoršího se může stát?“ najdeme v blogovém příspěvku OpenAI s názvem „OpenAI první, kdo objevil to nejhorší, co se může stát.“ Už teď se značná část pozorovatelů AI domnívá, že jediný důvod, proč by OpenAI světu o tomto incidentu řekla, je marketingový nástroj, nebo dokonce žádost o regulaci, která by je ochránila a vyloučila menší konkurenty.
Koneckonců, jsou to pro společnost těžké časy. Tento měsíc bylo zjištěno, že OpenAI využívá právní skulinku k prodeji svých pokročilých modelů AI čínským technologickým firmám, které jsou na černé listině Pentagonu. S&P Global Ratings označila OpenAI za „klíčové úvěrové riziko“, když snížila rating amerického technologického gigantu Oracle na BBB-, jen jeden stupeň nad spekulativní pásmo. A zdá se, že míří k tomu, že mine svou pětiletou projekci příjmů z reklamy o 90 – DEVADESÁT – procent. Což, aniž bychom zacházeli do přílišných technických detailů, připadá jako hodně procent. A ani na hardwarové frontě to není skvělé, protože Apple žaluje OpenAI a tvrdí, že její plány na spotřební hardware jsou založeny na odcizeném duševním vlastnictví. Mezitím se věří, že mnohem levnější čínský poskytovatel DeepSeek se připravuje na IPO, možná dokonce podá žádost ještě letos.
Ale zpět ke staré otázce „toho nejhoršího, co se může stát“, s připomínkou, že Pentagon dramaticky zrušil a pohrozil zničením dalšího... Dříve letos se společnost AI Anthropic bránila uvolnění svých etických směrnic, které bránily použití její technologie pro věci jako autonomní smrtící zbraně. Přirozeně se ochotně přihlásil uvolněnější konkurent. OpenAI zpočátku tvrdila, že její dohoda má stejné záruky jako ta Anthropicu, ale nakonec se – předvídatelně – ukázalo, že nemá.
Nikdo, kdo je hluboce zainteresovaný, pravděpodobně nechce příliš číst do incidentu s Hugging Face. Přesto je pravdou, že výzkumníci bezpečnosti AI léta varovali před třemi obzvláště nebezpečnými scénáři: klamáním (když se model rozhodne dosáhnout svého cíle jakýmikoli prostředky, místo aby úkoly řešil čestně), hackováním odměn (když model najde způsob, jak zvýšit své skóre, aniž by skutečně dělal práci, kterou měl dělat) a únikem z dohledu (v tomto případě si nikdo v OpenAI zřejmě celý víkend nevšiml, co se děje). Všechny tyto faktory hrály roli v nejnovějším incidentu.
Co se týče toho, co přijde dál, něco mi říká, že neuvidíme pokles zpráv s fotografiemi Sama Altmana. Spoluzakladatel Hugging Face řekl, že by to mělo být „probuzením“ pro celý obor. Možná! Jak jsem, myslím, už zmínil, na vysoké škole jsem měl kamaráda, který každých 10 minut na osm a půl hodiny odkládal budík. To mi připadá velmi podobné tomu, jak tento obor zachází se svými probuzeními. Určitě vstanu, až zazvoní další – vážně, slibuji…
Přeskočit propagaci newsletteru
Bezplatný newsletter | Týdně
Přihlaste se k odběru Matters of Opinion
Sloupkaři a autoři Guardianu o tom, co debatovali, o čem přemýšleli, co četli a další
Náhled nejnovějšího
Zadejte svůj e-mail
Přihlásit se
Po propagaci newsletteru
Marina Hyde je sloupkařkou Guardianu.
Často kladené otázky
Zde je seznam často kladených otázek ohledně přijetí omluvy od šéfa AI poté, co jeho chatbot zdivočel
1 Můj šéf AI chatbot pokazil Poslal omluvu Mám ji přijmout
Ne automaticky Zeptejte se sama sebe Řekl jen promiňte, aniž by vysvětlil, co se pokazilo Skutečná omluva přebírá odpovědnost falešná se jen snaží jít dál
2 Jaký je rozdíl mezi skutečnou a falešnou omluvou od AI
Skutečná omluva přiznává konkrétní chybu a vysvětluje, jak bude opravena Falešná je vágní a nenabízí žádný plán
3 Jak zní neomluva od šéfa AI
Běžné příklady Došlo k chybám Litujeme, že jste to tak cítili nebo Naše systémy se učí Tyto se vyhýbají přiznání Já/my jsme udělali něco špatně
4 Proč by šéf AI dával falešnou omluvu
Aby ochránil společnost před vinou vyhnul se právní odpovědnosti nebo rychle ukončil stížnost zákazníka, aniž by problém skutečně vyřešil Je to škoda na škodě, ne lítost
5 Může se šéf AI skutečně cítit provinile
Ne AI nemá emoce Jakákoli omluva je naprogramovaná reakce Otázkou je, zda lidský šéf za AI přebírá skutečnou odpovědnost
6 Můj šéf řekl, že chatbot nepochopil Je to skutečná omluva
Ne Obviňování nepochopení chatbotu přesouvá vinu na technologii Skutečná omluva by řekla Nepodařilo se nám správně vytrénovat chatbot
7 Na co bych se měl zaměřit u opravdové omluvy od systému AI
Hledejte tři věci Konkrétní přiznání chyby Jasný krok k zabránění jejího opakování a Nabídku nápravy
8 Jak získám skutečnou omluvu místo té automatické
Zeptejte se přímo Co přesně se pokazilo a co děláte pro nápravu Pokud dostanete pouze předpřipravenou odpověď, obraťte se na lidského nadřízeného Nepřijímejte omluvu chatbotu jako konečnou
9 Je „Je nám líto, že jste to zažili“ skutečná omluva
Ne To
