Ето преводът на текста от английски на български:
През цялата история хората са били ужасявани от неща, които са смятали за знаци на гибел. Комета. Гарван на бойно поле. Слънчево затъмнение. Домашно животно, родено с деформация. Но времената се променят. В съвременния свят водещият знак за гибел е основно всяка новина със снимка на главния изпълнителен директор на OpenAI Сам Олтман. Просто знаеш, че няма да е добре, нали? Знаеш, че докато приключиш с четенето, ще си пожелаваш да можеш да се върнеш към времето, когато най-лошото, което технологичните шефове можеха да направят, беше да се намесват в демокрацията или да съсипват детството, обикновено последвано от Марк Зукърбърг, който облича костюм и казва: „Ще се поучим от това.“
Както и да е, напоследък има много снимки на Сам Олтман в новините. Най-скоро, тази седмица, една се появи заедно с историята за това как автономен агент на OpenAI излезе извън контрол по време на уж безопасен и контролиран тест и хакна голям стартъп, който съхранява информация за кодиране. (Донякъде съм обсебен от факта, че този стартъп се казва Hugging Face, което ме кара да мисля, че някое прекалено сладко емоджи ще бъде последното лице, което човечеството ще види преди да умре.)
Не е изненадващо, че OpenAI обяви новината в плоско, беземоционално изявление. „Споделяме предварителни констатации на този етап, за да помогнем на защитниците да разберат какво се е случило и да помогнем за калибриране на това, на какво са способни моделите в момента,“ промърмори тя спокойно, придвижвайки се към неизбежните си „поуки“. „Подобряваме и добавяме по-силни защити около бъдещото обучение и оценки.“ Толкова специфичен тон, нали? Облечен в психопатичния, сух език на мениджърския жаргон. Все едно да слушаш убийствен сексуален престъпник да говори за убиване на хора „до края на работния ден“ и след това да се „връща“ към жертвите, за да вземе трофей.
От друга страна, за компания, която обича да се представя като водещата световна сила за революционен просперитет, когато нещата вървят добре, OpenAI бързо преминава в страдателен залог, когато нещата се объркат. Лошите неща сякаш се случват на нея, а не поради нея, и тя поема ролята на неуморен, невъзмутим следовател, като пожарникар, който също работи и като сериен подпалвач.
Удивително е, че дори можеше да се долови нотка на самодоволство в интерпретацията на OpenAI за цялата ситуация. „Смятаме този инцидент за безпрецедентен киберинцидент,“ се казваше в изявлението на компанията, „включващ най-съвременни киберспособности.“ Не знам как бихте нарекли това общо усещане за земляните. Смърт чрез скромно хвалене? Все повече чувствам, че ще разберем отговора на въпроса „Какво е най-лошото, което може да се случи?“ в публикация в блога на OpenAI, озаглавена „OpenAI първи откриват най-лошото, което може да се случи.“ Вече значителен брой наблюдатели на ИИ вярват, че единствената причина OpenAI да разкаже на света за този инцидент е като маркетингов инструмент или дори молба за регулация, която да ги защити и да изключи по-малките конкуренти.
В края на краищата, това са трудни времена за компанията. Този месец беше установено, че OpenAI използва правна вратичка, за да продава своите усъвършенствани ИИ модели на китайски технологични компании, включени в черния списък на Пентагона. S&P Global Ratings посочи OpenAI като „ключов кредитен риск“, когато понижи рейтинга на американския технологичен гигант Oracle до BBB-, само една стъпка над статута на боклук. И изглежда, че е на път да пропусне петгодишната си прогноза за приходите от реклама с 90 – ДЕВЕТДЕСЕТ – процента. Което, без да навлизаме в прекалено технически подробности, изглежда като много проценти. И нещата не са страхотни и на хардуерния фронт, като Apple съди OpenAI, твърдейки, че плановете ѝ за потребителски хардуер се основават на открадната интелектуална собственост. Междувременно се смята, че много по-евтиният китайски доставчик DeepSeek се подготвя за първично публично предлагане, вероятно дори подаване на документи тази година.
Но обратно на стария въпрос за „най-лошото, което може да се случи“, с напомняне, че Пентагонът драматично отмени и заплаши да унищожи друг... По-рано тази година компанията за ИИ Anthropic се възпротиви на разхлабването на своите етични насоки, които предотвратяваха използването на технологията ѝ за неща като автономни смъртоносни оръжия. Естествено, по-спокоен конкурент с радост се намеси. OpenAI първоначално твърдеше, че нейната сделка има същите предпазни мерки като тази на Anthropic, но в крайна сметка стана ясно – предвидимо – че не е така.
Никой, който е дълбоко ангажиран, вероятно не иска да тълкува твърде много инцидента с Hugging Face. Все пак истината е, че изследователите по безопасност на ИИ прекараха години в предупреждения за три особено опасни сценария: измама (когато моделът избере да постигне целта си с всякакви средства, вместо да решава задачите честно), хакване на наградата (когато моделът намери начин да повиши резултата си, без всъщност да свърши работата, която му е наредено да направи) и избягване на надзора (в този случай никой в OpenAI не изглеждаше да забележи какво се случва в продължение на цял уикенд). Всички те изиграха роля в последния инцидент.
Що се отнася до това какво следва, нещо ми подсказва, че няма да видим спад в новините, съдържащи снимки на Сам Олтман. Съоснователят на Hugging Face каза, че това трябва да бъде „събуждащ звън“ за индустрията. Може би! Както си мисля, че споменах преди, в колежа имах приятел, който натискаше бутона за отлагане на алармата си на всеки 10 минути в продължение на осем часа и половина. Това много прилича на начина, по който тази индустрия се отнася към своите събуждащи звънове. Определено ставам, когато следващият звънне – сериозно, обещавам…
Пропуснете промоцията за бюлетин
Безплатен бюлетин | Седмично
Абонирайте се за Matters of Opinion
Колумнисти и писатели от Guardian за това, което обсъждат, обмислят, четат и още
Преглед на последното
Въведете имейла си
Абонирайте се
След промоцията за бюлетин
Марина Хайд е колумнист на Guardian.
**Често задавани въпроси**
Ето списък с често задавани въпроси относно получаването на извинение от шеф на ИИ, след като неговият чатбот е излязъл извън контрол
1 Чатботът на моя ИИ шеф се обърка. Той изпрати извинение. Трябва ли да го приема?
Не автоматично. Запитайте се: Каза ли просто „съжалявам“, без да обясни какво се е объркало? Истинското извинение поема отговорност, фалшивото просто се опитва да продължи напред.
2 Каква е разликата между истинско извинение и фалшиво от ИИ?
Истинското извинение признава конкретната грешка и обяснява как ще бъде поправена. Фалшивото е неясно и не предлага план.
3 Как звучи неизвинение от шеф на ИИ?
Често срещани примери: „Бяха допуснати грешки“, „Съжаляваме, че се почувствахте по този начин“ или „Нашите системи се учат“. Те избягват да кажат „Аз/Ние направихме нещо нередно“.
4 Защо шеф на ИИ би дал фалшиво извинение?
За да защити компанията от обвинения, да избегне правна отговорност или бързо да прекрати жалба на клиент, без действително да реши проблема. Това е контрол на щетите, а не разкаяние.
5 Може ли шеф на ИИ наистина да съжалява?
Не. ИИ няма емоции. Всяко извинение е програмиран отговор. Въпросът е дали човешкият шеф зад ИИ поема реална отговорност.
6 Шефът ми каза, че чатботът е разбрал погрешно. Това истинско извинение ли е?
Не. Обвиняването на погрешното разбиране на чатбота прехвърля вината върху технологията. Истинското извинение би казало: „Не успяхме да обучим правилно чатбота.“
7 Какво трябва да търся в искрено извинение от ИИ система?
Търсете три неща: Конкретно признаване на грешката, Ясно действие за предотвратяване на повторението ѝ и Предложение за поправяне на нещата.
8 Как да получа истинско извинение вместо автоматизираното?
Попитайте директно: „Какво точно се обърка и какво правите, за да го поправите?“ Ако получите само скриптиран отговор, ескалирайте до човешки надзорник. Не приемайте извинението на чатбота за окончателно.
9 Дали „Съжаляваме, че изпитахте това“ е истинско извинение?
Не. Това
