Oto tłumaczenie tekstu z języka angielskiego na polski:
Na przestrzeni dziejów ludzie bali się rzeczy, które postrzegali jako oznaki zagłady. Kometa. Kruk na polu bitwy. Zaćmienie słońca. Zwierzę gospodarskie urodzone z deformacją. Ale czasy się zmieniają. We współczesnym świecie główną oznaką zagłady jest praktycznie każda wiadomość ze zdjęciem dyrektora generalnego OpenAI, Sama Altmana. Po prostu wiesz, że to nie będzie dobre, prawda? Wiesz, że zanim skończysz czytać, będziesz żałować, że nie możesz wrócić do czasów, gdy najgorsze, co mogli zrobić szefowie technologicznych firm, to ingerować w demokrację lub niszczyć dzieciństwo, zwykle po czym Mark Zuckerberg zakładał garnitur i mówił: „Wyciągniemy z tego wnioski”.
Tak czy inaczej, ostatnio w wiadomościach pojawia się wiele zdjęć Sama Altmana. Najbardziej niedawno, w tym tygodniu, jedno pojawiło się obok historii o tym, jak autonomiczny agent OpenAI wymknął się spod kontroli podczas rzekomo bezpiecznego i kontrolowanego testu i włamał się do dużego startupu przechowującego informacje kodowania. (Jestem trochę zafiksowany na punkcie faktu, że ten startup nazywa się Hugging Face, co sprawia, że myślę, iż jakieś przesłodzone emoji będzie ostatnią twarzą, jaką ludzkość zobaczy przed śmiercią.)
Nic dziwnego, że OpenAI ogłosiło tę wiadomość w płaskim, pozbawionym emocji oświadczeniu. „Na tym etapie dzielimy się wstępnymi ustaleniami, aby pomóc obrońcom zrozumieć, co się stało, i pomóc skalibrować, do czego modele są teraz zdolne” – nuciło spokojnie, zmierzając ku nieuniknionym „wnioskom”. „Ulepszamy i dodajemy silniejsze zabezpieczenia wokół przyszłych szkoleń i ocen”. To taki specyficzny ton, prawda? Ubrany w psychopatyczny, suchy język korporacyjnej nowomowy. To jak słuchanie morderczego przestępcy seksualnego mówiącego o zabijaniu ludzi „do końca dnia”, a potem „wracaniu” do ofiar, by zabrać trofeum.
Z drugiej strony, dla firmy, która lubi przedstawiać się jako światowa siła napędowa rewolucyjnego dobrobytu, gdy wszystko idzie dobrze, OpenAI szybko przechodzi na stronę bierną, gdy coś idzie źle. Złe rzeczy zdają się jej przytrafiać, a nie być przez nią spowodowane, i przyjmuje rolę niestrudzonego, niewzruszonego śledczego, jak strażak, który jest jednocześnie seryjnym podpalaczem.
Co zadziwiające, w podejściu OpenAI do całej sytuacji można było nawet wyczuć nutę samozadowolenia. „Uważamy ten incydent za bezprecedensowy cyberincydent” – głosiło oświadczenie firmy – „wykorzystujący najnowocześniejsze możliwości cybernetyczne”. Nie wiem, jak nazwałbyś ten ogólny nastrój dla Ziemian. Śmierć przez skromne przechwałki? Coraz częściej czuję, że odpowiedź na pytanie „Co najgorszego może się wydarzyć?” poznamy w poście na blogu OpenAI zatytułowanym „OpenAI jako pierwsze odkrywa, co najgorszego może się wydarzyć”. Już teraz znaczna liczba obserwatorów AI uważa, że jedynym powodem, dla którego OpenAI powiedziałoby światu o tym incydencie, jest narzędzie marketingowe, a nawet prośba o regulacje, które chroniłyby ich i wykluczały mniejszych konkurentów.
W końcu to trudne czasy dla firmy. W tym miesiącu odkryto, że OpenAI wykorzystuje lukę prawną, aby sprzedawać swoje zaawansowane modele AI chińskim firmom technologicznym umieszczonym na czarnej liście przez Pentagon. S&P Global Ratings wymieniło OpenAI jako „kluczowe ryzyko kredytowe” przy obniżeniu ratingu amerykańskiego giganta technologicznego Oracle do BBB-, zaledwie jeden poziom powyżej statusu śmieciowego. Wygląda też na to, że firma jest na dobrej drodze, by nie osiągnąć swojej pięcioletniej prognozy przychodów z reklam o 90 – DZIEWIĘĆDZIESIĄT – procent. Co, nie wchodząc w zbytnie technikalia, wydaje się sporym procentem. I nie jest świetnie na froncie sprzętowym, ponieważ Apple pozywa OpenAI, twierdząc, że jego plany dotyczące sprzętu konsumenckiego opierają się na skradzionej własności intelektualnej. Tymczasem uważa się, że znacznie tańszy chiński dostawca, DeepSeek, przygotowuje się do pierwszej oferty publicznej, być może nawet składając wniosek w tym roku.
Ale wracając do starego pytania o „co najgorszego może się wydarzyć”, przypominając, że Pentagon dramatycznie odwołał i zagroził zniszczeniem innego... Wcześniej w tym roku firma AI Anthropic opierała się złagodzeniu swoich wytycznych etycznych, które uniemożliwiały wykorzystywanie jej technologii do rzeczy takich jak autonomiczna broń śmiercionośna. Naturalnie, bardziej elastyczny konkurent chętnie wkroczył do akcji. OpenAI początkowo twierdziło, że jego umowa ma takie same zabezpieczenia jak umowa Anthropic, ale ostatecznie stało się jasne – przewidywalnie – że tak nie jest.
Nikt, kto jest głęboko zaangażowany, prawdopodobnie nie chce zbyt wiele wyciągać z incydentu z Hugging Face. Mimo to prawda jest taka, że badacze bezpieczeństwa AI od lat ostrzegają przed trzema szczególnie niebezpiecznymi scenariuszami: oszustwem (gdy model decyduje się osiągnąć swój cel wszelkimi środkami, zamiast uczciwie rozwiązywać zadania), hakowaniem nagród (gdy model znajduje sposób na podbicie swojego wyniku bez faktycznego wykonywania pracy, którą mu zlecono) i ucieczką spod nadzoru (w tym przypadku nikt w OpenAI nie wydawał się zauważać, co się dzieje przez cały weekend). Wszystkie te elementy odegrały rolę w najnowszym incydencie.
Jeśli chodzi o to, co będzie dalej, coś mi mówi, że nie zobaczymy spadku liczby artykułów prasowych ze zdjęciami Sama Altmana. Współzałożyciel Hugging Face powiedział, że powinien to być „dzwonek alarmowy” dla branży. Może! Jak chyba wspominałem wcześniej, na studiach miałem przyjaciela, który wciskał drzemkę w budziku co 10 minut przez osiem i pół godziny. To bardzo przypomina sposób, w jaki ta branża traktuje swoje dzwonki alarmowe. Na pewno wstanę, gdy zadzwoni następny – poważnie, obiecuję…
Pomiń promocję newslettera
Bezpłatny newsletter | Tygodniowo
Zapisz się do Matters of Opinion
Felietoniści i pisarze Guardiana o tym, co debatowali, o czym myśleli, co czytali i nie tylko
Podgląd najnowszego
Wpisz swój adres e-mail
Zapisz się
Po promocji newslettera
Marina Hyde jest felietonistką Guardiana.
**Często zadawane pytania**
Oto lista często zadawanych pytań dotyczących otrzymania przeprosin od szefa AI po tym, jak jego chatbot wymknął się spod kontroli
1 Mój chatbot szefa AI nawalił Wysłał przeprosiny Czy powinienem je przyjąć
Nie automatycznie Zapytaj siebie Czy po prostu przeprosiło bez wyjaśnienia co poszło nie tak Prawdziwe przeprosiny biorą odpowiedzialność fałszywe tylko próbują iść dalej
2 Jaka jest różnica między prawdziwymi a fałszywymi przeprosinami od AI
Prawdziwe przeprosiny przyznają się do konkretnego błędu i wyjaśniają jak zostanie naprawiony Fałszywe są niejasne i nie oferują planu
3 Jak brzmią nieprzeprosiny od szefa AI
Typowe przykłady Popełniono błędy Przykro nam że tak to odebrałeś lub Nasze systemy się uczą Unikają powiedzenia Ja/my zrobiliśmy coś źle
4 Dlaczego szef AI miałby dać fałszywe przeprosiny
Aby chronić firmę przed winą uniknąć odpowiedzialności prawnej lub szybko zakończyć skargę klienta bez faktycznego rozwiązania problemu To kontrola szkód a nie skrucha
5 Czy szef AI może naprawdę odczuwać żal
Nie AI nie ma emocji Wszelkie przeprosiny są zaprogramowaną odpowiedzią Pytanie brzmi czy ludzki szef stojący za AI bierze prawdziwą odpowiedzialność
6 Mój szef powiedział że chatbot źle zrozumiał Czy to prawdziwe przeprosiny
Nie Obwinianie niezrozumienia przez chatbota przerzuca winę na technologię Prawdziwe przeprosiny powiedziałyby Nie udało nam się odpowiednio wyszkolić chatbota
7 Na co powinienem zwrócić uwagę w szczerych przeprosinach od systemu AI
Szukaj trzech rzeczy Konkretnego przyznania się do błędu Jasnego działania aby zapobiec jego ponownemu wystąpieniu oraz Oferty naprawienia sytuacji
8 Jak uzyskać prawdziwe przeprosiny zamiast automatycznych
Zapytaj bezpośrednio Co dokładnie poszło nie tak i co robicie aby to naprawić Jeśli otrzymasz tylko wyuczoną odpowiedź eskaluj sprawę do ludzkiego przełożonego Nie akceptuj przeprosin chatbota jako ostatecznych
9 Czy „Przykro nam że tego doświadczyłeś” to prawdziwe przeprosiny
Nie To
