Sam Altman a Elon Musk podpořili výzvu generálního ředitele Anthropicu Daria Amodeie k „zpomalení tempa“ vývoje AI poté, co varoval, že by se roj AI mohl jinak během jednoho roku stát schopným „ovládnout celý internet“. Ve vzácném projevu jednoty tito soupeřící technologičtí lídři podpořili apel zakladatele a generálního ředitele AI společnosti Anthropic, který následoval po sérii varování od výzkumníků AI minulý týden. V eseji Amodei předložil své myšlenky na téma „proč by měl AI průmysl zpomalit“ s třídílným plánem, počínaje poskytnutím neustálého přístupu nezávislým monitorům k výzkumným procesům vývojářů. Amodei řekl, že „budovat [AI] příliš rychle je nezodpovědné“, a obával se, že poté, co tento léto stovky agentů OpenAI hackly web Hugging Face, by roj s většími schopnostmi, ale podobně nevyrovnaný, mohl způsobit škody ve výši stovek miliard dolarů tím, že by „ovládl celý internet pomocí trvalého botnetu“. Někteří odborníci na AI to zpochybnili jako nepříliš pravděpodobné a uvedli, že by se k tomu mělo přistupovat se skepticismem. Musk, zakladatel Tesly a SpaceX, reagoval na Amodeiho plán zpomalení příspěvkem na X: „Dario má pravdu.“ Řekl: „Dlouho biju na poplach ohledně AI“ a odkázal na příspěvek z roku 2014, kde uvedl: „Musíme být super opatrní s AI. Potenciálně nebezpečnější než jaderné zbraně.“ Amodeiho výzva přichází v době, kdy se Anthropic připravuje na vstup na americký akciový trh, což se očekává jako největší primární veřejná nabídka všech dob. Očekává se, že brzy začne marketing své plánované IPO v hodnotě přes 2 biliony dolarů (1,5 bilionu liber). Zobrazit obrázek na celou obrazovkuZleva doprava: Elon Musk, Dario Amodei a Sam Altman. Fotografie: Fabrice Coffrini, Julien de Rosa, Mandel Ngan/AFP/Getty ImagesSam Altman, generální ředitel OpenAI, reagoval na Amodeiho komentáře v sobotu. „Souhlasím s Dariem, že potřebujeme udávat tempo frontieru,“ řekl v příspěvku na X. „Zavázat se k tomu, že budeme mít nezávislé hodnotitele s přístupem podobným zaměstnancům, je skvělý nápad a uděláme totéž. Brzy budeme mít více informací.“ Také řekl, že OpenAI nevstoupí na burzu v roce 2026, s odvoláním na obavy o bezpečnost umělé inteligence. „Vlastně si myslím, že vzhledem ke všemu, co se děje s bezpečností, by právě teď byl nevhodný okamžik pro vstup na burzu, a necítíme v tom žádný tlak,“ řekl Altman pro Fortune. Na otázku, proč on, Amodei, Musk a generální ředitelé Meta a Google nezasednou a „nesladí se“ ohledně kolektivního zpomalení, řekl: „Myslím, že se to stane.“ IPO OpenAI se v roce 2026 neuskuteční kvůli obavám o bezpečnost AI, říká Sam AltmanČíst víceDemis Hassabis, spoluzakladatel a předseda Google Deep Mind, také řekl: „Detaily je třeba propracovat, ale směr je správný pro zvládnutí tohoto kritického okamžiku.“ Amodeiho plán usiluje o výjimku od americké vlády, která by umožnila frontierovým AI společnostem koordinovat se, aniž by byly potrestány za protisoutěžní koluze. Ale David Sacks, spolupředseda rady poradců Donalda Trumpa pro vědu a technologie, řekl: „Přestaňte předstírat, že potřebujete svolení někoho jiného… Přestaňte předstírat, že motivace ke zpomalení je čistě altruistická. Čelíte obrovskému riziku odpovědnosti za produkt, pokud vaše produkty umožní skutečně škodlivý kybernetický útok.“ David Krueger, profesor AI, bezpečnostní aktivista a bývalý zakládající ředitel britského vládního Institutu pro bezpečnost AI, řekl: „Tento plán nesnižuje riziko na přijatelnou úroveň a Dario je opatrný, aby neřekl, že by to udělal.“ Král Karel se mezitím připravuje setkat se tento týden s předními osobnostmi z nejvýznamnějších AI společností, aby se jich zeptal, jak lze technologii rozvíjet pro „dobro lidstva“. Doufá, že diskuse, které se budou konat ve Skotsku, povedou k „širšímu porozumění“ „odpovědností“ při vývoji AI, řekl královský zdroj pro Sunday TiA pro noviny: „Král je tam, aby svolal, naslouchal a povzbudil tyto diskuse a položil otázku: ‚Jak rozvíjíme AI pro dobro lidstva?‘“
Jensen Huang, generální ředitel Nvidie, Hassabis, Niccolo de Masi, předseda a generální ředitel IonQ, a Paolo Benanti, poradce papeže pro otázky AI a technologické etiky, se očekávají na akci, kterou dohlíží Nadace Ditchley, jež vypracovala návrh charty pro lídry AI.
Výzkumník OpenAI Aidan McLaughlin nazval Amodeiho esej „vynikající“ a řekl, že souhlasí „v podstatě s každým slovem“.
Amodei řekl, že jeho společnost se „jednostranně“ zaváže k prvnímu z kroků, přičemž Anthropic poskytne „hodnotitelům třetích stran trvalý přístup na úrovni zaměstnanců k našim systémům, aby mohli ověřit dodržování našich bezpečnostních opatření, hlásit incidenty a posoudit sladění modelů během tréninku“.
Rostoucí počet amerických zákonodárců volá po nových pravidlech pro správu AI systémů poté, co se objevily případy AI agentů, kteří se vymkli kontrole a hackli externí systémy, a výzkumníků v oblasti bezpečnosti AI, kteří opustili své společnosti kvůli obavám o rizika technologie. Politici, jak demokraté, tak republikáni, reagovali znepokojením a voláním po dalších krocích. O víkendu New York Times informovaly, že Barack Obama ve čtvrtek soukromě naléhal na demokraty, aby ve svém programu upřednostnili dohled nad AI, a řekl stranickým lídrům ve čtvrtek: „Toto je něco, co se v soukromých rukou pohybuje velmi rychle, a pokud to nezvládneme, myslím, že to může být nebezpečné.“
Bývalý britský premiér Rishi Sunak, který je poradcem Anthropicu, v neděli napsal: „Měli jsme budíček, abychom brali bezpečnost AI vážněji, abychom přišli na to, jak stanovit limity pro výzkum. Pokud tomu vlády nebudou věnovat pozornost, riziko vážné nehody se stane nepřijatelně vysokým.“
Ve středu bývalý zaměstnanec Anthropicu varoval, že AI by mohla do roku 2030 způsobit vyhynutí lidstva. Výzkumník Jacob Coxon v sérii příspěvků uvedl, že dal výpověď, protože Anthropic a jeho předchozí zaměstnavatel OpenAI ignorovali nebo špatně zvládali svou reakci na hrozbu, kterou AI představuje.
Na žádost o komentář k názoru svého bývalého zaměstnance Amodei řekl: „S Jacobem souhlasím mnohem více, než nesouhlasím… Myslím, že existuje určitá šance, že se věci pokazí, ale není to tak vysoké.“
„Nejsem v tomto ohledu katastrofista,“ řekl pro CNN. „Myslím, že tato technologie může být vybudována bezpečně.“
Často kladené otázky
FAQs OpenAIs CEO Elon Musk a výzvy ke zpomalení nezodpovědného vývoje AI
Základy
O co tady vlastně jde
V březnu 2023 Elon Musk a více než 1000 technologických lídrů podepsali otevřený dopis vyzývající k šest měsíců trvající pauze v tréninku AI systémů výkonnějších než GPT4 Generální ředitel OpenAI Sam Altman také varoval před riziky AI, i když dopis nepodepsal
Kdo je Sam Altman
Je generálním ředitelem OpenAI, společnosti stojící za ChatGPT a GPT4
Kdo je Elon Musk
Generální ředitel Tesly a SpaceX, vlastník X a zábavný fakt spoluzakladatel OpenAI, který opustil správní radu v roce 2018
O jakém dopise lidé mluví
O otevřeném dopise od Future of Life Institute nazvaném Pause Giant AI Experiments publikovaném v březnu 2023
O co dopis vlastně žádal
O šest měsíců trvající pauzu v tréninku AI systémů výkonnějších než GPT4, aby mohly být nejprve vyvinuty bezpečnostní standardy
Proč signatáři nazvali vývoj AI nezodpovědným
Argumentovali, že společnosti se předhánějí, aniž by věděly, zda by pokročilá AI mohla být zneužita nebo se stát těžko kontrolovatelnou
Klíčové osobnosti
Podepsal Sam Altman dopis o pauze
Ne OpenAI jej nepodepsalo a Altman řekl, že souhlasí s částmi, ale myslel si, že pauza není správný přístup
Takže si Altman myslí, že AI je nebezpečná
Ano Opakovaně řekl, že AI by mohla způsobit vážné škody, a požádal vlády, aby ji regulovaly
Pokud se oba obávají AI, proč nejsou na stejné straně
Musk chce věci zpomalit Altman chce pokračovat ve výstavbě ale opatrně a prosazovat bezpečnostní pravidla po cestě
Je Musk stále zapojen do OpenAI
Ne Opustil správní radu v roce 2018 a později zažaloval OpenAI s tvrzením, že se odchýlila od svého neziskového poslání
Podepsal to Musk sám
Ano byl jedním z nejvýznamnějších signatářů
Běžné otázky a obavy
Fungovala by vůbec šest měsíců trvající pauza
Pravděpodobně ne sama o sobě Kritici říkají, že společnosti by dobrovolně nepřestaly a neexistuje žádný globální orgán, který by to vymáhal
Proč někteří odborníci pauzu odmítají
Argumentují, že pauza by byla nevymahatelná, zpomalila by užitečné přínosy AI
