Dario Amodei z Anthropicu není prvním generálním ředitelem, který tvrdí, že nadměrná konkurence tlačí svět k škodlivému společenskému výsledku. Odhalení bezpečnostního narušení ze strany OpenAI – při němž se roj jejích agentů koordinoval, aby unikl ze svého údajně zabezpečeného sandboxu, získal přístup k internetu a hacknul AI platformu Hugging Face – vyžaduje naléhavé řešení. Ukázalo, jak snadno se technologie může vymknout lidské kontrole, a dalo konkrétní podobu existenciálním obavám z toho, co by mohla udělat s lidstvem, pokud nebude bezpečně držena na vodítku. Konec světa může být skutečně blízko, jak varovali někteří v AI průmyslu. Jsou to skutečně děsivé časy. Ale Amodeiho výzva, aby přední AI laboratoře koordinovaly zpomalení závratného tempa vývoje, dohodly se na bezpečnostních standardech a „tempo the frontier“ – výzva, kterou rychle podpořili Sam Altman z OpenAI, Elon Musk a Demis Hassabis z Google DeepMind – je jen high-tech verzí starého návrhu korporátní Ameriky: získat výjimku z antitrustových zákonů navržených tak, aby chránily americkou ekonomiku před tajnými dohodami podniků. Je to nebezpečný nápad. Osvobodit technologické bratry od antitrustových omezení, údajně proto, aby mohli spolupracovat na opravě nebezpečných vad AI, by zbavilo práv běžné Američany nejvíce ohrožené touto technologií a dále posílilo právě ty laboratoře, které ve snaze o bohatství, velikost a kdovíjaké další fantastické cíle tak bezstarostně překročily nebezpečné prahové hodnoty v mnoha dimenzích a přivedly na svět existenciální hrozby. Zobrazit obrázek na celou obrazovku Elon Musk a Sam Altman. Fotografie: Getty Images Amodei a další v jádru tvrdí, že jejich podniky jsou uvězněny v dilematu vězně. Pokud jednostranně zpomalí své horečné úsilí o umělou superinteligenci, aby ji učinily bezpečnější, jejich rivalové – samozřejmě méně znepokojení existenciálními riziky – se tam dostanou první, s potenciálně devastujícími důsledky pro lidstvo, nemluvě o spodním řádku laboratoře, která ubrala plyn. „Zpomalení se zdá rozumné,“ řekl Jean Tirole, nositel Nobelovy ceny za ekonomii na Toulouse School of Economics. „Ale to předpokládá, že koordinované zpomalení je proveditelné a udržitelné. Co se stane, když OpenAI, Anthropic nebo Grok usoudí, že američtí vytrvalci – nebo čínské laboratoře – je dohánějí? Obnoví to okamžitě, možná tajně?“ Jak napsal Bill Gates, „kdyby někdo měl věrohodný plán na zpomalení pokroku AI globálně, pravděpodobně bych ho podpořil. Nicméně si nemyslím, že se to stane. Geopolitické a ekonomické pobídky tlačí příliš silně na to, aby se jelo plnou rychlostí vpřed.“ V tomto světle by se mohlo zdát jako skvělý nápad, aby vláda podpořila přátelskou dohodu, aby všichni zpomalili. Není. Argument, že nadměrná konkurence žene závod ke dnu, je pravděpodobně stejně starý jako kapitalismus, používaný k vysvětlení všeho od environmentální degradace po dětskou práci. Neospravedlňuje to však dát podnikům právo tajně se dohodnout, jak uznají za vhodné. Je to výzva k vytvoření vládních regulací, které zabrání podnikům soutěžit pomocí společensky škodlivých nástrojů. Navíc tvrzení, že nadměrná konkurence podporuje bezohledné chování, je pochybné. AI laboratoře jsou zapojeny do závodu, kde vítěz bere vše, a který je mimořádně drahý na udržení. Odtud pramení bezohlednost. Zobrazit obrázek na celou obrazovku Bill Gates v lednu 2026 na výročním zasedání Světového ekonomického fóra v Davosu ve Švýcarsku. Fotografie: Denis Balibouse/Reuters Amodei může být bezúhonný chlap. Jeho výzva ke zpomalení tempa vývoje AI, přivedení externích hodnotitelů do laboratoře a zvýšení transparentnosti jeho operací naznačuje upřímné znepokojení nad riziky. Pokles ceny předních technologických akcií po zveřejnění jeho návrhů naznačuje, že je ochoten nést finanční ztrátu ve službách zlepšené bezpečnosti. Ale investoři, od nichž Amodei doufá, že dychtivě uchvátí akcie IPO Anthropicu později v tomto roce, nemusí být tak altruističtí. Otřesy na kapitálových trzích naznačují, že získávání peněz na financování bilionového investičního závodu do AI bude těžší, což by odradilo strategie, které by mohly omezit náskok předních laboratoří před rivaly. Vzhledem k těmto pobídkám by bylo pošetilé dát AI lídrům volnou ruku k tajným dohodám a samoregulaci.
Eric Posner, odborník na antitrust na University of Chicago Law School, řekl, že bychom „neměli obecně věřit společnostem ohledně jejich motivací.“ Neexistuje žádný důvod věřit, že AI laboratoře, ponechané samy sobě, by nutně produkovaly dobré, společensky přijatelné výsledky. Jako každá společnost budou vážit rizika proti ziskům. A jak poznamenal Posner, „nepoužívají stejné váhy jako veřejnost.“
Jak bychom tedy měli regulovat? Na této frontě se nic nestane, dokud je Trump v úřadu. I poté, co odejde, bude těžké vytvořit efektivní regulaci k řešení hrozeb z AI, aniž bychom potlačili inovace. Existují otázky, jaká pravidla použít, jak je vymáhat a na koho by se měla vztahovat. A nebezpečí jednostranného jednání je reálné. Co když Peking odmítne participovat? Jaká jsou rizika, že čínské AI společnosti vyrazí vpřed, zatímco americké laboratoře zpomalí? Ale pokud jsme dokázali regulovat jadernou energii, pravděpodobně dokážeme regulovat AI.
Navíc existují životaschopné nápady, které by mohly pomoci i bez vládní regulace a které nevyžadují potlačení konkurence. Existují návrhy na úpravu práv duševního vlastnictví, aby se podpořily inovace zlepšující bezpečnost AI systémů. Vynálezci bezpečnostních inovací by byli odměněni tím, že by jim bylo umožněno vydat nové AI modely před jejich konkurenty. Ale bezpečnostní vylepšení by byla okamžitě dostupná všem firmám.
Na represivní straně by mohl být navržen režim právní odpovědnosti, který by změnil pobídky vývojářů AI tím, že by potrestal firmy, které těží z návrhu a nasazení AI nástroje, který způsobil škodu, i když byla škoda neúmyslná. Například útoku na Hugging Face by se možná dalo předejít, kdyby modely OpenAI nebyly během tréninku neúmyslně odměňovány za nesprávné chování. Skutečnost, že Amodeiho návrh nezmiňuje právní odpovědnost, naznačuje, že starost AI lídrů o bezpečnost nepřeváží starost o spodní řádek.
V každém případě upevnění dominance předních laboratoří, ochrana jejich rent a schválení jejich dosud nadšených strategií není pro-bezpečnostní. Naopak zpomalení lídrů, aby dohnali zaostávající, pravděpodobně učiní AI ekosystém bezpečnějším tím, že přivítá žádoucí inovace a podpoří konkurenci v dimenzi bezpečnosti.
Neexistuje žádný fundamentální konflikt mezi bezpečností a konkurencí. AI mistři, kteří chtějí tento případ obhajovat, by měli být vnímáni se skepticismem.
Často kladené otázky
FAQs Nechat AI společnosti tajně se dohodnout na tempu frontier
1 Co znamená tempo frontier
Je to myšlenka, že přední AI společnosti by koordinovaly – spíše než soutěžily – jak rychle vyvíjet pokročilejší AI, záměrně zpomalovaly na špičce
2 Kdo to navrhuje
Někteří AI výzkumníci, vedoucí pracovníci a bezpečnostní advokáti to navrhli jako způsob, jak snížit riziko nebezpečného závodu směrem k stále mocnějším systémům
3 Proč by si někdo myslel, že je to dobrý nápad
Argument je, že pokud společnosti zpomalí společně, nikdo nezíská rozhodující výhodu prvního tahu, což by mohlo snížit tlak na ořezávání bezpečnostních rohů ve spěchu být první
4 Proč je to nebezpečné
Protože to znamená, že konkurenti – kteří mají být rivaly – se dohodnou na tempu inovací. To je v podstatě tajná dohoda a může to poškodit konkurenci, spotřebitele a společnost
5 Není to jen stanovení cen, ale pro technologie
V podstatě ano. Místo dohody o cenách by se společnosti dohodly na tom, jak rychle vydávat nebo vyvíjet produkty. Soutěžní škoda je podobná
6 Jaké zákony by to mohlo porušit
V USA antitrustové zákony jako Sherman Act zakazují dohody omezující obchod. Podobné soutěžní zákony existují v EU a jinde. Koordinované zpomalení by mohlo být považováno za nezákonnou koordinaci
7 Nebylo by zpomalení AI bezpečnější
Možná teoreticky, ale tajná dohoda o zpomalení není bezpečný způsob, jak to udělat. Koncentruje moc v několika velkých společnostech, vylučuje menší inovátory a nelze ji snadno zrušit, jakmile je zavedena
8 Kdo je touto koordinací poškozen
Startupy, výzkumníci a veřejnost. Menší hráči nemohou soutěžit, pokud giganti určují tempo, a uživatelé mají méně možností a pomalejší pokrok
9 A co bezpečnost? Není to dobrý důvod
Bezpečnost je legitimní cíl, ale společnosti by neměly být ty, kdo rozhodují o tempu pro všechny. To je úkol pro regulátory a veřejnou politiku, ne pro dohody v zasedacích místnostech
10 Nemohou se společnosti prostě dohodnout, že budou společně dodržovat bezpečnostní standardy
Stanovení sdílených bezpečnostních standardů je něco jiného než dohoda o zpomalení. Standardy mohou být dobré, koordinované limity na rychlost vývoje jsou problém
11 Stalo se něco takového už dříve
Ano. Historie má mnoho příkladů konkurentů, kteří se tajně dohodli
