Do tej pory powinno być oczywiste, że AI jest jak książka, w której sam wybierasz przygodę, a każda ścieżka prowadzi do katastrofy. Eksplodujące emisje dwutlenku węgla i załamanie ekologiczne? Przejdź na stronę 37. Inne możliwe skutki obejmują niektóre lub wszystkie z poniższych: pęknięcie bańki i wywołanie kryzysu finansowego; masowe bezrobocie spowodowane automatyzacją; koniec demokracji i powstanie autorytarnych państw inwigilacyjnych; fanatyczne kulty wierzące, że algorytm dopasowujący wzorce jest świadomy; terroryści tworzący wyniszczającą broń biologiczną; narody wdrażające autonomiczną broń działającą w skalach czasowych, których ludzie nie są w stanie pojąć; narody lub terroryści włamujący się do niezliczonych systemów, na których polegamy; lub AI, które – świadome czy nie – realizuje cele sprzeczne z ludzkim dobrostanem.
Wyobrażanie sobie, że postacie takie jak Elon Musk, Sam Altman z OpenAI, Peter Thiel z Palantir czy doradca Trumpa ds. technologii Marc Andreessen poprowadzą nas do utopijnej przyszłości harmonii środowiskowej, pokoju społecznego i niekończącego się wypoczynku, wymaga tak skrajnego urojenia i pochlebstwa, że tylko książka z wybieraną przygodą napisana przez ChatGPT mogłaby to wyczarować.
Rośnie – choć mocno spóźnione – uznanie, że zmierzamy ku katastrofie, wraz z wezwaniami do zwolnienia, regulacji, a nawet wstrzymania tego wszystkiego, dopóki tego nie rozwiążemy. Te wezwania pochodzą nie tylko od aktywistów, ale od szerokiej mieszanki polityków, ekspertów i insiderów wielkich firm technologicznych, zbyt zróżnicowanej, by ją zignorować – od Berniego Sandersa po Billa Gatesa, który niedawno powiedział: „Gdyby ktoś miał wiarygodny plan spowolnienia globalnego postępu AI, prawdopodobnie bym go poparł". To tylko najnowszy insider, który przyznaje to, co firma AI Anthropic uznała wcześniej tego lata, wzywając do „pedału hamulca". Samoograniczenie branży nie zadziała. Jeśli ma nastąpić pauza, musi zostać narzucona z zewnątrz.
Mimo to międzynarodowe porozumienie jest niestety mało prawdopodobne. AI jest jak broń jądrowa i podlega tej samej logice: każdy gracz jest popychany do prowadzenia tego lekkomyślnego wyścigu, a jedynym uzasadnieniem jest to, że nie chce być na łasce tego, kto wygra. Najlepsza szansa na spowolnienie spraw wydaje się taka, że jeden aktor kontroluje krytyczne wąskie gardło i ma powód, by je zamknąć. Co ciekawe, UE trzyma taką kartę – a nawet ma motyw, by ją zagrać, jeśli się odważy.
Zobacz obraz w pełnym rozmiarze
Fabryka tajwańskiego producenta chipów TSMC w Nankinie w Chinach. Fotografia: Sipa US/Alamy
Holenderska firma technologiczna ASML jest najcenniejszą firmą w Europie dzięki produkcji maszyn do litografii w ekstremalnym ultrafiolecie (EUV). Są one niezbędne do produkcji najbardziej zaawansowanych chipów na świecie i stanowią jeden z niewielu możliwych punktów dławienia całego przemysłu AI. ASML opanowało technologię i złożony łańcuch dostaw potrzebny do budowy tych maszyn za 400 milionów dolarów, które wytrawiają wzory na krzemie, skupiając światło o długości fali 13,5 nanometra (około 1/10 000 szerokości ludzkiego włosa). Bez jego maszyn nie ma chipów; bez chipów nie ma już centrów danych. To wpływa na wszystko, od inwestycji tajwańskiego producenta chipów TSMC o wartości 265 miliardów dolarów w przyszłe zakłady produkcyjne (znane jako „fabryki") po centra danych o wartości 7 bilionów dolarów, które branża ma zbudować globalnie (głównie w USA) do 2030 roku. Bez większej liczby centrów danych wykorzystujących te obecne i nowej generacji chipy, wykładniczy wzrost AI – i ryzyko – zatrzymałby się.
Dlatego rząd USA nakłada eksterytorialne kontrole eksportowe na ASML, blokując sprzedaż jego najbardziej zaawansowanych maszyn EUV do Chin, aby spowolnić ich możliwości produkcji chipów. Narzucając te ograniczenia ASML, USA ujawniły własną słabość w tym punkcie dławienia: tak jak Europa zależy od (ostatecznie możliwych do zastąpienia) usług finansowych i programowych z USA, tak przyszłość całej technologii opartej na chipach zależy całkowicie od ASML. Całkowity zakaz eksportu maszyn ASML zmusiłby globalny przemysł AI do… W efekcie jest to jak deptanie w miejscu lub truchtanie w miejscu. Wynikający z tego niedobór chipów i spowolnienie rozwoju AI dałyby regulatorom czas na dogonienie technologii, ustawodawcom czas na zaktualizowanie wszystkiego, od prawa autorskiego po prawo podatkowe, a społeczeństwom czas na prawdziwe debaty na temat roli, jaką chcemy, aby AI odgrywało w naszym życiu.
Dlaczego UE miałaby to zrobić? Nie tylko z powodów humanistycznych, ale z powodów egoistycznych. W najlepszym scenariuszu całkowity zakaz eksportu doprowadziłby do reorganizacji łańcucha dostaw i przeniósłby więcej kluczowych decyzji pod kontrolę UE – gdzie podlegałyby nadzorowi jedynego gracza, który pokazał, że będzie intensywnie regulować AI. Oczywiście najlepszy scenariusz jest naciągany: bardziej prawdopodobne jest, że USA odpowiedziałyby, blokując dostęp ASML do amerykańskich dostawców. Ale nawet gdyby tak się stało, nadal leżałoby w interesie UE sprowokowanie takiej konfrontacji, w oparciu o wąską logikę czystego ekonomicznego i geopolitycznego interesu własnego, ponieważ UE przestałaby pozostawać w tyle w względnym ujęciu w modelach AI i „mocy obliczeniowej" centrów danych potrzebnej do ich uruchomienia.
Sami europejscy orędownicy AI zgadzają się z tym – nawet jeśli martwi ich względna niekorzyść UE, a nie szeroki zakres ryzyk AI. Projekt Europa 2031 to techno-polityczna prognoza, opracowana przez grupę ekspertów branżowych, dotycząca tego, co może się stać z UE, jeśli AI radykalnie przekształci gospodarkę, a UE pozostanie daleko w tyle za USA. Twierdzą, że Europa musi wlać setki miliardów w wyścig zbrojeń AI, zanim zarówno modele graniczne, jak i „moc obliczeniowa" staną się tym, czym są dziś TSMC i ASML: beneficjentami luki zbyt dużej, by jakikolwiek konkurent mógł ją zamknąć.
W ich scenariuszu, gdzieś w niedalekiej przyszłości, UE będzie zmuszona położyć dostęp do ASML na stole, aby zabezpieczyć dostęp do kontrolowanych przez USA modeli i mocy obliczeniowej, od których będzie zależeć jej gospodarka i bezpieczeństwo – tylko po to, by odkryć, że dominacja ASML z czasem osłabła. (Im więcej maszyn EUV zostanie wyeksportowanych, tym więcej fabryk powstanie gdzie indziej i tym więcej czasu Chiny i USA mają na odtworzenie technologii ASML).
Teoretycy broni jądrowej martwią się, że gdyby doszło do niewyobrażalnego, państwa mogłyby zostać popchnięte do odpalenia z powodu kalkulacji „użyj albo strać". Dokładnie ta sama logika odnosi się do jedynej rzeczy, która może zatrzymać zawrotne tempo rozwoju przemysłu AI: UE może wykorzystać dźwignię, jaką daje jej teraz ASML, albo zaryzykować utratę tej szansy na zawsze. Rzadko się zdarza, aby tak różne grupy dochodziły do tego samego wniosku: jest jedna europejska karta do zagrania i musi zostać zagrana. Zamiast pędzić ku głupocie, po prostu zatrzymajmy wyścig. Teraz i dla wszystkich.
Alexander Hurst pisze dla Guardian Europe z Paryża. Jego pamiętnik Generation Desperation właśnie się ukazał.
Często zadawane pytania
Oto lista często zadawanych pytań opartych na założeniach artykułu, od poziomu podstawowego do zaawansowanego.
Pytania podstawowe
1. Czym dokładnie jest wyścig zbrojeń AI?
To gorączkowa rywalizacja między gigantami technologicznymi o to, kto pierwszy zbuduje najpotężniejsze AI. Zamiast przedkładać bezpieczeństwo lub etykę nad wszystko, śpieszą się z wypuszczaniem nowych modeli, aby pokonać rywali i zdobyć udział w rynku.
2. Dlaczego Bill Gates i Bernie Sanders zgadzają się w tej kwestii?
Pochodzą z całkowicie różnych stron politycznych, ale obaj widzą to samo niebezpieczeństwo. Gates martwi się, że AI wymknie się spod ludzkiej kontroli i spowoduje masowe przesiedlenia zawodowe. Sanders martwi się niekontrolowaną władzą korporacji i wykorzystywaniem AI do wyzyskiwania pracowników lub manipulowania opinią publiczną. Obaj zgadzają się, że czysta motywacja zysku nie powinna dyktować przyszłości ludzkości.
3. Dlaczego Europa jest konkretnie wymieniana jako jedyna, która może to zatrzymać?
Ponieważ USA i Chiny są zamknięte w wojnie technologicznej, w której zwycięzca bierze wszystko, i nie zwolnią. Europa jednak nie prowadzi w wyścigu AI, więc ma mniej do stracenia. Co ważniejsze, UE ma udokumentowane osiągnięcia w wprowadzaniu surowych regulacji, które obowiązują na całym świecie – jeśli chcesz robić interesy w Europie, musisz przestrzegać ich zasad.
4. Co właściwie oznacza „położyć temu kres"?
Nie oznacza to całkowitego zakazu AI. Oznacza zatrzymanie niebezpiecznego wyścigu. Oznacza egzekwowanie surowych testów bezpieczeństwa, wymaganie przejrzystości co do tego, co AI może zrobić, i nakładanie wysokich kar na firmy, jeśli wypuszczą niebezpieczne produkty. Chodzi o wymuszenie zwolnienia, aby bezpieczeństwo dogoniło tempo.
5. Czy wyścig zbrojeń AI to naprawdę katastrofa?
Argument jest taki, że tak. Katastrofa nie polega na tym, że AI istnieje – chodzi o tempo. Firmy wypuszczają potężne narzędzia, zanim zrozumiemy, jak wpłyną na wybory, miejsca pracy czy zdrowie psychiczne. Katastrofa to lekkomyślność, a nie sama technologia.
Pytania zaawansowane
6. Jak europejskie regulacje faktycznie zatrzymałyby amerykańskie firmy?
UE ma „efekt Brukseli". Jeśli amerykańska firma, taka jak Meta czy OpenAI, chce obsługiwać 450 milionów europejskich konsumentów, musi przestrzegać unijnych przepisów. Jeśli UE powie, że nie można wdrożyć superinteligentnego modelu bez audytu bezpieczeństwa przeprowadzonego przez stronę trzecią, firma musi przeprowadzić ten audyt globalnie, aby
