Până acum, ar trebui să fie evident că inteligența artificială este ca o carte în care tu alegi aventura, iar fiecare drum duce la dezastru. Emisii de carbon explodând și colaps ecologic? Întoarce-te la pagina 37. Alte rezultate posibile includ unele sau toate următoarele: bula spărgându-se și declanșând o criză financiară; șomaj în masă din cauza automatizării; sfârșitul democrației și ascensiunea statelor autoritare de supraveghere; culte fanatice care cred că un algoritm de potrivire a modelelor este conștient; teroriști care creează arme biologice devastatoare; națiuni care desfășoară arme autonome ce operează pe scale de timp pe care oamenii nu le pot înțelege; națiuni sau teroriști care sparg nenumăratele sisteme de care depindem; sau o inteligență artificială care, conștientă sau nu, urmărește obiective care intră în conflict cu bunăstarea umană.
Să-ți imaginezi că figuri precum Elon Musk, Sam Altman de la OpenAI, Peter Thiel de la Palantir sau Marc Andreessen, consilierul tehnologic al lui Trump, ne vor conduce către un viitor utopic de armonie ecologică, pace socială și timp liber nelimitat necesită o amăgire și o lingușire atât de extreme încât doar o carte cu aventuri la alegere scrisă de ChatGPT ar putea să o conceapă.
Există o recunoaștere tot mai mare, deși mult întârziată, că ne îndreptăm către catastrofă, alături de apeluri de a încetini, reglementa sau chiar a pune pe pauză toate acestea în timp ce ne dăm seama ce să facem. Aceste apeluri nu vin doar din partea activiștilor, ci dintr-un amestec larg de politicieni, experți și insideri din marea tehnologie, prea variat pentru a fi ignorat—de la Bernie Sanders la Bill Gates, care a spus recent: „Dacă cineva ar avea un plan credibil pentru a încetini avansurile AI la nivel global, probabil l-aș sprijini." El este doar cel mai recent insider care recunoaște ceea ce compania de AI Anthropic a admis mai devreme în această vară, când a cerut o „pedală de frână." Autoreținerea industriei nu va funcționa. Dacă trebuie să existe o pauză, ea trebuie impusă din exterior.
În ciuda acestui fapt, un acord internațional este, din păcate, puțin probabil. AI este ca armele nucleare și urmează aceeași logică: fiecare jucător este împins să ducă această cursă nesăbuită, singura justificare fiind că nu vor să fie la mila celui care câștigă. Cea mai bună șansă de a încetini lucrurile, se pare, ar fi ca un singur actor să controleze un blocaj critic și să aibă un motiv să îl închidă. Interesant, UE deține o astfel de carte—și chiar are un motiv să o joace, dacă îndrăznește.
Vezi imaginea în ecran complet
Fabrica producătorului taiwanez de cipuri TSMC din Nanjing, China. Fotografie: Sipa US/Alamy
Compania tehnologică olandeză ASML este cea mai valoroasă companie din Europa, datorită producției sale de mașini de litografie cu ultraviolete extreme (EUV). Acestea sunt esențiale pentru cea mai avansată fabricare de cipuri din lume și sunt unul dintre puținele puncte de strangulare posibile pentru întreaga industrie AI. ASML a stăpânit tehnologia și lanțul de aprovizionare complex necesar pentru a construi aceste mașini de 400 de milioane de dolari, care gravează modele pe siliciu prin focalizarea luminii la o lungime de undă de 13,5 nanometri (aproximativ 1/10.000 din lățimea unui fir de păr uman). Fără mașinile sale, nu există cipuri; fără cipuri, nu mai există centre de date. Aceasta afectează totul, de la investiția de 265 de miliarde de dolari a producătorului taiwanez de cipuri TSMC în viitoare fabrici de producție (cunoscute ca „fab-uri") până la centrele de date în valoare de 7 trilioane de dolari pe care industria se așteaptă să le construiască la nivel global (în principal în SUA) până în 2030. Fără mai multe centre de date care să folosească aceste cipuri actuale și de generație următoare, creșterea exponențială—și riscul—AI s-ar opri brusc.
Acesta este motivul pentru care guvernul SUA impune controale extrateritoriale la export asupra ASML, blocând vânzările celor mai avansate mașini EUV către China pentru a încetini capacitățile sale de fabricare a cipurilor. Prin impunerea acestor restricții asupra ASML, SUA și-a expus propria slăbiciune la acest punct de strangulare: pe cât de mult depinde Europa de servicii financiare și software (în cele din urmă înlocuibile) din SUA, viitorul întregii tehnologii bazate pe cipuri depinde în întregime de ASML. O interdicție directă asupra exporturilor mașinilor ASML ar forța industria globală AI să... În efect, este ca și cum ai călca apa sau ai alerga pe loc. Lipsa rezultată de cipuri și încetinirea dezvoltării AI ar oferi regulatorilor timp să țină pasul cu tehnologia, legiuitorilor timp să actualizeze totul, de la legea drepturilor de autor la legea fiscală, și societăților timp să aibă dezbateri reale despre rolul pe care vrem ca AI să îl joace în viețile noastre.
De ce ar face UE un astfel de lucru? Nu doar pentru motive umaniste, ci pentru motive egoiste. În cel mai bun scenariu, o interdicție plată la export ar duce la o reorganizare a lanțului de aprovizionare și ar aduce mai multe decizii cheie sub controlul UE—unde ar fi supuse supravegherii singurului jucător care a arătat că va reglementa AI în mod extensiv. Desigur, cel mai bun caz este o întindere: este mai probabil ca SUA să riposteze blocând accesul ASML la furnizorii din SUA. Dar chiar dacă s-ar întâmpla asta, ar fi totuși în interesul UE să provoace o astfel de confruntare, bazată pe logica îngustă a interesului economic și geopolitic pur, pentru că UE ar înceta să rămână în urmă în termeni relativi în modelele AI și în „compute"-ul (puterea de procesare) necesar pentru a le rula.
Propriii susținători ai AI din Europa sunt de acord—chiar dacă ceea ce îi îngrijorează este dezavantajul relativ al UE, nu gama largă de riscuri ale AI. Proiectul Europe 2031 este o prognoză tehnico-politică, realizată de un grup de experți din industrie, despre ce s-ar putea întâmpla cu UE dacă AI transformă radical economia și UE rămâne mult în urma SUA. Ei susțin că Europa trebuie să investească sute de miliarde în cursa înarmării AI înainte ca atât modelele de frontieră, cât și „compute"-ul să devină ceea ce sunt TSMC și ASML astăzi: beneficiari ai unui decalaj prea mare pentru ca orice competitor să îl închidă.
În scenariul lor, cândva în viitorul apropiat, UE va fi forțată să pună accesul la ASML pe masă pentru a asigura accesul la modelele și compute-ul controlate de SUA de care economia și securitatea sa vor depinde—doar pentru a descoperi că dominația ASML s-a slăbit în timp. (Cu cât mai multe mașini EUV sunt exportate, cu atât mai multe fab-uri sunt construite în altă parte, și cu atât mai mult timp au China și SUA să replice tehnologia ASML.)
Teoreticienii armelor nucleare se îngrijorează că, dacă de neconceputul s-ar întâmpla, statele ar putea fi împinse către lansare din cauza unui calcul de „folosește-l sau pierde-l." Exact aceeași logică se aplică singurului lucru care poate opri dezvoltarea amețitoare a industriei AI: UE poate folosi pârghia pe care ASML i-o oferă acum, sau riscă să piardă complet acea șansă. Este rar ca grupuri atât de diferite să ajungă la aceeași concluzie: există o singură carte europeană de jucat, și trebuie jucată. În loc să alergăm spre nebunie, hai să oprim cursa. Acum, și pentru toți.
Alexander Hurst scrie pentru Guardian Europe de la Paris. Memoriile sale, Generation Desperation, sunt acum publicate.
Întrebări frecvente
Iată o listă de întrebări frecvente bazate pe premisa articolului, de la nivel începător la avansat.
Întrebări pentru începători
1. Ce este exact cursa înarmării AI?
Este competiția frenetică dintre giganții tehnologici pentru a construi primii cea mai puternică inteligență artificială. În loc să prioritizeze siguranța sau etica, se grăbesc să lanseze modele noi pentru a-și învinge rivalii și a capta cota de piață.
2. De ce sunt Bill Gates și Bernie Sanders de acord pe acest subiect?
Ei vin din părți politice complet diferite, dar ambii văd același pericol. Gates se îngrijorează că AI ar putea scăpa de sub controlul uman și ar cauza deplasări masive de locuri de muncă. Sanders se îngrijorează de puterea corporatistă necontrolată și de AI folosit pentru a exploata muncitorii sau a manipula publicul. Ambii sunt de acord că motivele pur de profit nu ar trebui să dicteze viitorul umanității.
3. De ce este Europa menționată în mod specific ca singura care poate opri acest lucru?
Pentru că SUA și China sunt blocate într-un război tehnologic de tipul câștigătorul ia totul și nu vor încetini. Europa, totuși, nu conduce cursa AI, deci are mai puțin de pierdut. Mai important, UE are un istoric de adoptare a reglementărilor stricte care se aplică întregii lumi—dacă vrei să faci afaceri în Europa, trebuie să le respecți regulile.
4. Ce înseamnă de fapt „a pune capăt"?
Nu înseamnă interzicerea completă a AI. Înseamnă oprirea cursei periculoase. Înseamnă impunerea unor teste de siguranță stricte, cererea de transparență despre ce poate face AI și amendarea puternică a companiilor dacă lansează produse nesigure. Este despre forțarea unei încetiniri pentru a asigura că siguranța ține pasul cu viteza.
5. Este cursa înarmării AI într-adevăr un dezastru?
Argumentul este că da. Dezastrul nu este că AI există—ci viteza. Companiile scot instrumente puternice înainte să înțelegem cum vor afecta alegerile, locurile de muncă sau sănătatea mintală. Dezastrul este nesăbuința, nu tehnologia în sine.
Întrebări avansate
6. Cum ar opri reglementarea europeană companiile americane?
UE are un „Efect Bruxelles". Dacă o companie americană precum Meta sau OpenAI vrea să servească 450 de milioane de consumatori europeni, trebuie să respecte legile UE. Dacă UE spune că nu poți implementa un model superinteligent fără un audit de siguranță de la o terță parte, compania trebuie să facă acel audit la nivel global.
