बिल गेट्स से लेकर बर्नी सैंडर्स तक, अधिकांश लोग इस बात से सहमत हैं कि AI हथियारों की दौड़ एक आपदा है। केवल यूरोप के पास ही इसे रोकने की शक्ति है।

अब तक, यह स्पष्ट हो जाना चाहिए कि AI एक ऐसी किताब की तरह है जिसमें आप अपना रास्ता खुद चुनते हैं, और हर रास्ता आपदा की ओर ले जाता है। बढ़ते कार्बन उत्सर्जन और पारिस्थितिकी पतन? पृष्ठ 37 पर जाएँ। अन्य संभावित परिणामों में निम्नलिखित में से कुछ या सभी शामिल हैं: बुलबुला फूटना और वित्तीय संकट पैदा करना; स्वचालन से बड़े पैमाने पर बेरोजगारी; लोकतंत्र का अंत और सत्तावादी निगरानी राज्यों का उदय; कट्टरपंथी पंथ जो मानते हैं कि एक पैटर्न-मिलान एल्गोरिदम चेतन है; आतंकवादी विनाशकारी जैविक हथियार बनाना; राष्ट्र स्वायत्त हथियार तैनात करना जो मानव समझ से परे समय-सीमा पर काम करते हैं; राष्ट्र या आतंकवादी उन अनगिनत प्रणालियों को हैक करना जिन पर हम निर्भर हैं; या एक AI जो, चेतन हो या न हो, ऐसे लक्ष्यों का पीछा करता है जो मानव कल्याण से टकराते हैं। यह कल्पना करना कि एलन मस्क, OpenAI के सैम ऑल्टमैन, Palantir के पीटर थिएल, या ट्रम्प के तकनीकी सलाहकार मार्क आंद्रेसेन जैसे लोग हमें पर्यावरणीय सद्भाव, सामाजिक शांति और असीमित अवकाश के काल्पनिक भविष्य की ओर ले जाएँगे, इतना अत्यधिक भ्रम और चापलूसी की माँग करता है कि केवल ChatGPT द्वारा लिखी गई चुनें-अपनी-साहसिक किताब ही इसे उत्पन्न कर सकती है। एक बढ़ती हुई, हालाँकि बहुत देर से हुई, मान्यता है कि हम आपदा की ओर बढ़ रहे हैं, साथ ही धीमा करने, विनियमित करने, या यहाँ तक कि इन सब पर रोक लगाने की माँगें भी हैं जब तक हम इसे समझ न लें। ये माँगें केवल कार्यकर्ताओं से नहीं, बल्कि राजनेताओं, विशेषज्ञों और बड़ी-टेक अंदरूनी लोगों के एक व्यापक मिश्रण से आती हैं जो अनदेखा करने के लिए बहुत विविध हैं—बर्नी सैंडर्स से लेकर बिल गेट्स तक, जिन्होंने हाल ही में कहा, "अगर किसी के पास वैश्विक स्तर पर AI प्रगति को धीमा करने की एक विश्वसनीय योजना होती, तो मैं संभवतः इसका समर्थन करता।" वह सिर्फ नवीनतम अंदरूनी व्यक्ति हैं जिन्होंने वह स्वीकार किया जो AI कंपनी Anthropic ने इस गर्मी की शुरुआत में स्वीकार किया था जब उसने "ब्रेक पेडल" का आह्वान किया था। उद्योग की आत्म-संयम काम नहीं करेगी। अगर कोई रोक लगानी है, तो उसे बाहर से लगाया जाना चाहिए। इसके बावजूद, एक अंतरराष्ट्रीय समझौता दुखद रूप से असंभव है। AI परमाणु हथियारों की तरह है और उसी तर्क का पालन करता है: हर खिलाड़ी को इस लापरवाह दौड़ में भागने के लिए धकेला जाता है, केवल इस औचित्य के साथ कि वे जो भी जीतता है उसकी दया पर नहीं रहना चाहते। चीजों को धीमा करने का सबसे अच्छा मौका, ऐसा लगता है, एक अभिनेता के लिए एक महत्वपूर्ण बाधा को नियंत्रित करना और उसे बंद करने का एक कारण होना होगा। दिलचस्प बात यह है कि EU के पास ऐसा कार्ड है—और उसके पास इसे खेलने का एक मकसद भी है, अगर वह हिम्मत करता है। पूर्ण स्क्रीन में छवि देखें ताइवानी चिप-निर्माता TSMC का नानजिंग, चीन में कारखाना। फोटोग्राफ: Sipa US/Alamy डच तकनीकी कंपनी ASML यूरोप की सबसे मूल्यवान कंपनी है, इसके अत्यधिक पराबैंगनी (EUV) लिथोग्राफी मशीनों के उत्पादन के कारण। ये दुनिया की सबसे उन्नत चिप-निर्माण के लिए आवश्यक हैं और पूरे AI उद्योग पर कुछ संभावित रोक बिंदुओं में से एक हैं। ASML ने इन $400 मिलियन मशीनों के निर्माण के लिए आवश्यक तकनीक और जटिल आपूर्ति श्रृंखला में महारत हासिल कर ली है, जो प्रकाश को 13.5 नैनोमीटर तरंग दैर्ध्य (मानव बाल की चौड़ाई का लगभग 1/10,000वाँ) पर केंद्रित करके सिलिकॉन पर पैटर्न उकेरती हैं। इसकी मशीनों के बिना, कोई चिप नहीं है; चिप्स के बिना, कोई और डेटासेंटर नहीं हैं। यह ताइवानी चिप-निर्माता TSMC के भविष्य के निर्माण संयंत्रों ("फैब्स" के रूप में जाना जाता है) में $265 बिलियन के निवेश से लेकर 2030 तक उद्योग द्वारा वैश्विक स्तर पर (ज्यादातर अमेरिका में) बनाए जाने वाले $7 ट्रिलियन मूल्य के डेटासेंटरों तक सब कुछ प्रभावित करता है। इन वर्तमान और अगली पीढ़ी के चिप्स का उपयोग करने वाले अधिक डेटासेंटरों के बिना, AI की तेजी से वृद्धि—और जोखिम—रुक जाएगी। यही कारण है कि अमेरिकी सरकार ASML पर क्षेत्रीय निर्यात नियंत्रण लगाती है, चीन को उसकी चिप-निर्माण क्षमताओं को धीमा करने के लिए उसकी सबसे उन्नत EUV मशीनों की बिक्री को अवरुद्ध करती है। ASML पर उन प्रतिबंधों को लगाकर, अमेरिका ने इस रोक बिंदु पर अपनी कमजोरी उजागर कर दी है: जितना यूरोप अमेरिका से (अंततः प्रतिस्थापन योग्य) वित्तीय और सॉफ्टवेयर सेवाओं पर निर्भर है, सभी चिप-आधारित तकनीक का भविष्य पूरी तरह से ASML पर निर्भर करता है। ASML की मशीनों के निर्यात पर सीधा प्रतिबंध वैश्विक AI उद्योग को मजबूर कर देगा। प्रभावी रूप से, यह पानी में तैरने या जगह पर जॉगिंग करने जैसा है। परिणामी चिप की कमी और AI विकास में मंदी नियामकों को प्रौद्योगिकी के साथ तालमेल बिठाने का समय देगी, विधायकों को कॉपीराइट से लेकर कर कानून तक सब कुछ अद्यतन करने का समय देगी, और समाजों को इस बारे में वास्तविक बहस करने का समय देगी कि हम AI को अपने जीवन में क्या भूमिका देना चाहते हैं। EU ऐसा क्यों करेगा? केवल मानवतावादी कारणों से नहीं, बल्कि स्वार्थी कारणों से। सबसे अच्छे परिदृश्य में, एक सपाट निर्यात प्रतिबंध आपूर्ति श्रृंखला के पुनर्गठन की ओर ले जाएगा और अधिक प्रमुख निर्णय EU के नियंत्रण में लाएगा—जहाँ वे एकमात्र खिलाड़ी की निगरानी के अधीन होंगे जिसने दिखाया है कि वह AI को व्यापक रूप से विनियमित करेगा। बेशक, सबसे अच्छा मामला एक खिंचाव है: यह अधिक संभावना है कि अमेरिका ASML की अमेरिकी आपूर्तिकर्ताओं तक पहुँच को अवरुद्ध करके जवाबी कार्रवाई करेगा। लेकिन अगर ऐसा हुआ भी, तो शुद्ध आर्थिक और भू-राजनीतिक स्वार्थ के संकीर्ण तर्क के आधार पर, EU के लिए ऐसा टकराव भड़काना अभी भी उसके हित में होगा, क्योंकि EU AI मॉडल और उन्हें चलाने के लिए आवश्यक डेटासेंटर "कंप्यूट" (प्रोसेसिंग पावर) में सापेक्ष रूप से पीछे रहना बंद कर देगा। यूरोप के अपने AI समर्थक सहमत हैं—हालाँकि जो चीज उन्हें चिंतित करती है वह EU की सापेक्ष नुकसान है, न कि AI के जोखिमों की विस्तृत श्रृंखला। यूरोप 2031 परियोजना एक तकनीकी-राजनीतिक पूर्वानुमान है, जिसे उद्योग विशेषज्ञों के एक समूह द्वारा तैयार किया गया है, इस बारे में कि अगर AI कट्टरपंथी रूप से अर्थव्यवस्था को बदल देता है और EU अमेरिका से बहुत पीछे रह जाता है तो EU का क्या हो सकता है। वे तर्क देते हैं कि यूरोप को AI हथियारों की दौड़ में सैकड़ों अरबों डालने चाहिए, इससे पहले कि फ्रंटियर मॉडल और "कंप्यूट" दोनों वही बन जाएँ जो आज TSMC और ASML हैं: एक ऐसे अंतर के लाभार्थी जो किसी भी प्रतियोगी के लिए बंद करने के लिए बहुत बड़ा है। उनके परिदृश्य में, निकट भविष्य में किसी समय, EU को अपनी अर्थव्यवस्था और सुरक्षा के लिए आवश्यक अमेरिकी-नियंत्रित मॉडल और कंप्यूट तक पहुँच सुरक्षित करने के लिए ASML तक पहुँच को मेज पर रखने के लिए मजबूर होना पड़ेगा—केवल यह पता लगाने के लिए कि ASML का प्रभुत्व समय के साथ कमजोर हो गया है। (जितनी अधिक EUV मशीनें निर्यात की जाती हैं, उतने ही अधिक फैब अन्यत्र बनाए जाते हैं, और चीन और अमेरिका के पास ASML की तकनीक की नकल करने के लिए उतना ही अधिक समय होता है।) परमाणु-हथियार सिद्धांतकार चिंता करते हैं कि, अगर अकल्पनीय होना था, तो राज्यों को "इसे उपयोग करें या इसे खो दें" गणना के कारण लॉन्च करने की ओर धकेला जा सकता है। ठीक वही तर्क उस एक चीज पर लागू होता है जो AI उद्योग की तेज गति को रोक सकती है: EU उस लाभ का उपयोग कर सकता है जो ASML उसे अभी देता है, या उस अवसर को पूरी तरह से खोने का जोखिम उठा सकता है। ऐसे विभिन्न समूहों के लिए एक ही निष्कर्ष पर पहुँचना दुर्लभ है: खेलने के लिए एक ही यूरोपीय कार्ड है, और इसे खेला जाना चाहिए। मूर्खता की ओर दौड़ने के बजाय, चलो दौड़ को रोक दें। अभी, और सभी के लिए। अलेक्जेंडर हर्स्ट पेरिस से गार्जियन यूरोप के लिए लिखते हैं। उनका संस्मरण जनरेशन डेस्परेशन अभी बाहर है। <बारंबार पूछे जाने वाले प्रश्न> यहाँ लेख के आधार पर अक्सर पूछे जाने वाले प्रश्नों की एक सूची है जो शुरुआती से लेकर उन्नत तक है। शुरुआती प्रश्न 1. AI हथियारों की दौड़ वास्तव में क्या है? यह तकनीकी दिग्गजों के बीच सबसे शक्तिशाली AI पहले बनाने की उन्मत्त प्रतिस्पर्धा है। सुरक्षा या नैतिकता को प्राथमिकता देने के बजाय, वे प्रतिद्वंद्वियों को हराने और बाजार हिस्सेदारी हासिल करने के लिए नए मॉडल जारी करने में जल्दबाजी करते हैं। 2. बिल गेट्स और बर्नी सैंडर्स इस पर क्यों सहमत हैं? वे पूरी तरह से अलग राजनीतिक पक्षों से आते हैं लेकिन दोनों एक ही खतरा देखते हैं। गेट्स AI के मानव नियंत्रण से बाहर होने और बड़े पैमाने पर नौकरी विस्थापन का कारण बनने की चिंता करते हैं। सैंडर्स अनियंत्रित कॉर्पोरेट शक्ति और श्रमिकों के शोषण या जनता में हेरफेर के लिए AI के उपयोग की चिंता करते हैं। वे दोनों सहमत हैं कि शुद्ध लाभ के उद्देश्यों को मानवता के भविष्य को तय नहीं करना चाहिए। 3. यूरोप को विशेष रूप से एकमात्र ऐसा क्यों कहा गया है जो इसे रोक सकता है? क्योंकि अमेरिका और चीन एक विजेता-सब-कुछ-लेता है तकनीकी युद्ध में बंद हैं और धीमा नहीं होंगे। यूरोप, हालाँकि, AI दौड़ में अग्रणी नहीं है इसलिए उसके पास खोने के लिए कम है। अधिक महत्वपूर्ण बात, EU के पास सख्त नियमों को पारित करने का एक ट्रैक रिकॉर्ड है जो पूरी दुनिया पर लागू होते हैं—यदि आप यूरोप में व्यापार करना चाहते हैं, तो आपको उनके नियमों का पालन करना होगा। 4. "इसे रोकना" का वास्तव में क्या मतलब है? इसका मतलब AI को पूरी तरह से प्रतिबंधित करना नहीं है। इसका मतलब खतरनाक दौड़ को रोकना है। इसका मतलब सख्त सुरक्षा परीक्षण लागू करना, AI क्या कर सकता है इसके बारे में पारदर्शिता की आवश्यकता, और असुरक्षित उत्पाद जारी करने पर कंपनियों पर भारी जुर्माना लगाना है। यह गति के साथ सुरक्षा को पकड़ने के लिए धीमा करने के बारे में है। 5. क्या AI हथियारों की दौड़ वास्तव में एक आपदा है? तर्क यह है कि यह है। आपदा यह नहीं है कि AI मौजूद है—यह गति है। कंपनियाँ शक्तिशाली उपकरण बाहर रख रही हैं इससे पहले कि हम समझें कि वे चुनाव, नौकरियों या मानसिक स्वास्थ्य को कैसे प्रभावित करेंगे। आपदा लापरवाही है, तकनीक ही नहीं। उन्नत प्रश्न 6. यूरोपीय विनियमन वास्तव में अमेरिकी कंपनियों को कैसे रोकेगा? EU के पास "ब्रुसेल्स प्रभाव" है। यदि मेटा या OpenAI जैसी अमेरिकी कंपनी 450 मिलियन यूरोपीय उपभोक्ताओं की सेवा करना चाहती है, तो उन्हें EU कानूनों का पालन करना होगा। यदि EU कहता है कि आप तीसरे पक्ष के सुरक्षा ऑडिट के बिना एक सुपरइंटेलिजेंट मॉडल तैनात नहीं कर सकते हैं, तो कंपनी को वह ऑडिट वैश्विक स्तर पर करना होगा।