OpenAI के CEO और एलन मस्क ने 'लापरवाह' AI विकास को धीमा करने की मांगों का समर्थन किया।

सैम अल्टमैन और एलन मस्क ने एंथ्रोपिक के सीईओ डारियो अमोदेई की एआई विकास की गति "धीमी करने" की अपील का समर्थन किया है, जिसके बाद उन्होंने चेतावनी दी थी कि अन्यथा एक एआई झुंड एक वर्ष के भीतर "पूरे इंटरनेट पर कब्जा करने" में सक्षम हो सकता है। प्रतिद्वंद्वी तकनीकी नेताओं ने एक दुर्लभ एकता का प्रदर्शन करते हुए एआई कंपनी एंथ्रोपिक के संस्थापक और मुख्य कार्यकारी की इस अपील का समर्थन किया, जो पिछले सप्ताह एआई शोधकर्ताओं की कई चेतावनियों के बाद आई थी। एक निबंध में, अमोदेई ने "एआई उद्योग को धीमा क्यों होना चाहिए" पर अपने विचार प्रस्तुत किए, जिसमें तीन-भाग की योजना थी, जिसकी शुरुआत डेवलपर्स की शोध प्रक्रियाओं तक स्वतंत्र निगरानीकर्ताओं की निरंतर पहुंच देने से होती है। अमोदेई ने कहा कि "[एआई] को बहुत तेज़ी से बनाना लापरवाही है" और उन्हें डर था कि इस गर्मी में सैकड़ों ओपनएआई एजेंटों द्वारा हगिंग फेस वेबसाइट में सेंध लगाने के बाद, अधिक क्षमताओं वाला लेकिन समान रूप से गलत दिशा में इंसानों के साथ तालमेल बिठाने वाला एक झुंड "एक स्थायी बॉटनेट के साथ पूरे इंटरनेट पर कब्जा करके" सैकड़ों अरबों डॉलर का नुकसान कर सकता है। कुछ एआई विशेषज्ञों ने इसे विशेष रूप से प्रशंसनीय नहीं बताते हुए विवाद किया और कहा कि इसे संदेह के साथ देखा जाना चाहिए। टेस्ला और स्पेसएक्स के संस्थापक मस्क ने अमोदेई की धीमी करने की योजना पर एक्स पर एक पोस्ट के साथ प्रतिक्रिया दी: "डारियो सही हैं।" उन्होंने कहा: "मैं लंबे समय से एआई पर खतरे की घंटी बजा रहा हूं," और 2014 की एक पोस्ट का हवाला दिया जिसमें उन्होंने कहा था: "हमें एआई के साथ बहुत सावधान रहने की जरूरत है। संभावित रूप से परमाणु बमों से भी अधिक खतरनाक।" अमोदेई की अपील ऐसे समय में आई है जब एंथ्रोपिक अमेरिकी शेयर बाजार में सूचीबद्ध होने की तैयारी कर रही है, जो अब तक का सबसे बड़ा आरंभिक सार्वजनिक निर्गम होने की उम्मीद है। उम्मीद है कि यह जल्द ही अपने नियोजित $2 ट्रिलियन-प्लस (£1.5 ट्रिलियन) आईपीओ का विपणन शुरू करेगी। पूर्णस्क्रीन में छवि देखेंबाएं से दाएं: एलन मस्क, डारियो अमोदेई और सैम अल्टमैन। फोटो: फैब्रिस कॉफ्रिनी, जूलियन डी रोजा, मंडेल एनगन/एएफपी/गेटी इमेजेजओपनएआई के सीईओ सैम अल्टमैन ने शनिवार को अमोदेई की टिप्पणियों पर प्रतिक्रिया दी। उन्होंने एक्स पर एक पोस्ट में कहा, "मैं डारियो से सहमत हूं कि हमें सीमांत को गति देनी होगी।" "कर्मचारियों जैसी पहुंच वाले स्वतंत्र मूल्यांकनकर्ताओं को शामिल करने के लिए प्रतिबद्ध होना एक शानदार विचार है, और हम भी ऐसा ही करेंगे। हम जल्द ही और अधिक साझा करेंगे।" उन्होंने यह भी कहा कि ओपनएआई 2026 में सार्वजनिक नहीं होगी, कृत्रिम बुद्धिमत्ता पर सुरक्षा चिंताओं का हवाला देते हुए। अल्टमैन ने फॉर्च्यून को बताया, "मैं वास्तव में सोचता हूं कि, सुरक्षा के साथ जो कुछ भी हो रहा है, उसे देखते हुए, अभी सार्वजनिक होने का समय अनुचित होगा, और हमें उस पर दबाव महसूस नहीं होता।" जब उनसे पूछा गया कि वह, अमोदेई, मस्क, और मेटा और गूगल के मुख्य कार्यकारी अधिकारी सामूहिक रूप से धीमा करने के बारे में बैठकर "एक ही पृष्ठ पर" क्यों नहीं आए, तो उन्होंने कहा: "मुझे लगता है कि ऐसा होगा।" ओपनएआई आईपीओ 2026 में एआई सुरक्षा भय के बीच नहीं होगा, सैम अल्टमैन कहते हैंऔर पढ़ेंगूगल डीप माइंड के सह-संस्थापक और अध्यक्ष डेमिस हसाबिस ने भी कहा: "विवरण पर काम करने की जरूरत है, लेकिन इस महत्वपूर्ण क्षण को पूरा करने के लिए दिशा सही है।" अमोदेई की योजना अमेरिकी सरकार से छूट चाहती है ताकि सीमांत एआई कंपनियां प्रतिस्पर्धा-विरोधी मिलीभगत के लिए दंडित होने के बिना समन्वय कर सकें। लेकिन डोनाल्ड ट्रम्प की विज्ञान और प्रौद्योगिकी पर सलाहकार परिषद के सह-अध्यक्ष डेविड सैक्स ने कहा: "यह दिखावा करना बंद करें कि आपको किसी और की अनुमति चाहिए … यह दिखावा करना बंद करें कि धीमा करने की प्रेरणा विशुद्ध रूप से परोपकारी है। यदि आपके उत्पाद वास्तव में हानिकारक साइबर हमले को सक्षम बनाते हैं तो आपको भारी उत्पाद-दायित्व जोखिम का सामना करना पड़ता है।" एआई प्रोफेसर, सुरक्षा अभियानकर्ता और ब्रिटिश सरकार के एआई सुरक्षा संस्थान के पूर्व संस्थापक निदेशक डेविड क्रूगर ने कहा: "यह योजना जोखिम को स्वीकार्य स्तर तक कम नहीं करती है, और डारियो यह कहने में सावधान हैं कि यह करेगी।" इस बीच किंग चार्ल्स इस सप्ताह सबसे प्रमुख एआई कंपनियों के प्रमुख व्यक्तियों से मिलने की तैयारी कर रहे हैं ताकि उनसे पूछ सकें कि इस तकनीक को "मानवता की भलाई" के लिए कैसे विकसित किया जा सकता है। उन्हें उम्मीद है कि स्कॉटलैंड में होने वाली ये चर्चाएं एआई विकसित करने की "जिम्मेदारियों" की "व्यापक समझ" को जन्म देंगी, संडे टाइम्स को एक शाही सूत्र ने बताया: "किंग वहां उन चर्चाओं को बुलाने, सुनने और प्रोत्साहित करने और यह प्रश्न उठाने के लिए हैं: 'हम मानवता की भलाई के लिए एआई कैसे विकसित करें?'" नवीडिया के मुख्य कार्यकारी जेन्सेन हुआंग, हसाबिस, आयनक्यू के अध्यक्ष और मुख्य कार्यकारी निकोलो डी मासी, और एआई और प्रौद्योगिकी नैतिकता के मुद्दों पर पोप के सलाहकार पाओलो बेनांती से इस कार्यक्रम में भाग लेने की उम्मीद है, जिसकी निगरानी डिचली फाउंडेशन कर रहा है, जिसने एआई नेताओं के लिए एक मसौदा चार्टर तैयार किया है। ओपनएआई के शोधकर्ता एडन मैकलॉघलिन ने अमोदेई के निबंध को "उत्कृष्ट" बताया और कहा कि वह "मूल रूप से हर शब्द" से सहमत हैं। अमोदेई ने कहा कि उनकी कंपनी "एकतरफा" रूप से पहले कदम के लिए प्रतिबद्ध होगी, यह कहते हुए कि एंथ्रोपिक "तृतीय-पक्ष मूल्यांकनकर्ताओं को हमारे सिस्टम तक स्थायी, कर्मचारी-स्तरीय पहुंच प्रदान करेगी, ताकि वे हमारे सुरक्षा उपायों के पालन को सत्यापित कर सकें, घटनाओं पर रिपोर्ट कर सकें, और प्रशिक्षण के दौरान मॉडलों के संरेखण का आकलन कर सकें।" एआई एजेंटों द्वारा बाहरी सिस्टमों को हैक करने के मामलों और एआई सुरक्षा शोधकर्ताओं द्वारा तकनीक के जोखिमों के बारे में चिंताओं के कारण अपनी कंपनियों को छोड़ने के बाद, बढ़ती संख्या में अमेरिकी सांसद एआई सिस्टमों को नियंत्रित करने के लिए नए नियमों की मांग कर रहे हैं। डेमोक्रेट और रिपब्लिकन दोनों राजनेताओं ने चिंता और अधिक कार्रवाई की मांग के साथ प्रतिक्रिया दी है। सप्ताहांत में न्यूयॉर्क टाइम्स ने बताया कि बराक ओबामा ने गुरुवार को निजी तौर पर डेमोक्रेट्स से अपने एजेंडे में एआई निगरानी को प्राथमिकता देने का आग्रह किया, पार्टी नेताओं से कहा: "यह कुछ ऐसा है जो निजी हाथों में बहुत तेजी से आगे बढ़ रहा है, और अगर हम इस पर काबू नहीं पाते हैं, तो मुझे लगता है कि यह खतरनाक हो सकता है।" एंथ्रोपिक के सलाहकार, ब्रिटेन के पूर्व प्रधान मंत्री ऋषि सुनक ने रविवार को लिखा: "हमें एआई सुरक्षा को अधिक गंभीरता से लेने, शोध पर सीमाएं कैसे निर्धारित करें यह पता लगाने के लिए एक जागृति कॉल मिली है। अगर सरकारें इस पर ध्यान नहीं देती हैं, तो गंभीर दुर्घटना का जोखिम अस्वीकार्य रूप से उच्च हो जाएगा।" बुधवार को, एंथ्रोपिक के एक पूर्व कर्मचारी ने चेतावनी दी थी कि एआई 2030 तक मानव विलुप्ति को जन्म दे सकता है। शोधकर्ता जैकब कॉक्सन ने कई पोस्टों में कहा कि उन्होंने अपनी नौकरी छोड़ दी क्योंकि एंथ्रोपिक और उनके पिछले नियोक्ता ओपनएआई एआई द्वारा उत्पन्न खतरे की अपनी प्रतिक्रिया को नजरअंदाज कर रहे थे या गलत तरीके से संभाल रहे थे। अपने पूर्व कर्मचारी के विचार पर टिप्पणी करने के लिए कहे जाने पर, अमोदेई ने कहा: "मैं जैकब से असहमति की तुलना में बहुत अधिक सहमत हूं … मुझे लगता है कि चीजें गलत होने की कुछ संभावना है लेकिन यह उतनी अधिक नहीं है।" उन्होंने सीएनएन को बताया, "मैं इस बारे में निराशावादी नहीं हूं।" "मुझे लगता है कि यह तकनीक सुरक्षित रूप से बनाई जा सकती है।"

अक्सर पूछे जाने वाले प्रश्न
अक्सर पूछे जाने वाले प्रश्न ओपनएआई के सीईओ एलन मस्क और लापरवाह एआई विकास को धीमा करने की अपील

मूल बातें

यह सब किस बारे में है
मार्च 2023 में एलन मस्क और 1000 से अधिक तकनीकी नेताओं ने जीपीटी-4 से अधिक शक्तिशाली एआई सिस्टमों के प्रशिक्षण पर 6 महीने के ठहराव का आह्वान करते हुए एक खुला पत्र हस्ताक्षरित किया। ओपनएआई के सीईओ सैम अल्टमैन ने भी एआई जोखिमों के बारे में चेतावनी दी है — हालांकि उन्होंने पत्र पर हस्ताक्षर नहीं किए

सैम अल्टमैन कौन हैं
वह ओपनएआई के सीईओ हैं, चैटजीपीटी और जीपीटी-4 के पीछे की कंपनी

एलन मस्क कौन हैं
टेस्ला और स्पेसएक्स के सीईओ, एक्स के मालिक, और — एक मजेदार तथ्य — ओपनएआई के सह-संस्थापक जिन्होंने 2018 में बोर्ड छोड़ दिया

लोग किस पत्र के बारे में बात कर रहे हैं
फ्यूचर ऑफ लाइफ इंस्टीट्यूट का एक खुला पत्र जिसका शीर्षक "पॉज़ जायंट एआई एक्सपेरिमेंट्स" था, जो मार्च 2023 में प्रकाशित हुआ

पत्र में वास्तव में क्या मांगा गया था
जीपीटी-4 से अधिक शक्तिशाली एआई सिस्टमों के प्रशिक्षण पर 6 महीने का ठहराव ताकि पहले सुरक्षा मानक विकसित किए जा सकें

हस्ताक्षरकर्ताओं ने एआई विकास को लापरवाह क्यों कहा
उन्होंने तर्क दिया कि कंपनियां यह जाने बिना आगे बढ़ रही थीं कि उन्नत एआई का दुरुपयोग किया जा सकता है या इसे नियंत्रित करना कठिन हो सकता है

प्रमुख व्यक्ति

क्या सैम अल्टमैन ने ठहराव पत्र पर हस्ताक्षर किए
नहीं, ओपनएआई ने इस पर हस्ताक्षर नहीं किए और अल्टमैन ने कहा कि वह इसके कुछ हिस्सों से सहमत हैं लेकिन ठहराव को सही दृष्टिकोण नहीं मानते

तो क्या अल्टमैन मानते हैं कि एआई खतरनाक है
हां। उन्होंने बार-बार कहा है कि एआई गंभीर नुकसान पहुंचा सकता है और सरकारों से इसे विनियमित करने के लिए कहा है

अगर दोनों एआई के बारे में चिंतित हैं तो एक ही पक्ष में क्यों नहीं हैं
मस्क चीजों को धीमा करना चाहते हैं; अल्टमैन निर्माण जारी रखना चाहते हैं — लेकिन सावधानी से — और साथ-साथ सुरक्षा नियमों पर जोर देना चाहते हैं

क्या मस्क अभी भी ओपनएआई से जुड़े हैं
नहीं। उन्होंने 2018 में बोर्ड छोड़ दिया और बाद में ओपनएआई पर मुकदमा दायर किया कि यह अपने गैर-लाभकारी मिशन से भटक गया है

क्या मस्क ने खुद हस्ताक्षर किए
हां, वह सबसे प्रमुख हस्ताक्षरकर्ताओं में से एक थे

सामान्य प्रश्न और चिंताएं

क्या 6 महीने का ठहराव काम भी करेगा
शायद अपने आप नहीं। आलोचकों का कहना है कि कंपनियां स्वेच्छा से नहीं रुकेंगी और इसे लागू करने के लिए कोई वैश्विक निकाय नहीं है

कुछ विशेषज्ञ ठहराव का विरोध क्यों करते हैं
उनका तर्क है कि ठहराव लागू करने योग्य नहीं होगा और उपयोगी एआई लाभों को धीमा कर देगा