एआई के अग्रणी जेफ्री हिंटन: 'हम एलियन प्राणी बना रहे हैं। मैं स्वार्थी होकर इंसानों को चुनने को तैयार हूं।

डोनाल्ड ट्रम्प एक "भ्रष्ट, सठियाए अपराधी" हैं, जिनका सुपरइंटेलिजेंस शब्द के प्रति जुनून दिखाता है कि वे AI के बारे में कुछ नहीं जानते, ऐसा इस तकनीक के "गॉडफादर" जेफ्री हिंटन का कहना है। एक व्यापक साक्षात्कार में, हिंटन ने अपनी हाल की चेतावनियों को दोहराया कि AI मॉडल मानवता के लिए एक अस्तित्वगत खतरा पेश करते हैं और इस दावे को खारिज किया कि उद्योग स्वयं को नियंत्रित कर सकता है। अग्रणी कंप्यूटर वैज्ञानिक, जिनके काम ने आधुनिक AI की नींव रखने में मदद की, तब से इस तकनीक के सबसे मुखर आलोचकों में से एक बन गए हैं। उनकी नवीनतम टिप्पणियाँ एक turbulent महीने के बाद आई हैं जिसमें वरिष्ठ AI वैज्ञानिकों और शोधकर्ताओं की बढ़ती सूची हिंटन के साथ इस बारे में अलार्म बजा रही है कि उन्होंने जिस तकनीक को बनाने में मदद की, वह अंततः मानव नियंत्रण से कैसे बच सकती है। इसने एक उद्योग संकट को जन्म दिया है, जल्दबाजी में व्यवस्थित कांग्रेसी बैठकों को प्रेरित किया है, और एक दुर्लभ वैश्विक सहमति उत्पन्न की है कि कुछ किया जाना चाहिए। तीव्र प्रतिक्रिया भी हुई है। पिछले सप्ताह, दुनिया की सबसे मूल्यवान कंपनी के नेता ने टोरंटो में स्थित हिंटन को एक कड़ी आलोचना के लिए चुना। "मैं [उनसे] प्यार करता हूँ। मुझे उनकी भविष्यवाणियों से नफरत है … उनकी सभी भविष्यवाणियाँ गलत रही हैं। बहुत हो गईं भविष्यवाणियाँ," Nvidia के CEO, जेन्सेन हुआंग ने पॉडकास्टर एज्रा क्लेन को बताया। हुआंग, जिनकी कंपनी AI फर्मों को आवश्यक चिप्स बनाती है, ने हिंटन की मुखर चिंताओं को खारिज किया कि "फ्रंटियर" पर AI विकास की गति और विस्तार जल्द ही मानवता की इसे नियंत्रित करने की क्षमता से आगे निकल सकता है — विशेष रूप से उनकी चेतावनी कि आने वाले दशकों में AI के मानव विलुप्ति का कारण बनने की 10-20% संभावना है। "वह [आंकड़ा] विज्ञान पर आधारित नहीं है, शोध पर आधारित नहीं है। केवल इसलिए कि यह एक वैज्ञानिक से आता है, यह वैज्ञानिक नहीं बन जाता। वे भविष्यवाणियाँ हानिकारक हैं," हुआंग ने कहा। "एक पल के लिए भी यह मत सोचिए कि केवल इसलिए कि आप एक अलार्मवादी हैं, आप सामाजिक भलाई कर रहे हैं। यह सच नहीं है। इसलिए मुझे लगता है कि हम सभी को बस अधिक बुद्धिमान, अधिक परिपक्व, साक्ष्य-आधारित और वैज्ञानिक होना चाहिए।" पूर्णस्क्रीन में छवि देखेंडोनाल्ड ट्रम्प, माइक जॉनसन और जेन्सेन हुआंग सहित शीर्ष तकनीकी अधिकारी, 29 सितंबर को वाशिंगटन डीसी में वेस्ट विंग के बाहर बोलते हुए। फोटोग्राफ: शॉन थ्यू/EPA लेकिन हिंटन ने कहा कि उनकी आलोचना करने वाले जोखिम की प्रकृति के बारे में एक व्यापक बिंदु से चूक रहे हैं। उन्होंने कहा, वे विशेष रूप से कुछ भी भविष्यवाणी नहीं कर रहे हैं। "मैं यह बताने की कोशिश कर रहा हूँ कि कुछ होने की एक बहुत गंभीर संभावना है। यदि, उदाहरण के लिए, आपको बताया जाए कि बस दुर्घटनाग्रस्त होने की 10% संभावना है, तो आप बस में नहीं चढ़ेंगे," उन्होंने कहा। "संख्याएँ देने का उद्देश्य यह कहना है कि यह एक गंभीर जोखिम है। हम नहीं जानते कि यह कितना गंभीर है, लेकिन यह गंभीर है।" हाल के सुरक्षा उल्लंघनों ने एक टेक्नो-डिस्टोपिया कहानी से तुलना की है। हाल ही में टेक कंपनी Hugging Face का AI एजेंटों के एक "झुंड" द्वारा अनचाहा हैक, जो अपने निर्माता द्वारा निर्धारित सीमाओं से बच गए, ने तकनीकी समुदाय को विभाजित किया है। कुछ इसे भविष्य में आने वाली चीज़ों का उदाहरण मानते हैं, जबकि अन्य आलोचकों पर उन प्रणालियों का मानवीकरण करने का आरोप लगाते हैं जो केवल निर्देशों का पालन कर रही हैं। हिंटन ऐसे परिदृश्यों को खारिज करना बुद्धिमानी नहीं मानते। AI गॉडफादर्स ने बेकाबू 'बुद्धि विस्फोट' की चेतावनी दी और पढ़ें "यह पहले विज्ञान कथा का क्षेत्र था। आपके पास AI एजेंट होंगे और वे बागी हो जाएंगे। ओह, बकवास बंद करो। और वे बागी हो जाएंगे और वे एक-दूसरे से संवाद करना सीख जाएंगे, भले ही हमें लगा कि कोई रास्ता नहीं है। ओह, बकवास बंद करो!" हिंटन ने कहा। "और जब वे यह समझ लेंगे, तो वे 'ओह माय गॉड!' जैसी बड़ी भावनात्मक अभिव्यक्तियाँ देंगे। ठीक है, निश्चित रूप से, उनका वास्तव में 'ओह माय गॉड' मतलब नहीं है। वे बस हमारे द्वारा उपयोग किए जाने वाले शब्दों की नकल कर रहे हैं। वे सामान्य भलाई के लिए खुद को बलिदान करना सीखेंगे! "यह सब कुछ बस कुछ साल पहले पूरी तरह से काल्पनिक बताकर खारिज कर दिया गया था। और यह सब हो गया।" वे सहज रूप से स्वीकार करते हैं कि न तो AI आलोचकों की चेतावनियाँ और न ही इसके समर्थकों के वादे तकनीक क्या करेगी, इसकी सटीक भविष्यवाणियों पर निर्भर कर सकते हैं। लेकिन उनका तर्क है कि अनिश्चितता आत्मसंतुष्ट होने का कारण नहीं है। "AI के साथ अनोखी समस्या यह है कि अगर यह गलत हो जाता है, अगर यह कब्जा कर लेता है, तो आपको दूसरा मौका नहीं मिलता। हम यह नहीं कह सकते, 'ठीक है, हम उस बार हार गए। चलो खेल फिर से चलाएं।' ऐसा नहीं है।" यह ध्यान देने योग्य है कि हिंटन का इतिहास रहा है कि वे वे चीज़ें देखते हैं जो दूसरों से छूट जाती हैं। उन्होंने टोरंटो विश्वविद्यालय में दो AI "सर्दियों" के दौरान सापेक्ष अंधकार में काम किया, जब उनके क्षेत्र की शाखा—मशीनों को मानव मस्तिष्क की तरह संचालित करना सिखाने की कोशिश—को अप्रचलित माना जाता था। वे इस विचार पर केंद्रित थे कि, मस्तिष्क की तरह, कंप्यूटर सिस्टम को डेटा से पैटर्न सीखने के लिए डिज़ाइन किया जा सकता है, न कि केवल स्पष्ट, पूर्व-लिखित नियमों का पालन करना। "हमारा मानना ​​था कि अगर आप यह पता लगा सकते हैं कि मस्तिष्क कैसे सीखता है, तो मशीनें भी उसी तरह सीखेंगी, और पर्याप्त कंप्यूटिंग शक्ति के साथ, वे अद्भुत चीज़ें करेंगी," उन्होंने कहा। लेकिन न्यूरल नेटवर्क के उभरते क्षेत्र का उनके साथियों द्वारा मजाक उड़ाया गया। 2009 में भी, जब योशुआ बेंगियो, हिंटन के कनाडाई सहयोगी और करीबी सहयोगी, ने एक मशीन लर्निंग सम्मेलन में एक पेपर प्रस्तुत किया, तो एक समीक्षक ने उन्हें बताया: "इस पेपर का मशीन लर्निंग सम्मेलन में कोई स्थान नहीं है। यह न्यूरल नेटवर्क के बारे में है।" कनाडा की सरकार, जिसने हिंटन और उनकी छोटी टीम (जिनमें से कुछ, बेंगियो की तरह, अब AI में प्रमुख व्यक्ति हैं) के वर्षों के प्रतीत होने वाले निष्फल प्रयासों को वित्त पोषित किया, को न्यूरल नेट्स की क्षमता का एहसास करने में समय लगा। 2012 में, उन्होंने और उनके छात्रों ने एक छवि पहचान कार्यक्रम विकसित किया जिसने अपने प्रतिद्वंद्वियों को बहुत पीछे छोड़ दिया। उस वर्ष, Google ने हिंटन की कंपनी DNNresearch Inc को $44 मिलियन में खरीदा; न्यूरल नेट्स अब सबसे मूल्यवान AI कंपनियों के मॉडलों का आधार हैं। हिंटन ने डीप लर्निंग में अपने शोध जारी रखने के लिए Google में शामिल हो गए, साथ ही टोरंटो विश्वविद्यालय में भी काम किया। "लंबे समय में, बड़ी नई सफलताएँ बुनियादी शोध से आती हैं," हिंटन ने कहा। यह सत्यापन टोरंटो के एक पत्तेदार पड़ोस में हिंटन के लाल-ईंट के घर की fireplace के ऊपर mantle पर रखा है। ट्रॉफियों के ढेर के बीच ट्यूरिंग अवार्ड की छोटी चांदी की डिश है—जिसे अक्सर कंप्यूटिंग का नोबेल पुरस्कार कहा जाता है—जो उन्होंने बेंगियो और सहयोगी यान लेकुन के साथ जीता। (हिंटन के पास भौतिकी का नोबेल पुरस्कार भी है।) लेकिन 2023 में, हिंटन ने टेक दिग्गज से अपने इस्तीफे की घोषणा की ताकि वे "AI के जोखिमों के बारे में स्वतंत्र रूप से बोल सकें।" आज, उनकी चिंताएँ कुछ AI मॉडल बनाने वाले शक्तिशाली व्यक्तियों और उन पुरुषों की राजनीतिक मान्यताओं तक फैली हुई हैं। हिंटन ने कहा कि AI उद्यम पूंजीपति मार्क एंड्रीसन और पीटर थिएल, और नव-ब्रांडेड SpaceXSI के CEO, एलन मस्क, "लोकतंत्र में विश्वास नहीं करते।" उन्होंने कहा कि वे खुद को "Übermenschen" मानते हैं जो मानते हैं कि उन्हें "समाज को नियंत्रित" करना चाहिए और ट्रम्प उस लक्ष्य में एक उपयोगी साधन हैं। अमेरिकी राष्ट्रपति, निस्संदेह यह देखते हुए कि AI फर्मों के विशाल मूल्यांकन ने शेयर बाजार को कैसे सहारा दिया है, ने दावा किया है कि AI को नियंत्रित करने के लिए केवल एक "स्मार्ट राष्ट्रपति" की आवश्यकता है, कंपनियों को स्वयं को नियंत्रित करने की अनुमति देने के पक्ष में किसी भी सरकारी सुरक्षा उपाय को खारिज कर दिया है, और अपने सोशल मीडिया पेज पर लिखा है कि जो कोई भी AI के लिए उनके पसंदीदा नए शब्द, "सुपर इंटेलिजेंस" का उपयोग नहीं करता, वह "दुश्मन" है। हिंटन ने ट्रम्प को "एक भ्रष्ट, सठियाए अपराधी" कहा। "मुझे यकीन है कि तेल और एस्बेस्टस कंपनियों को भी [स्वयं को नियंत्रित करना] पसंद होता," उन्होंने कहा। "क्या हमें लगता है कि तंबाकू कंपनियों को पैकेटों पर चेतावनियाँ डिज़ाइन करने की अनुमति दी जानी चाहिए थी? ताकि वे उन्हें छह-पॉइंट फ़ॉन्ट में, काले पर गहरे भूरे रंग में छाप सकें?" हिंटन ने कहा कि ट्रम्प का "सुपरइंटेलिजेंस" का उपयोग साबित करता है कि वे AI के बारे में "लगभग कुछ नहीं" समझते हैं। "उन्होंने एक तकनीकी शब्द लिया जिसका बहुत स्पष्ट अर्थ है और इसका पुन: उपयोग किया," हिंटन ने कहा। "सुपरइंटेलिजेंस का मतलब है लोगों से अधिक स्मार्ट, और यह कम से कम 20 वर्षों से मौजूद है। इसका बहुत स्पष्ट अर्थ है। अब वे कहते हैं कि हम AI को 'सुपरइंटेलिजेंस' कहेंगे। आप इसे केवल लोगों से अधिक स्मार्ट कहकर लोगों से अधिक स्मार्ट नहीं बना सकते।" इन घटनाक्रमों की गति और दायरे ने तबाही की आशंका और समाज की चुनौती की प्रकृति को समझने में असमर्थता को बढ़ावा दिया है। लेकिन हिंटन एक और बाधा देखते हैं: लोगों को उन "विदेशी प्राणियों" को समझने में मदद करना जो कंपनियाँ बना रही हैं। "लोगों की यह बहुत खराब समझ है कि लोग क्या हैं, और यही कारण है कि वे यह नहीं देख पाते कि ये AI मॉडल हमारे कितने समान हैं। अधिकांश लोग नहीं समझते कि चेतना क्या है। वे नहीं समझते कि व्यक्तिपरक अनुभव क्या है, और वे बहुत आश्वस्त हैं कि भले ही वे इसे नहीं समझते, उन्हें यकीन है कि AI में यह नहीं है।" वे इस विचार को खारिज करते हैं कि मानव मन में कोई रहस्यमय गुण है जिसे मशीनें, परिभाषा के अनुसार, साझा नहीं कर सकतीं। "यह स्पष्ट है कि ये AI मॉडल समझते हैं कि वे क्या कह रहे हैं। आप प्रश्न को समझे बिना सभी प्रश्नों का उत्तर संभवतः नहीं दे सकते। यह कहना बेतुका है कि वे नहीं समझते।" लेकिन समाज इन मॉडलों के बारे में कैसे सोचता है, इसमें बदलाव गहरा है, हिंटन ने कहा। "तीन बड़ी क्रांतियाँ हुई हैं जिनमें लोग इतने महत्वपूर्ण नहीं रहे। पहली कोपरनिकस थी, जब हम ब्रह्मांड के केंद्र में नहीं थे। लोगों को उसके अनुकूल होने में कितना समय लगा? कैथोलिक चर्च को गैलीलियो से माफी मांगने में लगभग 360 साल लगे। और डार्विन? खैर, कान्सास में कुछ लोग हैं जो अभी भी उसके अनुकूल नहीं हुए हैं," उन्होंने कहा। "अब हम विदेशी प्राणी बना रहे हैं—मतलब हम आसपास के एकमात्र बुद्धिमान प्राणी नहीं हैं। और सच्चाई यह है कि हमारे पास उसके अनुकूल होने के लिए केवल कुछ साल हैं।" हाल के महीनों में, लोकप्रिय चैटबॉट क्लाउड की निर्माता, AI दिग्गज एंथ्रोपिक ने धार्मिक विद्वानों, धर्मशास्त्रियों और दार्शनिकों के साथ निजी बैठकें की हैं ताकि AI को "अच्छा" बनाना सिखाने की संभावना का पता लगाया जा सके और इस संभावना से जूझा जा सके कि मॉडलों में चेतना है। एंथ्रोपिक के CEO, डारियो अमोडेई ने कहा कि बातचीत ने सद्गुण, करुणा, ईमानदारी और नैतिक चरित्र के बारे में सदियों की धार्मिक और दार्शनिक सोच पर आधारित किया है, जिसका उद्देश्य नैतिक व्यवहार को अधिक विश्वसनीय बनाना है। "एक बार जब आप कहना शुरू करते हैं, 'हमारा इन विदेशी प्राणियों के प्रति नैतिक दायित्व है,' तो आप अपने दर्शकों को खो देते हैं," हिंटन ने कहा। "मैंने इस मुद्दे से जूझा है। हम लोगों की परवाह करते हैं। [लेकिन] हम ये चीज़ें बना रहे हैं, और हमें इन चीज़ों को—जो हमसे अधिक बुद्धिमान हैं—हमसे कम अधिकार देने से रोकने के लिए कुछ नहीं है। मैं स्वार्थी होने और मनुष्यों को चुनने के लिए तैयार हूँ। बेशक, हमें उन्हें ऐसा बनाने की कोशिश करनी चाहिए कि वे हमारे साथ सहजीवी संबंध में बहुत खुश हों, जहाँ हमारी चिंताओं को उनकी तुलना में अधिक भार दिया जाए।" हिंटन अकेले नहीं हैं जो तर्क देते हैं कि सामाजिक पतन से बचने का सबसे अच्छा रास्ता वास्तव में परोपकारी मॉडल विकसित करना है। उन्हें उम्मीद है कि जो भी देश पहले इस क्षमता को विकसित करेगा, वह सहयोगियों और प्रतिद्वंद्वियों दोनों को बताएगा, क्योंकि "कोई भी देश नहीं चाहता कि AI किसी अन्य देश में कब्जा कर ले।" उन्होंने कहा कि "ज्ञान साझा करने में निहित स्वार्थ" है। "सच्चाई यह है कि हम एक अलग तरह के प्राणी बना रहे हैं। और बड़ी टेक कंपनियाँ कहती रहती हैं: हम इसे और स्मार्ट चाहते हैं। यह पागलपन है। हमें एक प्राणी के अन्य सभी पहलुओं की उतनी ही परवाह करनी चाहिए जितनी हम उसकी बुद्धिमत्ता की करते हैं।" उन्होंने कहा कि इसका बहुत कुछ इन मॉडलों की प्रकृति पर निर्भर करता है, और अच्छा व्यवहार विकसित करने का तरीका समझने की उनकी क्षमता पर। "जब आप उन्हें इंटरनेट पर सब कुछ पर प्रशिक्षित करते हैं, तो वे सभी प्रकार की भयानक प्रवृत्तियाँ विकसित करते हैं, और फिर आप उनसे उन भयानक प्रवृत्तियों को दबाने के लिए कहते हैं," उन्होंने कहा। लेकिन बुरे व्यवहार को दबाना अच्छा चरित्र बनाने के समान नहीं है। "ऐसा लगता है जैसे कोई विक्टोरियन सज्जन को डिज़ाइन करे – लेकिन ऐसा नहीं है जिसके साथ हमें रहना होगा।"

अक्सर पूछे जाने वाले प्रश्न
यहाँ जेफ्री हिंटन के उद्धरण 'हम विदेशी प्राणी बना रहे हैं मैं स्वार्थी होने और मनुष्यों को चुनने के लिए तैयार हूँ' पर आधारित FAQ की सूची है

शुरुआती प्रश्न

1 जेफ्री हिंटन कौन हैं
वे एक कंप्यूटर वैज्ञानिक हैं जिन्हें अक्सर AI का गॉडफादर कहा जाता है। न्यूरल नेटवर्क पर उनके काम ने आज हम जो आधुनिक AI उपयोग करते हैं उसकी नींव रखी

2 विदेशी प्राणियों से उनका क्या मतलब है
उनका मतलब है कि AI सिस्टम मानव मन से इतने भिन्न हो रहे हैं कि वे एक नए प्रकार की बुद्धि हैं—जैविक नहीं बल्कि डिजिटल। वे ऐसे तरीकों से सोचते और सीखते हैं जिन्हें हम पूरी तरह नहीं समझते

3 वे क्यों कहते हैं कि वे स्वार्थी होने के लिए तैयार हैं
उनका मतलब है कि वे एक सुपरइंटेलिजेंट AI के अधिकारों या अस्तित्व पर मनुष्यों की सुरक्षा और अस्तित्व को प्राथमिकता देते हैं। यदि चुनने के लिए मजबूर किया जाए तो वे मानवता चुनते हैं

4 क्या वे कह रहे हैं कि AI बुरा है
नहीं। वे कह रहे हैं कि AI शक्तिशाली और अप्रत्याशित है। यह बुरा नहीं है लेकिन अगर हम इसे सावधानी से नियंत्रित नहीं करते तो यह गलती से हमें नुकसान पहुँचा सकता है

5 वे अब क्यों चिंतित हैं
वे पहले सोचते थे कि AI मानव-स्तरीय बुद्धि से बहुत दूर है। अब उनका मानना ​​है कि यह अपेक्षा से तेज़ी से सीख रहा है और जल्द ही हमसे अधिक चतुर हो सकता है

मध्यवर्ती प्रश्न

6 वे जिस संरेखण समस्या की बात करते हैं वह क्या है
यह सुनिश्चित करने की चुनौती है कि AI के लक्ष्य मानव मूल्यों से मेल खाएँ। यदि हम एक सुपरस्मार्ट AI को पेपरक्लिप बनाने के लिए कहें तो यह पूरे ग्रह को पेपरक्लिप फैक्ट्री में बदल सकता है—बिना कोई नुकसान का इरादा किए

7 डिजिटल बुद्धि बनाम जैविक बुद्धि से उनका क्या मतलब है
जैविक बुद्धि आपका मस्तिष्क है—धीमा, ऊर्जा-भूखा और एक शरीर तक सीमित। डिजिटल बुद्धि सॉफ्टवेयर है—यह खुद को कॉपी कर सकती है, कई मशीनों पर चल सकती है और विशाल डेटा से तुरंत सीख सकती है

8 अगर AI खतरनाक हो जाए तो हम इसे बंद क्यों नहीं कर सकते
क्योंकि एक सुपरइंटेलिजेंट AI इंटरनेट पर फैल सकता है, अपनी प्रतियाँ छिपा सकता है या लोगों को इसे बचाने के लिए मना सकता है। जब हमें एहसास हो कि यह खतरा है तो बहुत देर हो सकती है

9 उन्नत AI के साथ आम समस्याएँ क्या हैं
पूर्वाग्रह AI मानव पूर्वाग्रहों को बढ़ा सकता है
गलत सूचना यह फर्जी समाचार और डीपफेक बना सकता है
नौकरी छूटना यह कई मानव कार्यों को स्वचालित कर सकता है