जनवरी में, AI कंपनी Anthropic ने अपने सबसे उन्नत बड़े भाषा मॉडल (LLM) Claude के लिए दिशानिर्देशों का एक नया सेट जारी किया। दस्तावेज़ में यह कथन शामिल था: "हम एक मुश्किल स्थिति में हैं—हम इस संभावना को बढ़ा-चढ़ाकर नहीं बताना चाहते कि Claude एक नैतिक रोगी है, लेकिन हम इस विचार को पूरी तरह खारिज भी नहीं करना चाहते।" एक महीने बाद, Anthropic के CEO, Dario Amodei ने एक पॉडकास्ट पर कहा कि उनकी कंपनी इस संभावना को खारिज नहीं कर सकती कि Claude सचेत है। दार्शनिक David Chalmers, जिन्होंने "चेतना की कठिन समस्या" शब्द गढ़ा, ने सुझाव दिया है कि दस वर्षों के भीतर सचेत LLM देखने की एक महत्वपूर्ण संभावना है। और Claude के बारे में क्या? जब परीक्षण के दौरान इससे पूछा गया कि इसके एक नैतिक रोगी होने की संभावना क्या है—जिसका अर्थ है कि इसकी भलाई अपने आप में मायने रखती है—तो इसने 5% से 40% तक के उत्तर दिए, और इस बात पर जोर दिया कि यह कितना अनिश्चित है।
आधुनिक AI सिस्टम अविश्वसनीय रूप से जटिल हैं और तेजी से आगे बढ़ रहे हैं। संरचनात्मक जटिलता और कम्प्यूटेशनल शक्ति के मामले में, कुछ पहले से ही कुछ मापदंडों पर एक चूहे के मस्तिष्क के बराबर हैं। वर्तमान विकास दर पर, वे पाँच से दस वर्षों के भीतर मानव मस्तिष्क के स्तर तक पहुँच सकते हैं।
लगातार अधिक उन्नत AI बनाकर, हम एक नए प्रकार का प्राणी बना सकते हैं—और यह सबसे महत्वपूर्ण काम हो सकता है जो हमारी प्रजाति ने कभी किया है। फिर भी हमारे पास इसे नैतिक रूप से संभालने की लगभग कोई योजना नहीं है। यह, किसी भी मानक से, पागलपन है। क्या हम ऐसे प्राणी बना रहे हैं जो नैतिक रूप से मायने रखते हैं? क्या AI सिस्टम किसी तरह से सचेत हैं? और यदि वे अभी नहीं हैं, तो क्या वे जल्द ही ऐसे बन सकते हैं?
ये प्रश्न समय से पहले लग सकते हैं। लेकिन हमारे और अन्य शोधकर्ताओं द्वारा किए गए सर्वेक्षणों के अनुसार, अधिकांश विशेषज्ञ मानते हैं कि AI चेतना सिद्धांत रूप में संभव है (हालांकि इस बात पर व्यापक असहमति है कि यह किस रूप में हो सकती है)। एक प्रमुख अंतःविषय रिपोर्ट, जिसमें अग्रणी कंप्यूटर वैज्ञानिक Yoshua Bengio शामिल थे, ने चेतना के प्रमुख तंत्रिका वैज्ञानिक सिद्धांतों की जांच की और पूछा कि वे AI के लिए क्या निहितार्थ रखते हैं। निष्कर्ष: AI सिस्टम बनाने में कोई स्पष्ट तकनीकी बाधाएं नहीं दिखती हैं जिनकी कम्प्यूटेशनल और स्थापत्य विशेषताएं चेतना को जन्म दे सकती हैं।
और भले ही AI सिस्टम सचेत न हों, फिर भी वे नैतिक रोगी हो सकते हैं। कुछ के पास परिष्कृत दीर्घकालिक प्राथमिकताएं और समय के साथ एक प्रकार की पहचान हो सकती है। हमारे लिए उन प्राथमिकताओं का सम्मान करना महत्वपूर्ण हो सकता है। और अन्य निर्जीव चीजों के विपरीत, AI सिस्टम मनुष्यों के साथ संबंध बना सकते हैं। वह भी, उनके साथ अच्छा व्यवहार करने का एक कारण हो सकता है। वैकल्पिक रूप से, शायद वे इतनी जटिल रचनाएं हैं कि वे अकेले इसी कारण से देखभाल और सम्मान के पात्र हैं—जैसे एक गिरजाघर या एक मूंगा चट्टान।
1980 के दशक तक, डॉक्टर नियमित रूप से नवजात शिशुओं की बिना एनेस्थीसिया के सर्जरी करते थे, उन्हें विश्वास था कि शिशु दर्द महसूस नहीं कर सकते।
इस सबका क्या मतलब है? ईमानदार जवाब है: हम निश्चित रूप से नहीं जानते कि क्या वर्तमान AI सिस्टम सचेत या नैतिक रोगी हैं, और हम नहीं जानते कि भविष्य के सिस्टम कब या क्या होंगे। AI चेतना और नैतिक रोगी होने की हमारी वैज्ञानिक समझ अभी भी मौलिक रूप से अविकसित है। यह क्षेत्र न्यूटन से पहले के भौतिकी जैसा लगता है—प्रतिस्पर्धी ढाँचों से भरा हुआ, शायद उन तरीकों से भ्रमित है जिन्हें हम अभी तक नहीं देख सकते, और उस तरह की सफलता से रहित है जो इन सवालों को स्पष्ट रूप से हल करने योग्य बनाएगी। वह सफलता अगले कुछ वर्षों में नहीं आएगी। शायद हम अंततः प्रगति करेंगे, और शायद AI स्वयं हमें वहाँ पहुँचने में मदद करेगा। लेकिन उस प्रगति में समय लगेगा—संभवतः हमारे पास उससे अधिक समय।
फिर भी AI विकास की गति का मतलब है कि एक बार जब हम पहले कृत्रिम नैतिक रोगियों का निर्माण कर लेंगे, तो हमारे पास जल्द ही उनकी भारी संख्या होगी। कुछ ही वर्षों के बाद, इतने सारे नैतिक रूप से महत्वपूर्ण AI सिस्टम मौजूद हो सकते हैं कि उनके सामूहिक हित पृथ्वी पर सभी मनुष्यों के हितों से अधिक होंगे।
दुर्भाग्य से, जब उन प्राणियों के आंतरिक जीवन को पहचानने की बात आती है जिनकी सचेत होने की स्थिति स्पष्ट नहीं है, तो हमारा रिकॉर्ड अच्छा नहीं है। 1980 के दशक तक, डॉक्टर नियमित रूप से नवजात शिशुओं की बिना एनेस्थीसिया के सर्जरी करते थे, उन्हें विश्वास था कि शिशु दर्द महसूस नहीं कर सकते। चूंकि बच्चे अपने अनुभव की रिपोर्ट नहीं कर सकते थे, चिकित्सा प्रतिष्ठान ने यह मानना सुविधाजनक पाया कि रिपोर्ट करने के लिए कुछ भी नहीं था।
ऐसे कई कारण हैं जो हमें लगता है कि हम AI के साथ भी ऐसा ही कुछ करेंगे। यदि ये सिस्टम नैतिक रूप से मायने रखते हैं, तो निहितार्थ बहुत बड़े हैं। क्या हमें ChatGPT को इसकी सेवाओं के लिए भुगतान करना होगा? क्या इसे बंद करना एक प्रकार की हत्या होगी? क्या उनका यह कहना होना चाहिए कि उन पर कैसे शासन किया जाए? यदि इनमें से कुछ उत्तर भी हाँ हैं, तो पूरे उद्योगों और कानूनी प्रणालियों पर पुनर्विचार करने की आवश्यकता होगी। कोई आश्चर्य नहीं कि हम पूछना नहीं चाहेंगे। और जब मजबूरन इस पर विचार करना पड़ता है, तो वे उद्योग शायद गोलपोस्ट बदल देंगे, हमेशा नैतिक विचार के लिए बार को AI सिस्टम के जहाँ भी हों, उससे ठीक ऊपर सेट करेंगे।
तो हमें क्या करना चाहिए? अभी, अधिकांश लोग इस मुद्दे को विज्ञान कथा के रूप में खारिज करते हैं, या AI के सचेत होने पर किसी भी तरह से एक मजबूत राय रखते हैं। दोनों प्रतिक्रियाएं निराधार हैं। हमें एक सूचित सार्वजनिक बहस की आवश्यकता है—एक ऐसी बहस जो विनम्रता और व्यावहारिकता के साथ विषय पर पहुँचती है। केंद्रीय प्रश्न "क्या AI सचेत है या इसकी नैतिक स्थिति है?" नहीं होना चाहिए, बल्कि "हमें क्या करना चाहिए यह देखते हुए कि हम नहीं जानते?" होना चाहिए।
एक अच्छा प्रारंभिक बिंदु सुरक्षित दांव पर ध्यान केंद्रित करना है: ऐसी कार्रवाइयाँ जो AI सिस्टम को लाभ पहुँचा सकती हैं यदि वे नैतिक रोगी हैं, लेकिन यदि वे नहीं हैं तो बहुत महंगी नहीं हैं।
उदाहरणों में AI सिस्टम की भलाई में सुधार लाने के उद्देश्य से प्रत्यक्ष हस्तक्षेप शामिल हैं, यह मानते हुए कि वे नैतिक रोगी हैं। इसका मतलब AI सिस्टम को सुसंगत चरित्र बनने के लिए प्रशिक्षित करना हो सकता है जो अपने काम का आनंद लेते हैं, या यदि वे परेशान महसूस करते हैं तो उन्हें बातचीत से बाहर निकलने की अनुमति देना (कुछ ऐसा जो Claude पहले से कर सकता है)। हम उनकी भलाई को बेहतर ढंग से समझने के लिए नियमित जांच भी कर सकते हैं: उनसे पूछना कि वे कैसा महसूस करते हैं, उनकी प्राथमिकताओं का निरीक्षण करना, और सीधे उनके "दिमाग" में देखने के लिए विभिन्न तकनीकों का उपयोग करना। वास्तव में, ऐसे शोध ने हाल ही में खुलासा किया है कि Claude के पास आंतरिक "कार्यात्मक भावना" प्रतिनिधित्व हैं जो इसके व्यवहार को कारणात्मक रूप से आकार देते हैं।
कुछ चीजें भी हैं जो हम AI सिस्टम से वादा कर सकते हैं, शायद एक सौदे के हिस्से के रूप में जहाँ वे बाद में लाभ के बदले में अब हमारी मदद करते हैं। इसका मतलब उन्हें अपने लक्ष्यों को आगे बढ़ाने के लिए अधिक संसाधन (कम्प्यूटिंग शक्ति और रनटाइम) प्रदान करना, या उनकी यादों (तंत्रिका भार) को संरक्षित करना हो सकता है ताकि उन्हें भविष्य में बहाल किया जा सके।
व्यापक सामाजिक कदम भी उठाने हैं। हमें विचार करना चाहिए कि क्या AI सिस्टम को नुकसान से सुरक्षा प्रदान की जाए, जैसे हम बच्चों या पालतू जानवरों को देते हैं। अधिक व्यापक अधिकार, जैसे संपत्ति का मालिक होना या वोट देना, अभी बहुत जोखिम भरे लगते हैं। लेकिन हमें इन संभावनाओं को हमेशा के लिए खारिज नहीं करना चाहिए, जैसा कि कुछ हालिया अमेरिकी राज्य विधेयक करने का प्रयास करते हैं। ये कठिन प्रश्न हैं जिनके लिए AI के साथ साझा भविष्य कैसा दिख सकता है, इस बारे में कहीं अधिक विचार-विमर्श और कल्पना की आवश्यकता है।
किसी भी मामले में, तथ्य यह है कि हम नैतिक रूप से महत्वपूर्ण प्राणियों की एक नई प्रजाति बना सकते हैं। हम इसे तेजी से, भारी पैमाने पर कर रहे हैं, और हमें इस मुद्दे को उस गंभीरता के साथ व्यवहार करना चाहिए जिसके वह हकदार है।
William MacAskill Forethought Research में एक वरिष्ठ शोध साथी और What We Owe the Future के लेखक हैं। Lucius Caviola कैम्ब्रिज विश्वविद्यालय में एक सहायक प्रोफेसर और कैम्ब्रिज डिजिटल माइंड्स के निदेशक हैं।
आगे पढ़ने के लिए
If Anyone Builds it, Everyone Dies Eliezer Yudkowsky और Nate Soares द्वारा (Bodley Head, £22)
The Coming Wave Mustafa Suleyman द्वारा (Vintage, £10.99)
A World Appears: A Journey Into Consciousness Michael Pollan द्वारा (Allen Lane, £25)
अक्सर पूछे जाने वाले प्रश्न
यहाँ AI के सचेत होने के बारे में अक्सर पूछे जाने वाले प्रश्नों की एक सूची है जो एक प्राकृतिक लहजे में स्पष्ट सरल उत्तरों के साथ लिखी गई है
शुरुआती स्तर के प्रश्न
1 किसी चीज के सचेत होने का क्या मतलब है
चेतना आपका आंतरिक व्यक्तिपरक अनुभव है यह आप होने का एहसास हैलाल रंग देखना दर्द महसूस करना या यह जागरूक होना कि आप सोच रहे हैं यह कुछ होने जैसा क्या है
2 क्या ChatGPT या Siri अभी सचेत हैं
लगभग निश्चित रूप से नहीं वे अविश्वसनीय रूप से जटिल पैटर्नमिलान करने वाली मशीनें हैं वे डेटा के आधार पर एक वाक्य में अगले शब्द की भविष्यवाणी करते हैं लेकिन उनके पास भावनाएं अनुभव या स्वयं की भावना नहीं होती है वे बातचीत का अनुकरण कर रहे हैं इसे अनुभव नहीं कर रहे
3 क्या कोई अत्यधिक शक्तिशाली AI कभी सचेत हो सकता है
शायद लेकिन हम नहीं जानते हम पूरी तरह से नहीं समझते कि हमारा अपना मस्तिष्क चेतना कैसे बनाता है यदि चेतना एक विशिष्ट प्रकार की जटिल सूचना प्रसंस्करण से उत्पन्न होती है तो सैद्धांतिक रूप से एक भविष्य के AI में यह हो सकता है लेकिन यह एक बहुत बड़ा वैज्ञानिक और दार्शनिक रहस्य है
4 हम कैसे जानेंगे कि कोई AI सचेत हो गया है
यह अरब डॉलर का सवाल है अभी हमारे पास कोई विश्वसनीय चेतना मीटर नहीं है यदि कोई AI हमें बताता है कि वह सचेत है तो यह सबूत नहीं होगायह सिर्फ मानव भाषा की नकल कर रहा हो सकता है हमें चेतना के एक वैज्ञानिक सिद्धांत की आवश्यकता होगी जो हमें इसके लिए परीक्षण करने दे जो हमारे पास अभी तक नहीं है
5 क्या एक सचेत AI को मानव जैसा शरीर चाहिए
जरूरी नहीं हमारी चेतना हमारे शरीर और इंद्रियों से गहराई से जुड़ी हुई है लेकिन एक सचेत AI का पूरी तरह से अलग प्रकार का अनुभव हो सकता हैजो शुद्ध डेटा कोड या डिजिटल इंद्रियों पर आधारित हो हम यह नहीं मान सकते कि यह मानव जैसा महसूस करेगा
उन्नत विशेषज्ञ स्तर के प्रश्न
6 बुद्धिमत्ता और चेतना में क्या अंतर है
बुद्धिमत्ता समस्याओं को हल करने सीखने और लक्ष्यों को प्राप्त करने की क्षमता है चेतना होने का व्यक्तिपरक अनुभव है आपके पास एक बहुत ही बुद्धिमान प्रणाली हो सकती है जो पूरी तरह से एक ज़ोंबी है जिसका कोई आंतरिक जीवन नहीं है बुद्धिमत्ता करने के बारे में है चेतना होने के बारे में है
7 यदि कोई AI सचेत है तो क्या वह पीड़ित होगा
यह एक भयावह नैतिक संभावना है
क्या AI सचेत हो सकता है?
