लोग अक्सर मुझसे पूछते हैं कि क्या मुझे लगता है कि भविष्य के सभी उपन्यास AI द्वारा लिखे जाएँगे। यह एक वास्तविक प्रश्न से कम और एक चुनौती से अधिक है। क्या वे पूछ रहे हैं कि क्या मुझे चिंता है कि कोई मशीन मेरा काम कर सकती है, और उसे बेहतर कर सकती है? मैं आमतौर पर इसे कुछ इस तरह से टाल देता हूँ, "कोई एल्गोरिदम अन्ना कैरेनिना नहीं लिखने वाला है!" लेकिन यह भी कोई वास्तविक जवाब नहीं है।
इसलिए मैं पोप लियो XIV, अमेरिकी पोप, के दुनिया को लिखे उनके हालिया पत्र, मैग्निफिका ह्यूमैनिटास: आर्टिफिशियल इंटेलिजेंस के समय में मानव व्यक्ति की रक्षा पर के लिए आभारी हूँ। यह एक लंबा (40,000 शब्दों से अधिक), बुद्धिमान और विचारशील दस्तावेज़ है जिसमें पोप संबोधित करते हैं कि इस तेजी से बढ़ती तकनीक का उपयोग और दुरुपयोग कैसे किया जा सकता है। अब, जब कोई AI पर मेरी राय पूछता है, तो मैं बस उन्हें पोप के पत्र की ओर इशारा कर सकता हूँ—या कम से कम अध्याय तीन की ओर।
पत्र मानव संचार में टूटने के दुखद परिणामों के लिए एक उपयुक्त बाइबिल संदर्भ के साथ शुरू होता है। मानवता एक "निर्णायक विकल्प का सामना करती है: या तो एक नया बाबेल का टॉवर बनाना या एक ऐसा शहर बनाना जिसमें भगवान और मानवता एक साथ रहें।" इसके बाद एक विस्तृत दृष्टिकोण है कि पोप लियो के पूर्ववर्तियों ने चीजों के बारे में कैसे सोचा, और श्रम, अधिकार, सरकार, विज्ञान, शक्ति और एक-दूसरे के प्रति हमारे नैतिक कर्तव्य पर वेटिकन के विचार। यह मानवीय गरिमा और स्वतंत्रता की रक्षा में चर्च के काम को भी उजागर करता है।
तीसरा अध्याय, प्रौद्योगिकी और प्रभुत्व: AI के वादों के आलोक में मानवता की भव्यता, पत्र के शीर्षक पर खरा उतरता है। एक शक्तिशाली (और अक्सर उद्धृत) अनुच्छेद में यह समझाते हुए कि AI क्या नहीं है, पोप मूल रूप से परिभाषित करते हैं कि मानव होने का क्या अर्थ है। "तथाकथित कृत्रिम बुद्धिमत्ताएँ अनुभवों से नहीं गुज़रती हैं, उनके पास शरीर नहीं होता है, वे खुशी या दर्द महसूस नहीं करती हैं, वे रिश्तों के माध्यम से परिपक्व नहीं होती हैं और वे अंदर से यह नहीं जानती हैं कि प्यार, काम, दोस्ती या जिम्मेदारी का क्या मतलब है।" AI के पास कोई नैतिक विवेक नहीं है और वह मानवता की भलाई के लिए कोई वास्तविक चिंता नहीं दिखाता है।
पत्र तब AI के सबसे बड़े खतरे के बारे में सबसे महत्वपूर्ण और आवश्यक बातें कहता है: इसे केवल लाभ को अधिकतम करने के लिए प्रोग्राम किया जा सकता है, जो केवल कुछ लोगों के लाभ के लिए कई लोगों को पीड़ित कर सकता है। पोप "गोपनीयता में हेरफेर" और "सूचना के दुरुपयोग" के खिलाफ चेतावनी देते हैं, रोजगार के प्रबंधन, सार्वजनिक सेवाओं और ऋण तक पहुँच को नियंत्रित करने, और किसी की व्यक्तिगत प्रतिष्ठा को बढ़ाने या नुकसान पहुँचाने के लिए एल्गोरिदम के उपयोग के खिलाफ।
करुणा, दया और क्षमा—एक मशीन की प्राथमिकताओं में उच्च नहीं—पुरानी हो सकती हैं। "'आवश्यक बलिदान' को उचित ठहराया जाने लग सकता है, प्रजातियों के कथित अनुकूलन की खोज में सबसे कमजोर पर बोझ डालना।" यदि इस नई शक्ति के उपकरण उन लोगों के हाथों में समाप्त हो जाते हैं जिनके पास पहले से ही धन और प्रभाव है, तो उनका उपयोग हमारे सबसे अमीर और सबसे विशेषाधिकार प्राप्त नागरिकों के आराम, स्वास्थ्य और कल्याण में सुधार के लिए किया जाएगा।
पोप सीधे तौर पर AI की निंदा नहीं कर रहे हैं, बल्कि उस तरीके की निंदा कर रहे हैं जिससे इसका उपयोग राजनीतिक दमन के उपकरण के रूप में और आर्थिक असमानता को और भी बदतर बनाने के लिए किया जा सकता है।
जैसे-जैसे पत्र समाप्त होता है, पोप हमसे सत्य के प्रति सच्चे रहने, शिक्षा में निवेश करने, रिश्ते बनाने और न्याय और शांति से जीने का आह्वान करते हैं—यह प्रतिरोध करने के लिए कि कैसे नई प्रौद्योगिकियाँ "सबसे कमजोर का शोषण कर सकती हैं, गुलामी के नए रूप बना सकती हैं और संघर्ष से लाभ कमा सकती हैं।" यह स्पष्ट हो जाता है कि पोप सीधे तौर पर AI की निंदा नहीं कर रहे हैं, बल्कि उस तरीके की निंदा कर रहे हैं जिससे इसका उपयोग राजनीतिक दमन के उपकरण के रूप में और आर्थिक असमानता को बढ़ाने के लिए किया जा सकता है।
सिद्धांत रूप में, आप पत्र की आलोचना कर सकते हैं कि वह पर्याप्त दूर तक नहीं गया है, AI की निंदा करने के लिए एक और बाइबिल रूपक—सुनहरे बछड़े—का उपयोग नहीं करने के लिए क्योंकि यह आध्यात्मिक, व्यक्तिगत और सामुदायिक कल्याण पर पैसे बचाने को प्राथमिकता देता है। लेकिन वह जहाज पहले ही निकल चुका है, और लियो XIV—या किसी भी धार्मिक नेता—के लिए इन नई प्रगतियों की 21वीं सदी की मूर्तिपूजा के रूप में निंदा करने के लिए बहुत कुछ नहीं किया जा सकता है।
फिर भी, मानव स्वभाव के बारे में विश्वपत्रीय पत्र की दृष्टि, न्याय और सहानुभूति की भावना जो प्रबल होनी चाहिए, और उच्चतम नैतिक मूल्यों का आवश्यक महत्व—यह अंततः इतना दयालु, इतना सकारात्मक, इतना उदार, और कमजोर और गरीबों की रक्षा करने के हमारे कर्तव्य के बारे में इतना स्पष्ट रूप से सही है कि इसे खारिज करने के कारण ढूँढना मुश्किल है।
लेकिन यही डरावना हिस्सा है। जाहिर है, सिलिकॉन वैली से कुछ विरोध हुआ है, जहाँ नवीनतम तकनीक के निर्माताओं और स्वामियों ने सुझाव दिया है कि पोप को नहीं पता कि वे किस बारे में बात कर रहे हैं।
द गार्जियन का दृष्टिकोण पोप और क्लाउड पर: लियो XIV का AI पर विश्वपत्रीय पत्र मानवता को पहले रखने में सही है | संपादकीय
और पढ़ें
एजीआई हाउस के संस्थापक जेरेमी निक्सन—एक समूह जो यह साबित करने पर केंद्रित है कि AI मूल रूप से मानव मस्तिष्क के बराबर है—को न्यूयॉर्क टाइम्स में यह कहते हुए उद्धृत किया गया था कि चर्च ने "AI के बारे में गहराई से नहीं सोचा है," यह जोड़ते हुए: "वे इस पर कोई स्थिति नहीं रख सकते, क्योंकि वे इसे समझते नहीं हैं।" और ऐसा प्रतीत होता है कि एक व्यापक धारणा है कि वर्तमान शोध का अंतिम परिणाम, प्रभाव में, एक नया भगवान होगा, या कम से कम एक ठोस नकल। भविष्य के खतरों के बारे में चिंतित, हमारा समाज इस बात के सबूतों को नजरअंदाज करना चुन रहा है कि AI के नुकसान पहले से ही मौजूद हैं। एक मित्र की बेटी, जो विज्ञापन में पढ़ाई कर रही एक कॉलेज की छात्रा है, को हाल ही में उसके सलाहकार ने बताया कि जब तक वह स्नातक होगी, विज्ञापन की सभी नौकरियाँ AI द्वारा ले ली जाएँगी।
यदि इस नई तकनीक के स्वामी पोप द्वारा देखे गए इसके खतरों और कमियों से सहमत नहीं हो सकते, तो हम बहुत गहरी मुसीबत में हैं। समस्या यह नहीं है कि हमारे पास एक रोबोट अन्ना कैरेनिना लिख रहा होगा। समस्या यह है कि कोई भी एक ऐसे उपन्यास की कोई आवश्यकता नहीं देखेगा जो एक महिला, एक अद्वितीय मानव प्राणी की पीड़ा को इतनी खूबसूरती से दर्शाता है।
ऐसी किताब का कोई मतलब नहीं होगा जब तक कि जीवन बदलने वाली गलती की वह कहानी एक दूरदर्शी टेक ब्रो द्वारा लाभ में नहीं बदली जा सके और एक बड़ी, बेहतर नौका खरीदने के लिए इस्तेमाल न की जा सके—संभवतः एक स्थायी निम्न वर्ग द्वारा सेवित, उन श्रमिकों द्वारा जिनकी गरिमा, जिनकी एक बार मूल्यवान और मूल्यवान नौकरियाँ, कृत्रिम बुद्धिमत्ता के लालची रूपों द्वारा चुरा ली गई हैं।
फ्रैंसिन प्रोज़ पेन अमेरिकन सेंटर की पूर्व अध्यक्ष और अमेरिकन एकेडमी ऑफ आर्ट्स एंड लेटर्स और अमेरिकन एकेडमी ऑफ आर्ट्स एंड साइंसेज की सदस्य हैं। उनका नया उपन्यास, फाइव वीक्स इन द कंट्री, मई में प्रकाशित हुआ था।
अक्सर पूछे जाने वाले प्रश्न
यहाँ पोप के AI पर विश्वपत्रीय पत्र के प्रति आभार व्यक्त करने वाले कथन पर आधारित अक्सर पूछे जाने वाले प्रश्नों की एक सूची दी गई है। यहाँ बताया गया है कि क्यों
शुरुआती स्तर के प्रश्न
प्रश्न: विश्वपत्रीय पत्र क्या है
उत्तर: यह पोप द्वारा पूरे कैथोलिक चर्च को एक महत्वपूर्ण विषय पर लिखा गया एक औपचारिक पत्र है। इसका उद्देश्य लोगों को शिक्षित और मार्गदर्शन करना है।
प्रश्न: पोप ने कृत्रिम बुद्धिमत्ता के बारे में विश्वपत्रीय पत्र क्यों लिखा
उत्तर: क्योंकि AI तेजी से हमारे जीने, काम करने और बातचीत करने के तरीके को बदल रहा है। पोप का मानना है कि यह मानवीय गरिमा, न्याय और शांति के बारे में गहरे नैतिक और नैतिक प्रश्न उठाता है, इसलिए वह मार्गदर्शन देना चाहते थे।
प्रश्न: क्या पोप कह रहे हैं कि AI बुरा है
उत्तर: नहीं, वे प्रौद्योगिकी के खिलाफ नहीं हैं। वे कह रहे हैं कि हमें सावधान रहने और AI का उपयोग इस तरह से करने की आवश्यकता है जो मानव जीवन का सम्मान करे, कमजोरों की रक्षा करे और सामान्य भलाई को बढ़ावा दे, न कि केवल लाभ या शक्ति को।
प्रश्न: AI पर विश्वपत्रीय पत्र का मुख्य संदेश क्या है
उत्तर: मुख्य विचार यह है कि AI को मानवता की सेवा करनी चाहिए, न कि इसे बदलना या नियंत्रित करना चाहिए। यह यह सुनिश्चित करने के लिए वैश्विक बातचीत का आह्वान करता है कि AI को शांति, सत्य और मानवीय गरिमा पर ध्यान केंद्रित करते हुए नैतिक रूप से विकसित और उपयोग किया जाए।
प्रश्न: यह मुझे एक सामान्य व्यक्ति के रूप में कैसे प्रभावित करता है
उत्तर: यह मायने रखता है क्योंकि AI पहले से ही आपके जीवन में है—सर्च इंजन, सोशल मीडिया, बैंकिंग और यहाँ तक कि चिकित्सा निदान में। पोप सभी से निष्पक्षता, गोपनीयता और इस बारे में सोचने के लिए कह रहे हैं कि क्या ये उपकरण समाज की मदद कर रहे हैं या नुकसान पहुँचा रहे हैं।
मध्यवर्ती स्तर के प्रश्न
प्रश्न: पोप AI के बारे में किन विशिष्ट खतरों की चेतावनी देते हैं
उत्तर: वे एक एल्गोरिदमिक समाज के बारे में चेतावनी देते हैं जहाँ मशीनें बिना निष्पक्षता या पारदर्शिता के लोगों के जीवन को प्रभावित करने वाले निर्णय लेती हैं। वे निगरानी, गलत सूचना और AI को नियंत्रित करने वालों और न करने वालों के बीच बढ़ती असमानता के जोखिमों पर भी प्रकाश डालते हैं।
प्रश्न: क्या विश्वपत्रीय पत्र हथियारों या युद्ध में AI के बारे में बात करता है
उत्तर: हाँ, यह स्वायत्त हथियार प्रणालियों—ऐसी मशीनें जो मानवीय निर्णय के बिना मार सकती हैं—के विकास की कड़ी निंदा करता है। पोप का तर्क है कि यह युद्ध से किसी भी नैतिक जवाबदेही को छीन लेता है और विनाशकारी संघर्षों को जन्म दे सकता है।
प्रश्न: AI पर चर्च का दृष्टिकोण तकनीकी कंपनियों के दृष्टिकोण से कैसे भिन्न है
