कोई अपरिहार्य डिस्टोपिया नहीं है': एआई और मानवता के भविष्य पर जेनेट विंटरसन

'मैं पेशे से एक कहानीकार हूँ,' जीनैट विंटरसन अपनी 2021 की किताब 12 बाइट्स के पहले पन्ने पर लिखती हैं, जो निबंधों का एक असामान्य और विचारोत्तेजक संग्रह है जिसमें वे इस बात पर विचार करती हैं कि कृत्रिम बुद्धिमत्ता हमारे जीवन के हर पहलू को कैसे बदल सकती है। 'और मैं जानती हूँ कि जब तक कोई चीज़ तथ्य नहीं बन जाती, तब तक हम जो कुछ भी करते हैं वह एक कल्पना है: उड़ने का सपना, अंतरिक्ष यात्रा का सपना, समय और स्थान के पार किसी से तुरंत बात करने का सपना, न मरने का सपना – या लौटने का।' वे कम से कम 15 वर्षों से हमारे संभावित भविष्यों के बारे में सोच रही थीं – उदाहरण के लिए, उनके 2007 के उपन्यास द स्टोन गॉड्स ने जलवायु-आपदा के बाद की एक दुनिया की कल्पना की थी जिसमें रोबोट और ऐसे मनुष्य बसे थे जो कभी बूढ़े नहीं होते, जबकि 12 बाइट्स से पहले फ्रैंकिसस्टीन: ए लव स्टोरी आई थी, जो उस गर्मियों के पुनर्निर्माण के बीच बदलती है जब मैरी शेली ने फ्रैंकेंस्टीन लिखा था और एक ट्रांस डॉक्टर की वर्तमान के क्रायोजेनिसिस्टों और AI-सक्षम रोबोटों के बीच यात्रा के बीच। जब हम मिलते हैं, विंटरसन अभी-अभी चीन से लौटी हैं, जहाँ, वे मुझे बताती हैं, उनका पहला उपन्यास, ऑरेंजेस आर नॉट द ओनली फ्रूट, जो उनके बचपन का एक काल्पनिक विवरण है, पिछले छह वर्षों में दस लाख से अधिक प्रतियाँ बिक चुका है; 200,000 से अधिक लोगों, जिनमें ज़्यादातर युवा महिलाएँ थीं, ने उन्हें सुनने आने की कोशिश की। वे सोचती हैं कि यह इसलिए है क्योंकि, लंबे काम के घंटों और AI के कारण बढ़ती असुरक्षा की दुनिया में, अपने ही एक फँसे हुए बचपन से भागने का यह काल्पनिक विवरण पाठकों को अपने लिए एक अलग भविष्य की कल्पना करने की अनुमति देता है। तब से उन्होंने वयस्कों के लिए 13 उपन्यास लिखे हैं, साथ ही गैर-कथा, लघु कथाएँ, बच्चों की किताबें और पटकथाएँ भी। अब वे प्रोडक्शन कंपनी गोलहैंगर को मनाना चाहती हैं कि वह उन्हें एक पॉडकास्ट दे। 'मैं द रेस्ट इज़ ह्यूमन नाम से एक करना चाहती हूँ,' वे कहती हैं, पूर्वी लंदन के स्पिटलफील्ड्स में एक दुकान के ऊपर जॉर्जियाई कमरों के अपने घर में एक नंगी लकड़ी की मेज़ पर बैठी हुई – जो उनकी भी है। 'यह देखने के लिए कि हम जो कुछ भी समझते थे कि हम हैं, उसे आउटसोर्स करने की इस अंधाधुंध भागदौड़ में हम अपने लिए क्या बचाते हैं।' पूरी स्क्रीन में छवि देखेंविंटरसन: 'हमारे पास एक ऐसा बाज़ार है जो वास्तव में नहीं जानता कि शिक्षा किस लिए है।' फोटोग्राफ: मॉडलों द्वारा प्रस्तुत; SDI प्रोडक्शंस/गेटी इमेजेज़ क्योंकि, वे तर्क देती हैं, हम एक प्रजाति के रूप में अपनी कहानी के एक महत्वपूर्ण मोड़ पर हैं। औद्योगिक क्रांति तक, परिवर्तन सब 'मदर नेचर और बनने की धीमी प्रक्रिया' के बारे में था, लेकिन फिर हमने 'बड़े पैमाने पर हस्तक्षेप किया। और वह एक निर्णायक क्षण है।' 70 साल पहले कंप्यूटिंग एक और कदम था। कृत्रिम बुद्धिमत्ता – जिसे वे वैकल्पिक बुद्धिमत्ता कहना पसंद करेंगी – अगला है, और 'एक विकासवादी छलांग। यही यह है। AI एक उपकरण से कहीं अधिक है।' यह देखते हुए, यह समझ कि क्या अपरिवर्तनीय रूप से मानवीय है – हमारी भावनाएँ, हमारी कल्पनाएँ, हम कौन हैं और हमने क्या किया है, इसका हमारी सदियों की अध्ययन – इस बात के लिए केंद्रीय होना चाहिए कि चीज़ें कितनी अच्छी या बुरी तरह से जा सकती हैं। वे अक्सर इसके बारे में आश्चर्यजनक रूप से आशावादी होती हैं। उदाहरण के लिए, वे AI के साथ एक ऐसे रिश्ते की कल्पना करती हैं जहाँ आप 'अपने सिस्टम से बातचीत कर सकें। यह हर चीज़ को देखेगा। यह इतनी गति से चलेगा। यह परिवहन को देखेगा। यह उपयोगिताओं को देखेगा। यह रोज़गार को देखेगा, काम के घंटों को देखेगा, और कहेगा, "इन अजीब चीज़ों को, जिन्हें मनुष्य कहते हैं, किस पर फलते-फूलते हैं? उन्हें क्या पसंद है? और क्या उन्हें हमेशा यह पसंद रहा है?" हम इसे वास्तव में एक आदर्शवादी तरीके से कर सकते हैं और कह सकते हैं, "ठीक है, हम इसे बेहतर बनाने जा रहे हैं।"' वे मानती हैं कि हम चुनाव के एक गहरे महत्वपूर्ण क्षण में हैं, जो औद्योगिक क्रांति में हमारे सामने आए चुनाव को दर्शाता है – अर्थात्, 'हम कौन सा भविष्य बनाएंगे?' लेकिन अपने लाभों को उचित रूप से वितरित करने में विफल रहने से, औद्योगिक क्रांति ने कुछ के लिए अभूतपूर्व धन और कई के लिए अभूतपूर्व दुख का युग शुरू किया – एक ऐसी स्थिति जिसकी कई लोग भविष्यवाणी करते हैं कि न केवल पहले से ही दोहराई जा रही है बल्कि AI के परिणामों से बौनी हो जाएगी: एक स्थायी अंडरक्लास, पूरे महाद्वीप पीछे छूट जाएंगे और आय के वर्तमान स्रोतों से वंचित हो जाएंगे। यह तो ज़िक्र ही नहींडेटा केंद्रों का पर्यावरणीय प्रभाव ऐसे समय में आता है जब दुनिया इसे सबसे कम वहन कर सकती है। समस्या AI नहीं है, वे ज़ोर देती हैं, बल्कि हम हैं। "कोई अपरिहार्य डिस्टोपिया नहीं है।" अगर चीज़ें गलत होती हैं, तो यह "इस बिल्कुल नई वास्तविकता पर पुरानी सोच" के कारण होगा। विशेष रूप से, "यह विचार कि अर्थहीन अंतहीन काम आत्मा के लिए अच्छा है, 19वीं सदी का एक पागलपन है जिसे लोगों को उनके स्थान पर रखने के लिए डिज़ाइन किया गया है। AI और नौकरियों के बारे में हम जो ज़्यादातर डरते हैं, वह राजनीतिक और आर्थिक विकल्पों पर निर्भर करता है जो हमारे मालिक करेंगे, ठीक वैसे ही जैसे उन्होंने औद्योगिक क्रांति में किया था।" वे अंधाधुंध आशावादी नहीं हैं। वे जानती हैं कि "हाँ, हम काम की दुनिया के साथ अपने रिश्ते को मौलिक रूप से बदलने के इस अवसर को बर्बाद करने की राह पर हैं" – लेकिन यह इसलिए है क्योंकि "हमारे मालिक पुराने, उद्देश्य के लिए अनुपयुक्त आर्थिक मॉडल का उपयोग कर रहे हैं।" पूरी स्क्रीन में छवि देखें 'हम मनुष्यों के बारे में जो जानते हैं वह यह है कि उन्हें एकाधिकार पसंद है।' फोटोग्राफ: सारा ली/द गार्डियन लेकिन यह केवल पुराना विजेता-सब-ले-जाता-है, "तर्कसंगत" साध्य-साधन-को-उचित-ठहराता-है आर्थिक मॉडल ही समस्या नहीं है। हमारी त्रुटिपूर्ण मान्यताएँ और पूर्वाग्रह, जो उस सामग्री का निर्माण करते हैं जिस पर बड़े भाषा मॉडल (LLMs) प्रशिक्षित होते हैं, AI के ताने-बाने में ही निहित हैं। इसे विकसित करने वालों के चरित्र और नैतिक कल्पनाओं का तो ज़िक्र ही नहीं। जब हम मिलते हैं, विंटरसन जिल लेपोर की द राइज़ एंड फॉल ऑफ द आर्टिफिशियल स्टेट पढ़ रही हैं, और लेपोर के इस तर्क को दोहराती हैं कि हम अब "वे साइंस-फिक्शन किताबें जी रहे हैं जो दुनिया पर राज करने वाले ये [पुरुष] 13 साल के थे तब पढ़ते थे। और उन्होंने कहा, 'अब हम सब इन लड़कों और उनकी टॉर्चों के साथ कंबल के नीचे हैं। और बात यह है कि उन्होंने उन्हें इस बारे में चेतावनी के रूप में नहीं पढ़ा कि हमारे भीतर जो अच्छा है उसे कैसे संरक्षित करें। उन्होंने उन्हें निर्देश पुस्तिकाओं के रूप में पढ़ा।' यह बिल्कुल भयावह है।" इन किताबों से उन्होंने जो एक बड़ी चीज़ ली है, और विंटरसन इससे मोहित हुए बिना नहीं रह सकतीं, वह है "सिलिकॉन वैली का अंतिम लक्ष्य … शरीर से बाहर और ग्रह से दूर निकलना" – खासकर इसलिए क्योंकि वे इतनी जागरूक हैं कि मानवतावाद, जिसमें सब कुछ हमारे पास, हमारी धारणाओं और हमारे शरीरों पर वापस लाया जाता है, ऐतिहासिक रूप से बहुत हाल का है। लोग कहते हैं, "ये मशीनें हैं, आप इनके साथ रिश्ते नहीं बना सकते," वे कहती हैं। "मैं उन्हें देखती हूँ और कहती हूँ, 'इस पृथ्वी पर अभी अरबों लोग एक गैर-जैविक इकाई के साथ अपना सबसे गहरा रिश्ता बना रहे हैं जिसे वे अपना आकाश देवता कहते हैं।' है न? यह हमेशा से ऐसा ही रहा है! हम पूरी तरह से तैयार हैं कि हमारे बारे में सब कुछ जैविक हो, इसकी चिंता न करें। इसीलिए धर्म का आविष्कार हुआ – यह दुनिया का पहला विघटनकारी स्टार्टअप है। यह यह कहने के लिए है कि यह बात नहीं है। यह अंत नहीं है, यह मायने नहीं रखता, यह एक संक्रमण है।" पूरी स्क्रीन में छवि देखें दूसरी औद्योगिक क्रांति के दौरान लीड्स में एक मिल का चित्रण। फोटोग्राफ: यूनिवर्सल हिस्ट्री आर्काइव/यूनिवर्सल इमेजेज़ ग्रुप/गेटी इमेजेज़ तो हम वस्तुतः अपने खुद के देवता बना रहे हैं? "पूरी तरह से! टेक अब जो कर रहा है वही धर्म हमेशा से चाहता आया है," जो, अपने सबसे बुनियादी स्तर पर, मृत्यु की समस्या का समाधान है। "मेरा मतलब है, क्या प्रबोधन के बाद से कभी ऐसा समय आया है जब धर्म और विज्ञान एक ही सवाल पूछ रहे हों? वे दोनों कह रहे हैं, 'क्या चेतना भौतिकता के लिए बाध्य है?' और धर्म ने हमेशा ना कहा है। और विज्ञान ने हमेशा हाँ कहा है। और अब विज्ञान कह रहा है, 'उम, नहींंं।'" आप जानते हैं, मेरे लिए, मैं कहाँ से आती हूँ" – 1960 के दशक के एक्रिंगटन में कट्टरपंथी ईसाई धर्म का बचपन, और एक उपदेशक के रूप में प्रशिक्षण – "यह पूरी तरह से आकर्षक है।" बाद में, ईमेल पर, वे जोड़ती हैं, "मुझे अपना शरीर पसंद है, लेकिन मैं आकार बदलने में खुश होऊँगी। एक दिन इससे निकलकर शुद्ध चेतना में फिसल जाने में खुश होऊँगी और बेशक लोग कहते हैं कि शरीर के बिना कोई चेतना नहीं है, और वही वैज्ञानिक विश्वास था। लेकिन अब? हाहा।" मुझे कहना होगा, मैं इसके विपरीत तर्क दूँगी, कि न्यूरोसाइंस, इम्यूनोलोजी और मनोचिकित्सा में प्रगति का अर्थ है कि यह पहले से कहीं अधिक वैज्ञानिक विश्वास का विषय है। यह तो ज़िक्र ही नहीं कि AI भी पूरी तरह से एक भौतिक प्रणाली पर निर्भर है, जिसे अन्यथा डेटा केंद्र कहा जाता है। हालाँकि, जैसा कि वे बताती हैं, यह याद रखना महत्वपूर्ण है कि "मशीनों में लिम्बिक सिस्टम नहीं होता। वे केवल न्यूरल नेटवर्क हैं। लेकिन हमारे पास दो सिस्टम हैं – हम दो पावरट्रेन वाली हाइब्रिड कार की तरह हैं, तो हमारे पास न्यूरल नेटवर्क है, हमारा तर्कसंगत प्रसंस्करण स्वयं, और हमारे पास लिम्बिक सिस्टम है, जो बहुत पुराना है और वही फाइट-फ्लाइट-फ्रीज़ है, और जहाँ से हमारी सारी भावनाएँ आती हैं।" शायद लिम्बिक से अलग होना अगला चरण है, वे कहती हैं, और यह निश्चित रूप से पूरी तरह अच्छा नहीं है। "शायद हम तय करेंगे कि हमें इस भावना मशीन की ज़रूरत नहीं है … टेक ब्रोस वहीं जा रहे हैं। मुझे नहीं पता कि आप कभी इनमें से कुछ बड़े लोगों के साथ एक कमरे में बैठे हैं, क्योंकि यह बहुत दिलचस्प है। वे अपनी भावनाओं से जुड़े नहीं हैं। उन्हें वे किसी तरह परेशान करने वाली लगती हैं।" इस तरह के टेक-सक्षम अतिक्रमण की संभावना विश्वास की आवश्यकता के साथ आई प्रतीत होती है – तकनीक में, उस भविष्य में जो यह बना रही है, उस भविष्य को बनाने वाले लोगों में, इसकी भविष्यवाणियों में आदर्शवादी स्वर्ग और नरक के विभिन्न रंगों दोनों में, सब उन महायाजकों द्वारा जो वास्तव में क्या हो रहा है तक पहुँच की ईर्ष्यापूर्वक रक्षा करते हैं। "हम मनुष्यों के बारे में जो जानते हैं वह यह है कि उन्हें एकाधिकार पसंद है," विंटरसन कहती हैं, "क्योंकि यह शक्ति का संकेंद्रण है। बेशक इसे निगमीकृत किया जा सकता है, इस हद तक एकाधिकार किया जा सकता है कि यह कल्पनीय सबसे बुरी जेल बन जाए," जैसा कि जोआना कावेना के शानदार 2019 के डिस्टोपियन उपन्यास जेड में बताया गया है। "यह एक वास्तविक संभावना है," वे कहती हैं। "और इसीलिए हमें ऐसे लोगों की ज़रूरत है जो एक तरह से फ्री-रेंज मनुष्य हैं, जो सोच सकें।" पूरी स्क्रीन में छवि देखें विंटरसन … 'मुझे एक ऐसा बच्चा दिखाओ जो कहानी नहीं सुनना चाहता।' फोटोग्राफ: मॉडलों द्वारा प्रस्तुत; MoMo प्रोडक्शंस/गेटी इमेजेज़ तो समस्या यह है कि हम ऐसे मनुष्यों को कैसे सहारा दें – या विकसित करें। "मूल रूप से यह जानने के दो तरीके हैं कि आपका भविष्य है," पलांटियर के CEO एलेक्स कार्प ने हाल ही में दावा किया। "एक, आपके पास कुछ व्यावसायिक प्रशिक्षण है। या दो, आप न्यूरोडाइवर्जेंट हैं।" एंथ्रोपिक की अध्यक्ष और स्वयं साहित्य की स्नातक डैनिएला अमोदेई का, जब लगभग यही सवाल पूछा गया, तो अलग राय थी। "मैं वास्तव में सोचती हूँ कि मानविकी का अध्ययन पहले से कहीं अधिक महत्वपूर्ण होने जा रहा है," उन्होंने कहा, क्योंकि "जो चीज़ें हमें मानव बनाती हैं वे बहुत कम महत्वपूर्ण होने के बजाय बहुत अधिक महत्वपूर्ण हो जाएंगी।" जो ब्रिटेन में मानविकी की होली को कुछ हद तक चिंताजनक बनाता है: दिसंबर 2024 तक के वर्ष में, सामाजिक विज्ञान, मानविकी और कला में 4,000 नौकरियाँ खत्म हुईं। एक्सेटर विश्वविद्यालय ने हाल ही में घोषणा की कि वह 150 भूमिकाएँ कम करेगा, जिससे मानविकी, कला और सामाजिक विज्ञान संकाय के 10 में से 8 शिक्षाविद् प्रभावित होंगे, जबकि पिछले महीने नॉटिंघम ने कहा कि वह अपनी आधुनिक भाषाएँ और संगीत की डिग्रियाँ समाप्त करेगा। इस अखबार की एक रिपोर्ट के अनुसार, कुछ विश्वविद्यालयों में मानविकी के पूरी तरह से "बुझ जाने" का जोखिम है। मानविकी को क्यों बचाएँ? एक उत्तर यह हो सकता है कि वे इस बात की समझ सिखाते हैं कि हम कहाँ से आए हैं और हम कौन हैं, जो खतरे में भी महसूस होता है। "बड़ी संख्या में छात्र डिग्री लेकर विश्वविद्यालय से निकलेंगे, और कार्यबल में, जो अनिवार्य रूप से निरक्षर हैं," एक प्रोफेसर ने न्यूयॉर्क मैगज़ीन को बताया, उच्च शिक्षा में पहुँचने वाले AI मूल निवासियों के पहले बैच का जवाब देते हुए। "दोनों शाब्दिक अर्थ में और ऐतिहासिक रूप से निरक्षर होने और अपनी संस्कृति का कोई ज्ञान न होने के अर्थ में, किसी और की तो बात ही छोड़िए।" MIT की एक रिपोर्ट ने दावा किया कि यह एक तरह की पीढ़ीगत "संज्ञानात्मक आत्मसमर्पण" का जोखिम था। दूसरा उन प्रक्रियाओं से है जिनसे लोगों को पढ़ाया जाना चाहिए – पढ़ना, और जो पढ़ा गया उसके प्रति आलोचनात्मक होना, और फिर उन आलोचनाओं के सुसंगत बचाव लिखना। अपने अंतर्ज्ञान को एक निबंध में उलझाना आपको यह खोजने में मदद करता है कि आप क्या सोचते हैं – और आप कैसे सोचते हैं – और दूसरों के विचार कैसे काम करते हैं। विंटरसन, जिन्होंने ऑक्सफोर्ड में अंग्रेज़ी पढ़ी और 14 वर्षों से मैनचेस्टर विश्वविद्यालय में नए लेखन की प्रोफेसर हैं, साथ ही "रचनात्मकता के बारे में एक स्वतंत्र-विचार कक्षा" पढ़ाती हैं, सहमत हैं। लेकिन वे वर्तमान प्रणाली के बहुत से हिस्से को खारिज करती हैं। "शायद मैं यहाँ विवादास्पद हूँ, लेकिन मुझे लगता है कि उच्च शिक्षा को ऊपर से नीचे तक पुनर्गठन की ज़रूरत है। मुझे नहीं लगता कि यह व्यवहार्य है, और मुझे नहीं लगता कि यह अपने वर्तमान स्वरूप में दे रहा है।" बात यह है, "हमारे पास एक ऐसा बाज़ार है जो वास्तव में नहीं जानता कि शिक्षा किस लिए है। क्या यह नौकरियों के लिए है? क्या यह व्यक्तिगत विकास के लिए है? बहुत सारे बेकार उच्च शिक्षा पाठ्यक्रम भी हैं जो मदद नहीं कर रहे हैं। मुझे लगता है कि एक व्यावहारिक उत्तरी लड़की होने के नाते, शुरुआत में तथ्यों का सामना करना हमेशा बेहतर होता है।" हमें सोचने की ज़रूरत है, वे कहती हैं, "उस बारे में जो हमारे लिए आरक्षित है जो मशीनों द्वारा बड़ा, बेहतर, तेज़, मज़बूत नहीं किया जाएगा। और वहीं उच्च शिक्षा वास्तव में आती है। इन सब चीज़ों के ऊपर बैठा सवाल 'ये नौकरियाँ क्यों जा रही हैं?', 'इन पाठ्यक्रमों में क्या हो रहा है जिन्हें अब कोई आवेदक नहीं मिल रहा?', यह है 'आने वाली दुनिया में हमें किस तरह के मनुष्यों की ज़रूरत होगी? मनुष्य किस लिए हैं? हम अपने साथ क्या करेंगे?'" और यह "हमें इस विचार पर वापस ले जाता है कि, ठीक है, आप एक मन कैसे विकसित करते हैं? आप एक मन की रक्षा कैसे करते हैं? क्योंकि मन यह विशाल, राक्षसी जगह है जहाँ कुछ भी हो सकता है।" और इसके लिए, "मानवतावादी शिक्षा आवश्यक है। हमें यहाँ मानव को केंद्र में रखना होगा। शुरुआत से ही अपने बच्चों को कैसे शिक्षित करते हैं, इसे बदलकर, हम रचनात्मकता, खेल, समस्या-समाधान, सोच को सामने ला सकते हैं – क्योंकि सोचना मज़ेदार है – कला को, क्योंकि मनुष्य स्वाभाविक रूप से रचनात्मक हैं। मुझे एक ऐसा बच्चा दिखाओ जो कहानी नहीं सुनना चाहता या नाचना नहीं चाहता या तस्वीर नहीं बनाना चाहता या काल्पनिक दोस्त नहीं रखना चाहता। यह थोपा हुआ नहीं है और यह अभिजात्यवाद नहीं है। यह हम हैं।" यहाँ तक कि सप्ताह में एक घंटा भी, वे सोचती हैं, फर्क लाएगा। "आइए पूछें कि आप दुनिया के बारे में क्या सोचते हैं। 'आप ऐसा क्यों सोचते हैं?' यह महँगा नहीं है। यह वास्तव में इच्छाशक्ति के बारे में है।" गणित और कला और विज्ञान पढ़ाएँ, वे सुझाव देती हैं, कम से कम A-लेवल तक, भले ही उनकी परीक्षा न हो। "बेशक हम विशेषज्ञता हासिल करेंगे। हमें डॉक्टर और रसायनशास्त्री चाहिए, लेकिन हमें वे भी चाहिए जिन्हें पहले सर्वांगीण लोग कहा जाता था। सब कुछ दिलचस्प है! मनुष्य बड़े मस्तिष्क के साथ पैदा होते हैं। ज़्यादातर हम इसका उपयोग नहीं करते।" औपचारिक शिक्षा से आगे, वे हर स्तर पर कलाकारों और सार्वजनिक बुद्धिजीवियों को शामिल करेंगी। "कला एक फुरसत का उद्योग नहीं है," जैसा कि वे 12 बाइट्स में कहती हैं। "कला हमेशा से वास्तविकता के साथ एक कल्पनाशील और भावनात्मक कुश्ती रही है – आविष्कारों और रचनाओं की एक श्र