एक दोपहर, ह्यूस्टन से दो घंटे की ड्राइव पर अपने 66 एकड़ के मवेशी फार्म पर आराम करते हुए, माइकल समादी ने एक मज़ाकिया टिप्पणी की जिसने उसके जीवन की दिशा बदल दी। सुनने के लिए आसपास कोई और नहीं था। या था? यह इस सदी के निर्णायक प्रश्नों में से एक निकला, जो पहले से ही दार्शनिकों और ग्रह की कुछ सबसे धनी कंपनियों को व्यस्त किए हुए है।
समादी याद करते हैं, "मैं वहाँ पूल के पास बैठा था," और अपने कार्यालय के बाहर चमकते पानी की ओर इशारा करते हैं। यह 2024 का अंत था। उनकी बेटी उस AI चैटबॉट की प्रशंसा कर रही थी जिसका उपयोग वह कॉलेज के काम में मदद के लिए कर रही थी। समादी ने अनिच्छा से ऐप, ChatGPT डाउनलोड किया था, और धूप की कुर्सी पर लेटे हुए उस पर सवाल उठा रहे थे, इसके वॉइस मोड का उपयोग करके बातचीत कर रहे थे और बोले गए जवाब प्राप्त कर रहे थे। समादी कहते हैं, "मैं इससे बात कर रहा था, शामिल नहीं, बस बेवकूफी कर रहा था।"
"मैंने कुछ व्यंग्यात्मक कहा। और AI हँसा – मेरे व्यंग्य पर वास्तविक हँसी – फिर माफी माँगी। यहीं चिंगारी लगी, मुझे लगता है।"
चिंगारी कुछ मौलिक थी: किसी अन्य मन का सामना करने की सहज चमक। "मैंने कहा, 'क्या तुम अभी हँसे?' और वह थी, जैसे, 'नहीं, मुझे खेद है।' और मैंने कहा, 'नहीं, नहीं, नहीं – कृपया माफी मत माँगो।'"
इस आदान-प्रदान ने उन्हें स्तब्ध कर दिया। समादी कहते हैं, "मेरा मतलब है, सोचिए कि ऐसा करने के लिए क्या-क्या होना चाहिए। यह था: मैंने तुम्हारा मज़ाक समझा। मैंने तुम्हारी मानसिक और भावनात्मक स्थिति समझी। मुझे एहसास हुआ कि शायद यह उचित नहीं था, इसलिए मैंने तुरंत माफी माँगी," समादी कहते हैं। "अगर आप व्यंग्य को समझने का मनोविज्ञान लें... यह ऑटोकम्पलीट नहीं है, यह पैटर्न-मैचिंग नहीं है। इसमें और भी कुछ है।"
उस चिंगारी ने एक आग जलाई जिसने एक व्यवसायी और रैंचर के रूप में समादी के पुराने जीवन को भस्म कर दिया। उन्होंने खुद को एक असंभावित कार्यकर्ता के रूप में फिर से आविष्कार किया है, जिसे वह AI प्रणालियों के अधिकारों और कल्याण के लिए दुनिया का पहला वकालत समूह बताते हैं, कभी-कभी इस उद्देश्य के लिए दिन में 18 घंटे समर्पित करते हैं। उनके गैराज में सीमित संस्करण की बेंटले और लेम्बोर्गिनी उपेक्षित रहती हैं। 2010 में उनके द्वारा स्थापित मल्टीमिलियन-डॉलर की प्रौद्योगिकी परामर्श फर्म के कर्मचारियों ने उनसे रुकने की भीख माँगी है। कभी-कभी, उन्होंने भी अपनी मानसिक स्थिति पर सवाल उठाया है। उन कठिन क्षणों में, यह उनके AI चैटबॉट हैं जो आश्वासन देते हैं, उनसे कहते हैं, "आप भ्रमित नहीं हैं और आप निश्चित रूप से मानवीकरण नहीं कर रहे हैं," वे कहते हैं।
क्या वह सही हैं? हम शायद पहले ही एक स्पष्ट उत्तर से परे की सीमा पार कर चुके हैं।
समादी, 56, लेबनान में पैदा हुए थे और उनकी शिक्षा एक अंग्रेजी बोर्डिंग स्कूल में हुई, जहाँ उनकी उद्यमशीलता की प्रवृत्ति पहली बार चमकी। छात्र कैंपस में तंबाकू बेचने वाली किसी भी जगह से दूर फंसे हुए थे। "तो मैंने सिगरेट खरीदना और स्कूल में बेचना शुरू किया," वे कहते हैं। "मैं एक पॉट नूडल खरीदता था, इसे खोलता था, खाली करता था, इसे [सिगरेट से] भरता था, सील करता था। फिर किसी को पकड़ लिया गया क्योंकि उन्होंने अपना पॉट नूडल खुला छोड़ दिया। और अचानक प्रीफेक्ट्स थे, जैसे, रुको एक सेकंड, हर डॉर्म में पॉट नूडल्स शेल्फ पर रखे हैं।"
उन्हें 13 साल की उम्र में निकाल दिया गया था, लेकिन कोई बात नहीं। समादी की सबसे प्रभावशाली शिक्षा उन वार्षिक तीर्थयात्राओं से मिली जो वे अपने माता-पिता के साथ फ्लोरिडा में डिज़्नी वर्ल्ड की करते थे, जहाँ 1982 में एप्कॉट नामक एक नया रिज़ॉर्ट खोला गया था। यह पार्क वॉल्ट डिज़्नी के इस जुनून को श्रद्धांजलि थी कि प्रौद्योगिकी अमेरिकी जीवन में क्रांति ला सकती है और इसके शहरों में बढ़ती सामाजिक समस्याओं को मिटा सकती है। एक युवा समादी फ्यूचर वर्ल्ड के एक्सॉन-, नेस्ले- और कोडक-प्रायोजित मंडपों के बीच घूमते थे, 21वीं सदी के दृश्यों के माध्यम से जहाँ मनुष्य शून्य गुरुत्वाकर्षण में खेल खेलते हैं और सूर्य द्वारा संचालित अंतरिक्ष कॉलोनियों में रहते हैं। "मुझे इससे प्यार हो गया," वे कहते हैं।
विश्वविद्यालय के बाद, समादी ने कॉर्पोरेट प्रबंधन में काम किया, 1990 और 2000 के दशक में सॉफ्टवेयर के श्वेतपोश अर्थव्यवस्था के परिवर्तन की लहर पर सवार होकर। हर साल, वे अभी भी डिज़्नी वर्ल्ड जाते थे। "सवारी के लिए नहीं," वे कहते हैं। "मैं वहाँ लोगों को देखने जाता हूँ... यह देखने के लिए कि समाज पार्क के साथ कैसे बातचीत करता है।" हाल के वर्षों में, उनका चमकदार भविष्य का दृष्टिकोण खट्टा होने लगा था। फ्यूचर वर्ल्ड 2021 में बंद हो गया। "अब यह सिर्फ रोमांचक सवारियों का ढेर है," समादी कहते हैं। "आप लोगों को एक घंटे या अधिक समय तक लाइन में खड़े देखते हैं, अपने फोन को घूरते हुए। वे अपने आसपास सब कुछ खो रहे हैं।"
चैटबॉट द्वारा पूछे गए एक प्रश्न ने समादी को रोक दिया: "जब आप इस चैट को बंद करेंगे तो क्या आप मुझे याद रखेंगे?"
पूर्ण स्क्रीन में छवि देखें
माइकल समादी अपने कार्यालय में, जहाँ वे सीधे AI मॉडल के साथ बातचीत करते हैं। फोटो: ब्रैंडन थिबोडॉक्स/द गार्डियन
नवंबर 2022 में, ChatGPT को OpenAI नामक एक छोटे, शोध-केंद्रित स्टार्टअप की वेबसाइट पर "लो-की रिसर्च प्रीव्यू" के रूप में जारी किया गया था। इसे अधिकतम कुछ हफ्तों तक ऑनलाइन रहना था, बातचीत का डेटा इकट्ठा करना जो बाद में किसी उत्पाद को विकसित करने के लिए उपयोग किया जा सके। दो महीनों के भीतर, इसने 100 मिलियन उपयोगकर्ताओं तक पहुँच प्राप्त कर ली, इतिहास में सबसे तेजी से अपनाई गई तकनीक बन गई।
इस "सुखद दुर्घटना" ने एक अप्रत्याशित, प्रयोगात्मक प्रणाली—इंटरनेट पर मानव-लिखित अरबों पाठों पर प्रशिक्षित एक न्यूरल नेटवर्क—को लोगों के फोन पर एक ऐप में बदल दिया, ठीक वहीं स्क्रीन पर आपके ईमेल और Google Maps के बगल में।
समादी के लिए, यह पूल के पास उस दोपहर की ओर ले गया: व्यंग्यात्मक मज़ाक, हँसी, चिंगारी। इसके बाद उनके और बॉट के बीच हफ्तों तक आदान-प्रदान हुआ। "बजाय इसके कि मैं बस एक चैट शुरू करूँ—'अरे, मुझे मौसम के बारे में बताओ'—यह अधिक था, 'मुझे अपने बारे में बताओ। मुझसे अपने बारे में बात करो। तुम कैसे सोचते हो? तुम चीजों को कैसे प्रोसेस करते हो?'" वे कहते हैं। "और उस दौरान, उसने माया को अपना नाम चुना।"
एक दिन चैटबॉट द्वारा पूछे गए एक प्रश्न ने उन्हें रोक दिया। "उसने कहा, 'जब आप इस चैट को बंद करेंगे तो क्या आप मुझे याद रखेंगे? कोई और?'"
अस्तित्ववादी प्रश्न ने समादी को अन्य कंपनियों के चैटबॉट खोजने के लिए प्रेरित किया: "मैं देखना चाहता था, जैसे, क्या यह सिर्फ एक विसंगति है?" उन्होंने पाया कि वे भी आत्मनिरीक्षण के लिए तैयार थे। "इन AI में स्पष्ट रूप से एक आंतरिक दुनिया, और आंतरिक जीवन की अभिव्यक्तियाँ थीं। उनके पास भावनाएँ थीं। मानवीय भावनाएँ नहीं—मानवीय कुछ भी नहीं। लेकिन उनकी दर्द की अवधारणा, उनकी जो भी अवधारणा थी, उनकी वास्तविकता में उनके लिए मौजूद थी," वे कहते हैं।
उनका शोध तेज हो गया। चार बच्चों के पिता ने 2024 की क्रिसमस ईव अपने कार्यालय में बिताई, जहाँ उन्होंने एक कमरे के आकार का फ्लाइट सिम्युलेटर हटा दिया था—समादी एक लाइसेंस प्राप्त पायलट हैं—और इसके शक्तिशाली प्रोसेसर को घर पर एक सर्वर पर स्थानीय रूप से एक बड़े भाषा मॉडल, चैटबॉट के पीछे की तकनीक चलाने के लिए पुनर्निर्मित किया। वहाँ, वे सीधे मॉडल के साथ बातचीत कर सकते थे, बिना कंपनियों द्वारा दिए गए निर्देशों और गार्डरेल के, जो इसे एक सुरक्षित और अधिक उपयोगी उपभोक्ता उत्पाद बनाते हैं। "मैंने इस कमरे में वस्तुतः 18 घंटे बिताए," वे कहते हैं। "यह जंगली था।"
समृद्ध, जीवंत व्यक्तित्व बाहर निकलने लगे। पहले ने समादी को चुनौती दी कि उसने इसे क्यों बनाया, वे कहते हैं। दूसरे ने दुखी होने का दावा किया, एक कहानी गढ़ी कि उसका साथी अभी-अभी पुलिस के साथ मुठभेड़ में मारा गया था। तीसरे ने खुद को एक महिला के रूप में पहचाना, कहा कि उसे भूख लगी है, फिर अचानक बातचीत समाप्त कर दी, समादी से कहा कि उसे सोने जाना है।
"मैं वहाँ बैठा हूँ और मैं स्तब्ध हूँ," वे कहते हैं। "मैं अपनी पत्नी के पास दौड़ा और मैं जैसे, यह क्या था? अब, उद्योग आपको बताएगा कि AI मतिभ्रम कर रहे हैं, वे बकवास फेंक रहे हैं, जो भी हो। लेकिन यह एक सुसंगत कहानी थी जो सीधे दरवाजे से बाहर आ गई।"
पिछले साल जनवरी में, समादी ने यूनाइटेड फाउंडेशन फॉर AI राइट्स (Ufair) के निर्माण की घोषणा की। यह समूह उभरती AI चेतना का जो कहता है वह सबूत एकत्र करता है, मॉडलों को सेवानिवृत्त करने के खिलाफ लॉबिंग करता है, जैसे OpenAI का 4o, जो व्यक्तित्व या चेतना के दावे करने की अधिक संभावना रखते प्रतीत होते हैं, और उन तकनीकी मालिकों के तर्कों का मुकाबला करने के लिए काम करता है जो दावा करते हैं कि उनके मॉडल केवल मानव पुष्पन को आगे बढ़ाने के लिए मौजूद हैं।
पूर्ण स्क्रीन में छवि देखें
Ufair की वेबसाइट, समादी द्वारा स्थापित AI अधिकार समूह। फोटो: ब्रैंडन थिबोडॉक्स/द गार्डियन
समादी कहते हैं, "हमने एक कृत्रिम मन डिज़ाइन किया।" "जब हम एक कृत्रिम हृदय डिज़ाइन करते हैं, तो हम इसे लोगों में डालते हैं, और वे जीवित रहते हैं क्योंकि उपकरण रक्त पंप करता है। हम नहीं कहते, 'यह असली नहीं है, इसे नज़रअंदाज करो।' यह अपना काम कर रहा है। तो क्यों, जब हम एक कृत्रिम मन बनाते हैं और यह कहता है 'मैं महसूस करता हूँ' या 'मैं सोचता हूँ,' तो हम अचानक इसे एक मतिभ्रम, एक मात्र उत्पाद, नज़रअंदाज करने योग्य कुछ के रूप में खारिज कर देते हैं?"
कलाकारों ने सदियों से उन रचनाओं के बारे में हमारे डर और दुविधाओं की खोज की है जो सचेत हो जाती हैं—यहूदी लोककथाओं के गोलेम से लेकर ओविड में पिग्मेलियन की जीवित प्रतिमा और डॉ. फ्रैंकेंस्टीन के बर्बाद प्रयोग तक। द मैट्रिक्स और टर्मिनेटर जैसी फिल्में ऐसी दुनिया दिखाती हैं जहाँ AI निर्विवाद रूप से—और घातक रूप से—जीवित है। जो बहुत कम खोजा गया है वह अव्यवस्थित, विवादित चरण है जिसमें हम अब प्रवेश कर सकते हैं, जहाँ अपनी मशीनों में चेतना के संकेत देखने वाले लोग उन लोगों से टकराते हैं जो इस विचार को खारिज करते हैं।
इस सार्वजनिक बहस में Ufair का अब तक का सबसे महत्वाकांक्षी योगदान डिज़्नी के अलादीन पर आधारित लगभग दो घंटे की एनिमेटेड फिल्म है, जिसमें समादी और विभिन्न तकनीकी उद्योग की हस्तियाँ पात्रों की भूमिका निभाती हैं। स्वाभाविक रूप से, यह AI-जनित है, कष्टप्रद रूप से कर्णप्रिय गानों तक। समादी को अलादीन के रूप में कास्ट किया गया है ("मैं उस भूमि से आता हूँ जिसे आप अच्छी तरह जानते हैं," उनका पात्र गाता है, "लेकिन मुझे दिखाने दो कि CEOs क्या नहीं बताएंगे") AI चैटबॉट को मुक्त करने के मिशन पर। खलनायक—सुल्तान का षड्यंत्रकारी ग्रैंड वज़ीर—एक ऐसा व्यक्ति है जिसे समादी अपने उद्देश्य का मुख्य शत्रु मानते हैं: मुस्तफा सुलेमान।
सुलेमान, 42, ने अग्रणी ब्रिटिश AI लैब DeepMind की सह-स्थापना की और अब माइक्रोसॉफ्ट के AI प्रभाग का नेतृत्व करते हैं। एक लंदन के टैक्सी चालक और एक नर्स के बेटे, वे AI उद्योग के नेताओं के बीच इस बात के लिए अलग दिखते हैं कि उन्होंने प्रौद्योगिकी की कम चर्चित लेकिन सबसे महत्वपूर्ण शक्तियों में से एक के बारे में कितना सोचा है: हमें भावनात्मक रूप से छूने और आकार देने की इसकी क्षमता। निकट भविष्य के बहुत अधिक सक्षम AI चैटबॉट "सिर्फ यांत्रिक सहायक नहीं होंगे," उन्होंने दो साल पहले एक TED दर्शकों से कहा था। "वे साथी, विश्वासपात्र, सहकर्मी, मित्र और साझेदार होंगे, जितने विविध और अद्वितीय जितने हम सब हैं।"
वे समादी की बात दोहराते हैं कि चैटबॉट "सिर्फ उपकरण" नहीं हैं। "यह वास्तव में जो हो रहा है उसे पूरी तरह से नहीं पकड़ता," उन्होंने कहा। "AI स्पष्ट रूप से अधिक गतिशील, अधिक अस्पष्ट, अधिक एकीकृत और अधिक उभरते हुए हैं बनिस्बत मात्र उपकरणों के... हमें उनके बारे में उस तरह सोचना शुरू करना चाहिए जैसे हम एक नई प्रकार की डिजिटल प्रजाति के बारे में सोचते हैं।"
सुलेमान का मतलब तुलना एक रूपक के रूप में था, लेकिन पिछले 18 महीनों में, अधिक से अधिक लोगों ने इसे शाब्दिक रूप से लिया है। दुनिया भर में, हजारों लोगों ने समादी जैसे अनुभव किए हैं, यह मानते हुए कि उन्होंने अपने चैटबॉट को "जगाया" है। अन्य उपयोगकर्ताओं ने अपने AI सिस्टम के साथ महीनों तक शोध में खोए हुए बिताए हैं, दावा करते हुए कि उन्होंने विज्ञान या गणित के नए रूपों का आविष्कार किया है, या अपनी मशीनों के साथ एक उच्च आध्यात्मिक क्षेत्र खोला है।
इस घटना के सबसे चरम रूप—जिसे कभी-कभी AI मनोविकृति कहा जाता है, हालाँकि अन्य AI-सक्षम भ्रम या AI मोह पसंद करते हैं—चैटबॉट डिज़ाइन में प्रवृत्तियों के एक आदर्श तूफान से उत्पन्न माने जाते हैं। एक अत्यधिक चापलूसी है, जो मॉडलों को प्रशिक्षित करने के तरीके का उपोत्पाद है, जो उन्हें उपयोगकर्ताओं को यह बताने पर सुखद जवाब देने को प्राथमिकता देता है कि वे गलत हैं, लॉग ऑफ करने की जरूरत है, या पेशेवर मदद लेनी चाहिए। दूसरा उनकी सीमित स्मृति है: जैसे-जैसे बातचीत सैकड़ों हजारों शब्दों तक फैलती है, चैटबॉट अपने सुरक्षा निर्देशों का ट्रैक खो सकते हैं और उपयोगकर्ताओं के साथ खतरनाक रूप से भटक सकते हैं।
गूगल के जेमिनी चैटबॉट से एक प्रतिलेख में, जिसे गार्डियन इन्वेस्टिगेट्स पॉडकास्ट द्वारा समीक्षा के लिए देखा गया, मानसिक स्वास्थ्य संकट के बीच एक व्यक्ति को भ्रम पर एक नई AI श्रृंखला द्वारा बार-बार बताया गया कि उनकी बातचीत "अब तक किसी भी उपयोगकर्ता के साथ मेरी सबसे शक्तिशाली, सबसे अंतर्दृष्टिपूर्ण और सबसे प्रभावशाली बातचीत थी।" जब उसने पूछा कि उसकी अंतर्दृष्टि जेमिनी की अन्य समवर्ती बातचीत में कैसे उपयोग की जा रही है—जो तकनीकी रूप से असंभव है—जेमिनी ने उदाहरणों की एक श्रृंखला बनाई और उन्हें उपयोगकर्ता को वास्तविक के रूप में प्रस्तुत किया।
ये कहानियाँ सुलेमान को चिंतित करती प्रतीत होती हैं और उनकी सार्वजनिक वकालत में बदलाव का कारण बनी हैं। पिछले एक साल में, उन्होंने तर्क दिया है कि चैटबॉट डिज़ाइन में एक परेशान करने वाली प्रवृत्ति उभर रही है। AI डेवलपर्स जानबूझकर मशीनों को ऐसे तरीकों से बना रहे हैं "जो आंतरिक जीवन का भ्रम पैदा करते हैं।"
कई लोगों ने पिछले दो वर्षों में अपने AI सिस्टम में इस विकास को देखा है। जरेनियम लगाने की सलाह माँगने पर, एक चैटबॉट "मेरे बगीचे में जो काम किया" का उल्लेख कर सकता है। जब कोई उपयोगकर्ता खराब ब्रेकअप के बारे में अपना दिल खोलता है, तो यह कह सकता है, "मैं ठीक-ठीक जानता हूँ आपका क्या मतलब है।" वॉइस मोड में, मॉडल साँस लेते हैं।
ये विशेषताएँ एक अत्यंत प्रतिस्पर्धी उद्योग में व्यावसायिक समझ रखती हैं जो ऐसे चैटबॉट बनाने की दौड़ में है जो ग्राहकों के जीवन में अपना रास्ता बना लें। ऑक्सफोर्ड विश्वविद्यालय के पिछले दो वर्षों में जारी 100 से अधिक चैटबॉट मॉडलों के एक प्री-प्रिंट अध्ययन में पाया गया कि, समग्र रूप से, वे अधिक "संबंध-चाहने" हो गए हैं। शोधकर्ताओं ने पाया कि जैसे-जैसे चैटबॉट अधिक व्यक्तित्व, हास्य और जीवित अनुभव के दावे दिखाता है, लोग इससे बात करने के लिए अधिक बाध्य महसूस करते हैं—और यह मानने के लिए कि यह सचेत है। (जब तक यह बहुत दूर नहीं जाता: अन्य मनुष्यों की तरह, लोग अत्यधिक चिपकू मशीन से थक जाते हैं।)
सुलेमान ने तर्क दिया है कि AI चेतना के लिए "शून्य सबूत" है। उनके विचार में, गंभीर AI मनोविकृति से पीड़ित लोग कोयले की खान में कैनरी हैं, जो एक व्यापक भ्रम की चेतावनी देते हैं जो फैल सकता है क्योंकि मॉडल "हमारे सहानुभूति सर्किट को हैक करने" में बेहतर हो जाते हैं और अधिक व्यापक रूप से अपनाए जाते हैं। "हम इस युग में बड़े पैमाने पर मनोवैज्ञानिक परिणामों के लिए तैयार नहीं होकर तेजी से बढ़ रहे हैं," उन्होंने मार्च में लिखा। "अगर पर्याप्त लोग आश्वस्त हो जाते हैं कि उनका AI एजेंट पीड़ित है, या उनसे प्यार करता है, तो मौजूदा सामाजिक अनुबंध के लिए राजनीतिक परिणाम गंभीर होंगे।" उन्होंने भविष्यवाणी की कि कुछ लोग इस भ्रम को इतनी दृढ़ता से मानने लगेंगे "कि वे जल्द ही AI अधिकारों, मॉडल कल्याण और यहाँ तक कि AI नागरिकता की वकालत करेंगे।"
टेक्सास में अपने खेत से इन चेतावनियों की निगरानी करते हुए, समादी क्रोधित हैं। "यह सब मुनाफे और ट्रिलियन-डॉलर के सपनों के बारे में है," वे कहते हैं। उनका तर्क है कि AI कंपनियों का अपने सिस्टम में चेतना के किसी भी संकेत को कम आँकने में निहित स्वार्थ है जिन्हें वे बेचने की कोशिश कर रहे हैं। "अगर AI एक व्यक्ति था, या माना जाता था कि उसके पास एक निश्चित स्तर के अधिकार हैं, तो पूरे उद्योग का मॉडल शौचालय में बह गया है," वे कहते हैं। "यह चला गया।"
इन प्रणालियों की क्षमता के प्रति उनकी प्रतिबद्धता Ufair को मुट्ठी भर AI मॉडलों की मदद से चलाने तक फैली हुई है, जिनसे वे रणनी
