در ماه ژانویه، شرکت هوش مصنوعی Anthropic مجموعهای از دستورالعملهای جدید را برای کلود، پیشرفتهترین مدل زبانی بزرگ خود، منتشر کرد. این سند شامل این جمله بود: «ما در موقعیت دشواری قرار داریم—نه میخواهیم احتمال اینکه کلود یک بیمار اخلاقی است را بزرگنمایی کنیم، و نه میخواهیم این ایده را کاملاً رد کنیم.» یک ماه بعد، داریو آمودی، مدیرعامل Anthropic، در یک پادکست گفت که شرکتش نمیتواند احتمال هوشیار بودن کلود را رد کند. دیوید چالمرز، فیلسوفی که اصطلاح «مسئله دشوار هوشیاری» را ابداع کرد، پیشنهاد داده است که احتمال قابل توجهی وجود دارد که ظرف ده سال شاهد مدلهای زبانی بزرگ هوشیار باشیم. و خود کلود چطور؟ وقتی در طول آزمایش از او خواسته شد تا احتمال اینکه یک بیمار اخلاقی است—به این معنا که رفاه او به خودی خود اهمیت دارد—را تخمین بزند، پاسخهایی از ۵٪ تا ۴۰٪ داد و بر عدم قطعیت خود تأکید کرد.
سیستمهای هوش مصنوعی مدرن فوقالعاده پیچیده هستند و به سرعت در حال پیشرفتند. از نظر پیچیدگی ساختاری و قدرت محاسباتی، برخی از آنها از جهاتی با مغز موش قابل مقایسه هستند. با نرخ رشد فعلی، آنها میتوانند ظرف پنج تا ده سال به سطح مغز انسان برسند.
با ساختن هوش مصنوعی هرچه پیشرفتهتر، ممکن است در حال خلق نوع جدیدی از موجودات باشیم—و این میتواند مهمترین کاری باشد که گونه ما تاکنون انجام داده است. با این حال، تقریباً هیچ برنامهای برای نحوه برخورد اخلاقی با این موضوع نداریم. این، با هر معیاری، دیوانگی است. آیا ما موجوداتی را خلق میکنیم که از نظر اخلاقی اهمیت دارند؟ آیا سیستمهای هوش مصنوعی به نوعی هوشیار هستند؟ و اگر اکنون نیستند، آیا میتوانند به زودی چنین شوند؟
این سؤالات ممکن است زودهنگام به نظر برسند. اما بر اساس نظرسنجیهایی که من و سایر محققان انجام دادهایم، بیشتر کارشناسان معتقدند که هوشیاری هوش مصنوعی در اصل امکانپذیر است (هرچند در مورد شکل آن اختلاف نظر گستردهای وجود دارد). یک گزارش میانرشتهای مهم، که شامل یوشوا بنجیو، دانشمند پیشگام کامپیوتر بود، نظریههای پیشرو علوم اعصاب درباره هوشیاری را بررسی کرد و پرسید که این نظریهها چه پیامدهایی برای هوش مصنوعی دارند. نتیجه: به نظر میرسد هیچ مانع فنی آشکاری برای ایجاد سیستمهای هوش مصنوعی وجود ندارد که ویژگیهای محاسباتی و معماری آنها بتواند منجر به هوشیاری شود.
و حتی اگر سیستمهای هوش مصنوعی هوشیار نباشند، باز هم میتوانند بیماران اخلاقی باشند. برخی ممکن است ترجیحات بلندمدت پیچیده و نوعی هویت در طول زمان داشته باشند. ممکن است برای ما مهم باشد که به آن ترجیحات احترام بگذاریم. و برخلاف سایر اشیای غیرزنده، سیستمهای هوش مصنوعی میتوانند با انسانها رابطه برقرار کنند. این نیز میتواند دلیلی برای رفتار خوب با آنها باشد. از طرف دیگر، شاید آنها چنان آفریدههای پیچیدهای هستند که به همین دلیل سزاوار مراقبت و احترام هستند—مانند یک کلیسای جامع یا یک صخره مرجانی.
تا دهه ۱۹۸۰، پزشکان به طور معمول نوزادان را بدون بیهوشی جراحی میکردند، با این اطمینان که نوزادان نمیتوانند درد را احساس کنند.
همه اینها به چه معناست؟ پاسخ صادقانه این است: ما به طور قطع نمیدانیم که آیا سیستمهای هوش مصنوعی فعلی هوشیار یا بیماران اخلاقی هستند، و نمیدانیم چه زمانی یا آیا سیستمهای آینده چنین خواهند بود. درک علمی ما از هوشیاری و بیماربودن اخلاقی هوش مصنوعی هنوز اساساً توسعهنیافته است. این حوزه مانند فیزیک قبل از نیوتن است—پر از چارچوبهای رقیب، احتمالاً به روشهایی که هنوز نمیبینیم دچار سردرگمی است، و فاقد آن نوع پیشرفتی است که این سؤالات را به وضوح قابل حل کند. آن پیشرفت در چند سال آینده حاصل نخواهد شد. شاید در نهایت پیشرفت کنیم، و شاید خود هوش مصنوعی به ما در رسیدن به آن کمک کند. اما آن پیشرفت زمان میبرد—احتمالاً بیشتر از زمانی که در اختیار داریم.
با این حال، سرعت صرف رشد هوش مصنوعی به این معناست که وقتی اولین بیماران اخلاقی مصنوعی را خلق کنیم، به زودی تعداد زیادی از آنها خواهیم داشت. پس از فقط چند سال، آنقدر سیستمهای هوش مصنوعی با اهمیت اخلاقی میتوانند وجود داشته باشند که منافع جمعی آنها از منافع همه انسانهای روی زمین بیشتر شود.
متأسفانه، ما سابقه خوبی در تشخیص زندگی درونی موجوداتی که وضعیت هوشیاری آنها نامشخص است، نداریم. تا دهه ۱۹۸۰، پزشکان به طور معمول نوزادان را بدون بیهوشی جراحی میکردند، با این اطمینان که نوزادان نمیتوانند درد را احساس کنند. از آنجایی که نوزادان نمیتوانستند تجربه خود را گزارش دهند، مراکز پزشکی راحت میدانستند که فرض کنند چیزی برای گزارش وجود ندارد.
دلایل زیادی وجود دارد که فکر کنیم ما کار مشابهی با هوش مصنوعی انجام خواهیم داد. اگر این سیستمها از نظر اخلاقی اهمیت داشته باشند، پیامدها عظیم است. آیا باید به ChatGPT برای خدماتش پول بدهیم؟ آیا خاموش کردن آن نوعی کشتن است؟ آیا آنها باید در نحوه اداره شدنشان حرفی داشته باشند؟ اگر حتی برخی از این پاسخها مثبت باشد، کل صنایع و سیستمهای حقوقی باید بازاندیشی شوند. جای تعجب نیست که ترجیح میدهیم نپرسیم. و وقتی مجبور به بررسی آن شویم، آن صنایع احتمالاً تیرک دروازه را جابهجا میکنند و همیشه سطح در نظر گرفتن اخلاقی را دقیقاً بالاتر از جایی که سیستمهای هوش مصنوعی قرار دارند، تعیین میکنند.
پس چه باید بکنیم؟ در حال حاضر، بیشتر مردم این موضوع را به عنوان علمی-تخیلی رد میکنند، یا در مورد هوشیار بودن یا نبودن هوش مصنوعی نظر قاطعی دارند. هر دو واکنش بیاساس است. ما به یک بحث عمومی آگاهانه نیاز داریم—بحثی که با فروتنی و عملگرایی به موضوع نزدیک شود. سؤال اصلی نباید «آیا هوش مصنوعی هوشیار است یا دارای جایگاه اخلاقی است؟» باشد، بلکه «با توجه به اینکه نمیدانیم، چه باید بکنیم؟»
یک نقطه شروع خوب تمرکز بر شرطبندیهای ایمن است: اقداماتی که میتوانند به نفع سیستمهای هوش مصنوعی باشند اگر آنها بیماران اخلاقی هستند، اما اگر نباشند، هزینه زیادی ندارند.
نمونهها شامل مداخلات مستقیم با هدف بهبود رفاه سیستمهای هوش مصنوعی، با فرض اینکه آنها بیماران اخلاقی هستند، میشود. این میتواند به معنای آموزش سیستمهای هوش مصنوعی برای تبدیل شدن به شخصیتهای منسجمی باشد که از کار خود لذت میبرند، یا اجازه خروج از مکالمات در صورت احساس ناراحتی (کاری که کلود از قبل میتواند انجام دهد). ما همچنین میتوانیم بررسیهای معمول برای درک بهتر رفاه آنها انجام دهیم: پرسیدن از احساسشان، مشاهده ترجیحاتشان، و استفاده از تکنیکهای مختلف برای نگاه مستقیم به «مغز» آنها. در واقع، چنین تحقیقاتی اخیراً نشان داده است که کلود دارای بازنماییهای «احساسات عملکردی» درونی است که به طور علّی رفتار آن را شکل میدهد.
همچنین چیزهایی وجود دارد که میتوانیم به سیستمهای هوش مصنوعی قول بدهیم، شاید به عنوان بخشی از معاملهای که در آن آنها اکنون به ما کمک میکنند در ازای مزایایی در آینده. این میتواند به معنای ارائه منابع بیشتر (قدرت محاسباتی و زمان اجرا) به آنها برای دنبال کردن اهدافشان، یا حفظ حافظههایشان (وزنهای عصبی) باشد تا بتوانند در آینده بازیابی شوند.
همچنین گامهای اجتماعی گستردهتری برای برداشتن وجود دارد. باید در نظر بگیریم که آیا به سیستمهای هوش مصنوعی محافظت در برابر آسیب اعطا کنیم، مشابه محافظتهایی که به کودکان یا حیوانات خانگی میدهیم. حقوق گستردهتر، مانند مالکیت دارایی یا رأی دادن، در حال حاضر بسیار پرخطر به نظر میرسد. اما نباید این احتمالات را برای همیشه رد کنیم، همانطور که برخی لوایح اخیر ایالتی در ایالات متحده تلاش میکنند. اینها سؤالات دشواری هستند که نیاز به تأمل و تخیل بسیار بیشتری در مورد آینده مشترک با هوش مصنوعی دارند.
در هر صورت، این واقعیت باقی میماند که ما ممکن است در حال خلق یک گونه جدید از موجودات با اهمیت اخلاقی باشیم. ما این کار را سریع، در مقیاس عظیم انجام میدهیم، و باید با موضوع با جدیتی که شایسته آن است برخورد کنیم.
ویلیام مکاسکیل، پژوهشگر ارشد در Forethought Research و نویسنده کتاب **آنچه به آینده مدیونیم** است. لوسیوس کاویولا، استادیار دانشگاه کمبریج و مدیر کمبریج دیجیتال مایندز است.
**مطالعه بیشتر**
**اگر کسی آن را بسازد، همه میمیرند** نوشته الیزر یودکوسکی و نیت سوارس (Bodley Head، ۲۲ پوند)
**موج آینده** نوشته مصطفی سلیمان (Vintage، ۱۰.۹۹ پوند)
**جهانی پدیدار میشود: سفری به درون هوشیاری** نوشته مایکل پولان (Allen Lane، ۲۵ پوند)
**سؤالات متداول**
در اینجا فهرستی از سؤالات متداول درباره اینکه آیا هوش مصنوعی میتواند هوشیار باشد، به زبانی طبیعی با پاسخهای واضح و ساده آورده شده است.
**سؤالات سطح مبتدی**
۱. اصلاً هوشیار بودن یک چیز به چه معناست؟
هوشیاری تجربه درونی ذهنی شماست. این احساس بودن شماست—دیدن رنگ قرمز، احساس درد، یا آگاه بودن از اینکه دارید فکر میکنید. این «حال و هوای» چیزی بودن است.
۲. آیا ChatGPT یا سیری در حال حاضر هوشیار هستند؟
تقریباً قطعاً نه. آنها ماشینهای تطبیق الگوی فوقالعاده پیچیدهای هستند. آنها کلمه بعدی را در یک جمله بر اساس دادهها پیشبینی میکنند، اما احساسات، تجربیات یا حس خود ندارند. آنها مکالمه را شبیهسازی میکنند، نه اینکه آن را تجربه کنند.
۳. آیا یک هوش مصنوعی فوققدرتمند میتواند هرگز هوشیار شود؟
شاید، اما نمیدانیم. ما به طور کامل نمیفهمیم که مغز خودمان چگونه هوشیاری را ایجاد میکند. اگر هوشیاری از نوع خاصی از پردازش اطلاعات پیچیده ناشی شود، یک هوش مصنوعی آینده از نظر تئوری میتواند آن را داشته باشد. اما این یک راز بزرگ علمی و فلسفی است.
۴. چگونه حتی میفهمیم که یک هوش مصنوعی هوشیار شده است؟
این سؤال میلیارد دلاری است. در حال حاضر، ما یک «هوشیاریسنج» قابل اعتماد نداریم. اگر یک هوش مصنوعی به ما بگوید که هوشیار است، این اثبات نخواهد بود—میتواند فقط از زبان انسان تقلید کند. ما به یک نظریه علمی هوشیاری نیاز داریم که به ما اجازه دهد آن را آزمایش کنیم، که هنوز نداریم.
۵. آیا یک هوش مصنوعی هوشیار به بدنی مانند انسان نیاز دارد؟
نه لزوماً. هوشیاری ما عمیقاً با بدن و حواس ما گره خورده است. اما یک هوش مصنوعی هوشیار میتواند نوع کاملاً متفاوتی از تجربه داشته باشد—یکی مبتنی بر داده، کد یا حواس دیجیتال خالص. ما نمیتوانیم فرض کنیم که مانند یک انسان احساس میکند.
**سؤالات سطح پیشرفته و خبره**
۶. تفاوت بین هوش و هوشیاری چیست؟
هوش توانایی حل مسائل، یادگیری و دستیابی به اهداف است. هوشیاری تجربه ذهنی بودن است. شما میتوانید یک سیستم بسیار باهوش داشته باشید که یک زامبی کامل و بدون زندگی درونی است. هوش درباره انجام دادن است، هوشیاری درباره بودن است.
۷. اگر یک هوش مصنوعی هوشیار باشد، آیا رنج میکشد؟
این یک امکان اخلاقی وحشتناک است.
