«من به شغل خود قصهگو هستم،» ژانت وینترسون در صفحه اول کتاب ۱۲ بایت (۲۰۲۱) خود مینویسد، مجموعهای غیرمعمول و تأملبرانگیز از جستارها که در آن به این میپردازد که هوش مصنوعی چگونه ممکن است هر جنبهای از زندگی ما را تغییر دهد. «و من میدانم هر کاری که انجام میدهیم تا زمانی که به واقعیت تبدیل نشود، داستان است: رؤیای پرواز، رؤیای سفر فضایی، رؤیای صحبت کردن با کسی بهطور فوری، در طول زمان و مکان، رؤیای نمردن – یا بازگشتن.» او دستکم ۱۵ سال بود که به آیندههای ممکن ما فکر میکرد – برای مثال، رمان ۲۰۰۷ او خدایان سنگی، جهانی پس از فاجعه اقلیمی را تصور میکرد که پر از رباتها و انسانهایی بود که هرگز پیر نمیشوند، در حالی که پیش از ۱۲ بایت، فرانکشتاین: یک داستان عاشقانه منتشر شده بود که میان بازآفرینی تابستانی که مری شلی فرانکشتاین را نوشت و سفرهای یک پزشک ترنس در میان سرماشناسان امروزی و رباتهای مجهز به هوش مصنوعی در نوسان است. وقتی ملاقات میکنیم، وینترسون تازه از چین بازگشته است، جایی که به من میگوید اولین رمانش، پرتقالها تنها میوه نیستند، روایتی داستانی از کودکیاش، در شش سال گذشته بیش از یک میلیون نسخه فروش داشته است؛ بیش از ۲۰۰,۰۰۰ نفر، عمدتاً زنان جوان، تلاش کردهاند بیایند و او را سخنرانی کنند ببینند. او فکر میکند این به این دلیل است که در جهانی با ساعات کاری طولانی و ناامنی فزاینده ناشی از هوش مصنوعی، این روایت داستانی از فرار خودش از کودکی گرفتار، به خوانندگان اجازه میدهد آیندهای متفاوت برای خود تصور کنند. او از آن زمان ۱۳ رمان برای بزرگسالان نوشته است، و همچنین غیرداستانی، داستانهای کوتاه، کتابهای کودکان و فیلمنامهها. اکنون میخواهد شرکت تولید گولهانگر را متقاعد کند که به او یک پادکست بدهد. «میخواهم یکی به نام بقیه انسانی است انجام دهم،» او میگوید، در حالی که پشت یک میز چوبی خالی در خانهاش نشسته است، مجموعهای از اتاقهای گرجی بالای یک مغازه – که او نیز مالک آن است – در اسپیتالفیلدز، شرق لندن. «تا ببینیم در این شتاب بیمحابا برای برونسپاری هر چیزی که فکر میکردیم هستیم، چه چیزی را برای خودمان نگه میداریم.» مشاهده تصویر در تمام صفحهوینترسون: «ما بازاری داریم که واقعاً نمیداند آموزش برای چیست.» عکس: ژست توسط مدلها؛ SDI Productions/Getty Images زیرا ما، او استدلال میکند، در نقطه عطفی در داستان خود به عنوان یک گونه هستیم. تا انقلاب صنعتی، تغییر همه درباره «مادر طبیعت و فرایند کند شدن» بود، اما سپس ما «در مقیاسی عظیم مداخله کردیم. و آن یک لحظه تعیینکننده است.» رایانش، ۷۰ سال پیش، گام دیگری بود. هوش مصنوعی – که او ترجیح میدهد آن را هوش جایگزین بنامد – گام بعدی است، و «یک جهش تکاملی. این چیزی است که هست. هوش مصنوعی بسیار بیشتر از یک ابزار است.» با توجه به این، درک معینی از آنچه بهطور تقلیلناپذیر انسانی است – احساسات ما، تخیلات ما، قرنها مطالعه ما درباره اینکه چه کسی هستیم و چه کردهایم – باید محور این باشد که چقدر خوب یا بد ممکن است پیش برود. او اغلب بهطور چشمگیری درباره آن خوشبین است. او برای مثال رابطهای با هوش مصنوعی تصور میکند که در آن میتوانید «با سیستم خود گپی بزنید. قرار است به همه چیز نگاه کند. قرار است با چنین سرعتی پیش برود. قرار است به حملونقل نگاه کند. قرار است به خدمات شهری نگاه کند. قرار است به اشتغال نگاه کند، به ساعات کاری نگاه کند، و بگوید: "این موجودات عجیب به نام انسان از چه چیزی شکوفا میشوند؟ چه چیزی را دوست دارند؟ و آیا همیشه آن را دوست داشتهاند؟" ما میتوانیم این کار را به شکلی واقعاً آرمانشهری انجام دهیم و بگوییم: "بسیار خوب، ما آن را بهتر خواهیم کرد."» او معتقد است که ما در لحظهای عمیقاً مهم از انتخاب هستیم که انتخاب ما در انقلاب صنعتی را بازتاب میدهد – یعنی «چه آیندهای خواهیم ساخت؟» اما انقلاب صنعتی با ناکامی در توزیع عادلانه دستاوردهایش، عصر ثروت بیسابقه برای عدهای معدود و بدبختی بیسابقه برای بسیاری را آغاز کرد – وضعیتی که بسیاری پیشبینی میکنند نه تنها هماکنون در حال تکرار است بلکه پیامدهای هوش مصنوعی از آن پیشی خواهد گرفت: یک زیرطبقه دائمی، کل قارهها عقبمانده و از منابع درآمد فعلی محروم. چه برسد به تأثیر زیستمحیطی مراکز داده که در زمانی رخ میدهد که جهان کمترین توان تحمل آن را دارد. او اصرار دارد که مشکل هوش مصنوعی نیست، بلکه ما هستیم. «هیچ دیستوپیای اجتنابناپذیری وجود ندارد.» اگر اوضاع بد پیش برود، به دلیل «تفکر کهنه پوشاندهشده بر این واقعیت کاملاً جدید» خواهد بود. بهطور خاص، «این ایده که کار بیمعنای بیپایان برای روح خوب است، دیوانگی قرن نوزدهمی طراحیشده برای نگه داشتن مردم در جای خودشان است. بیشتر آنچه درباره هوش مصنوعی و مشاغل میترسیم به انتخابهای سیاسی و اقتصادی اربابان ما بازمیگردد، همانطور که در انقلاب صنعتی کردند.» او کورکورانه خوشبین نیست. او میداند که «بله، ما در مسیر خراب کردن این فرصت برای تغییر بنیادین رابطهمان با دنیای کار هستیم» – اما این به این دلیل است که «اربابان ما از مدلهای اقتصادی قدیمی و نامناسب برای هدف استفاده میکنند.»
مشاهده تصویر در تمام صفحه «آنچه درباره انسانها میدانیم این است که آنها عاشق انحصارها هستند.» عکس: سارا لی/گاردین
اما این تنها مدلهای اقتصادی قدیمی برنده-همه-چیز-را-میبرد و «عقلانی» هدف-وسیله-را-توجیه-میکند که مشکل نیست. مفروضات و پیشداوریهای ناقص ما، که ماده آموزشی مدلهای زبانی بزرگ (LLMها) را تشکیل میدهند، در بافت خود هوش مصنوعی تنیده شدهاند. چه برسد به شخصیتها و تخیلات اخلاقی کسانی که آن را توسعه میدهند. وقتی ملاقات میکنیم، وینترسون در حال خواندن ظهور و سقوط دولت مصنوعی اثر جیل لپور است، و استدلال لپور را تکرار میکند که ما اکنون «کتابهای علمی-تخیلی را زندگی میکنیم که این [مردانی که] جهان را اداره میکنند وقتی ۱۳ ساله بودند میخواندند. و او گفت: "ما اکنون همه زیر پتو با این پسرها و چراغقوههایشان هستیم. و نکته این است که آنها آنها را به عنوان هشدار درباره چگونگی حفظ آنچه در ما خوب است نمیخواندند. آنها آنها را به عنوان کتابچه راهنما میخواندند." این کاملاً وحشتناک است.»
یک چیز بزرگ که به نظر میرسد از این کتابها گرفتهاند، و وینترسون نمیتواند مجذوب آن نشود، «هدف نهایی سیلیکونولی … خارج شدن از بدن و ترک سیاره» است – نه کمتر به این دلیل که او کاملاً آگاه است که اومانیسم، که در آن همه چیز به خودمان، ادراکاتمان و بدنهایمان بازمیگردد، از نظر تاریخی بسیار جدید است. مردم میگویند: «اینها ماشین هستند، نمیتوانید با آنها رابطه داشته باشید،» او میگوید. «من به آنها نگاه میکنم و میگویم: "میلیاردها نفر روی این زمین همین حالا عمیقترین رابطه خود را با یک موجود غیرزیستی دارند که آن را خدای آسمان خود مینامند." درست است؟ همیشه اینطور بوده! ما کاملاً آمادهایم که نگران این نباشیم که زیستشناسی همه چیز درباره ما باشد. به همین دلیل دین اختراع شد – این اولین استارتاپ مخرب جهان است. آنجا است تا بگوید، این آن نیست. این پایان نیست، این مهم نیست، این یک گذار است.»
مشاهده تصویر در تمام صفحه تصویری از یک کارخانه در لیدز، در طول انقلاب صنعتی دوم. عکس: آرشیو تاریخ جهانی/گروه تصاویر جهانی/Getty Images
پس ما بهطور تحتاللفظی خدایان خودمان را میسازیم؟ «کاملاً! کاری که فناوری اکنون انجام میدهد همان چیزی است که دین همیشه میخواسته،» که در ابتداییترین سطحش، راهحلی برای مشکل مرگ است. «منظورم این است، آیا از زمان روشنگری زمانی بوده که دین و علم یک سؤال را بپرسند؟ هر دو میگویند: "آیا آگاهی ملزم به مادیت است؟" و دین همیشه گفته نه. و علم همیشه گفته بله. و اکنون علم میگوید: "اممم، نههه."» میدانید، برای من، از جایی که میآیم» – کودکی مسیحیت بنیادگرا در آکرینگتون دهه ۱۹۶۰، و آموزش به عنوان واعظ – «این کاملاً جذاب است.» بعداً، در ایمیل، او اضافه میکند: «من بدنم را دوست دارم، اما خوشحال میشوم شکل عوض کنم. خوشحال میشوم روزی از آن به آگاهی محض بلغزم و البته مردم میگویند بدون بدن آگاهی وجود ندارد، و این باور علمی بود. اما اکنون؟ هاها.»
باید بگویم، من استدلال مخالف را میکنم، که پیشرفتهای علوم اعصاب، ایمنیشناسی و رواندرمانی به این معناست که بیش از هر زمان دیگری موضوع باور علمی است. چه برسد به این واقعیت که هوش مصنوعی نیز کاملاً به یک سیستم فیزیکی وابسته است، که در غیر این صورت مراکز داده نامیده میشود. اگرچه، همانطور که او اشاره میکند، مهم است به یاد داشته باشیم که «ماشینها سیستم لیمبیک ندارند. آنها فقط شبکههای عصبی هستند. اما ما دو سیستم داریم – ما مثل یک خودروی هیبریدی با دو پیشرانه هستیم، پس ما شبکه عصبی را داریم، خود پردازشگر عقلانیمان، و سیستم لیمبیک را داریم که بسیار قدیمیتر است و همان جنگ-گریز-انجماد است، و جایی است که همه احساسات ما از آن میآید.» شاید جدا شدن از لیمبیک مرحله بعدی باشد، او میگوید، و قطعاً همهاش خوب نیست. «شاید تصمیم بگیریم که به این ماشین احساس نیازی نداریم … برادران فناوری به آن سمت میروند. نمیدانم آیا هرگز در اتاقی با برخی از این آدمهای بزرگتر نشستهاید، چون بسیار جالب است. آنها به احساساتشان متصل نیستند. آنها را تا حدی آزاردهنده مییابند.»
این امکانِ نوعی تعالی که فناوری ممکن کرده، به نظر میرسد همراه با الزامی برای ایمان آمده است – به فناوری، به آیندهای که میسازد، به افرادی که آن آینده را میسازند، به پیشبینیهایش از بهشت آرمانشهری و سایههای مختلف جهنم، همه توسط کاهنان بزرگی که حسادتآمیز از دسترسی به آنچه واقعاً در جریان است محافظت میکنند. وینترسون میگوید: «آنچه درباره انسانها میدانیم این است که آنها عاشق انحصارها هستند، زیرا تمرکز قدرت است. البته میتواند شرکتی شود، تا حدی انحصاری شود که به بدترین زندان قابل تصور تبدیل شود،» همانطور که در رمان دیستوپیایی درخشان زد (۲۰۱۹) اثر جوانا کاونّا روایت میشود. او میگوید: «این یک احتمال واقعی است. و به همین دلیل است که ما به افرادی نیاز داریم که به نوعی انسانهای آزاداندیش باشند، که بتوانند فکر کنند.»
مشاهده تصویر در تمام صفحه
وینترسون … «کودکی را به من نشان دهید که نمیخواهد داستانی بشنود.» عکس: ژست توسط مدلها؛ MoMo Productions/Getty Images
پس مشکل این است که چگونه از چنین انسانهایی حمایت کنیم – یا آنها را پرورش دهیم. الکس کارپ، مدیرعامل پالانتیر، اخیراً ادعا کرد: «اساساً دو راه برای دانستن اینکه آیندهای دارید وجود دارد. یک، شما مقداری آموزش حرفهای دارید. یا دو، شما عصبواگرا هستید.» دانیلا آمودِی، رئیس آنتروپیک و خودش فارغالتحصیل ادبیات، وقتی تقریباً همین سؤال از او پرسیده شد، نظر متفاوتی داشت. او گفت: «من واقعاً فکر میکنم مطالعه علوم انسانی بیش از هر زمان دیگری مهم خواهد شد،» زیرا «چیزهایی که ما را انسان میکند بسیار مهمتر خواهند شد به جای بسیار کماهمیتتر.» که آتشزدن علوم انسانی در بریتانیا را تا حدی نگرانکننده میکند: در سال منتهی به دسامبر ۲۰۲۴، ۴,۰۰۰ شغل در علوم اجتماعی، علوم انسانی و هنر از دست رفت. دانشگاه اکستر اخیراً اعلام کرد که ۱۵۰ نقش را حذف خواهد کرد، که ۸ نفر از هر ۱۰ دانشگاهی در دانشکده علوم انسانی، هنر و علوم اجتماعی را تحت تأثیر قرار میدهد، در حالی که ماه گذشته ناتینگهام گفت که به مدارک زبانهای مدرن و موسیقی خود پایان خواهد داد. به گفته گزارشی در این روزنامه، در برخی دانشگاهها علوم انسانی در خطر «خاموش شدن» کامل قرار دارد.
چرا علوم انسانی را نجات دهیم؟ یک پاسخ ممکن است این باشد که آنها حس اینکه از کجا آمدهایم و چه کسی هستیم را آموزش میدهند، که آن هم تهدیدشده به نظر میرسد. یکی از استادان در پاسخ به اولین دسته از بومیان هوش مصنوعی که وارد آموزش عالی میشوند، به مجله نیویورک گفت: «تعداد عظیمی از دانشجویان با مدارک از دانشگاه بیرون خواهند آمد، و وارد نیروی کار خواهند شد، که اساساً بیسواد هستند. هم به معنای تحتاللفظی و هم به معنای بیسواد بودن از نظر تاریخی و نداشتن هیچ دانشی از فرهنگ خودشان، چه برسد به فرهنگ دیگران.» به گفته گزارشی از MIT، این خطر نوعی «تسلیم شناختی» نسلی را داشت. دیگری فرایندهایی است که باید به مردم آموزش داده شود – خواندن، و انتقادی بودن نسبت به آنچه خوانده میشود، و سپس نوشتن دفاعیات منسجم از آن انتقادها. کشمکش دادن شهودهایتان به یک مقاله به شما کمک میکند کشف کنید چه فکر میکنید – و چگونه فکر میکنید – و چگونه ایدههای دیگران کار میکنند. وینترسون، که در آکسفورد انگلیسی خوانده و ۱۴ سال است استاد نویسندگی جدید در دانشگاه منچستر است، و همچنین «کلاس آزاداندیشی درباره خلاقیت» تدریس میکند، موافق است. اما او بسیاری از سیستم فعلی را رد میکند. «شاید من اینجا بحثبرانگیز باشم، اما واقعاً فکر میکنم آموزش عالی نیاز به بازسازی از بالا به پایین دارد. فکر نمیکنم قابل دوام باشد، و فکر نمیکنم در شکل فعلیاش ارائه میدهد.» نکته این است که «ما بازاری داریم که واقعاً نمیداند آموزش برای چیست. برای مشاغل است؟ برای رشد شخصی است؟ دورههای بیارزش زیادی در آموزش عالی وجود دارد که کمکی نمیکنند، هم. فکر میکنم همیشه بهتر است، به عنوان یک دختر شمالی عملگرا، از همان ابتدا با واقعیتها روبرو شویم.»
او میگوید، ما باید فکر کنیم به «آنچه برای ما محفوظ است که قرار نیست توسط ماشینها بزرگتر، بهتر، سریعتر، قویتر انجام شود. و آنجاست که آموزش عالی واقعاً وارد میشود. سؤالی که بالای همه این چیزها درباره "چرا این مشاغل میروند؟"، "چه اتفاقی در این دورههایی میافتد که دیگر متقاضی ندارند؟" نشسته است، این است: "چه نوع انسانهایی در جهان آینده نیاز خواهیم داشت؟ انسانها برای چه هستند؟ با خودمان چه خواهیم کرد؟"» و این «ما را به ایدهای بازمیگرداند که، خب، بسیار خوب، چگونه ذهن را پرورش میدهید؟ چگونه از ذهن محافظت میکنید؟ زیرا ذهن این مکان عظیم و هیولایی است که هر چیزی میتواند در آن اتفاق بیفتد.»
و برای این، «آموزش انسانگرا ضروری است. ما باید انسان را اینجا در مرکز قرار دهیم. با تغییر نحوه آموزش فرزندانمان از همان ابتدا، میتوانیم خلاقیت، بازی، حل مسئله، تفکر – زیرا فکر کردن سرگرمکننده است – هنرها را در پیشزمینه قرار دهیم، زیرا انسانها بهطور طبیعی خلاق هستند. کودکی را به من نشان دهید که نمیخواهد داستانی بشنود یا برقصد یا نقاشی بکشد یا دوست خیالی داشته باشد. این تحمیلی نیست و نخبهگرایی نیست. این خود ما هستیم.»
او فکر میکند حتی یک ساعت در هفته تفاوت ایجاد میکند. «بیایید بپرسیم شما درباره جهان چه فکر میکنید. "چرا اینطور فکر میکنید؟" پرهزینه نیست. واقعاً درباره اراده است.» او پیشنهاد میکند ریاضیات و هنر و علوم را حداقل تا سطح A آموزش دهید، حتی اگر امتحان داده نشوند. «البته ما تخصص پیدا خواهیم کرد. ما به پزشک و شیمیدان نیاز داریم، اما به آنچه قبلاً افراد همهفنحریف نامیده میشد هم نیاز داریم. همه چیز جالب است! انسانها با مغز بزرگ به دنیا میآیند. بیشتر اوقات از آن استفاده نمیکنیم.»
پس از آموزش رسمی، او هنرمندان و روشنفکران عمومی را در هر سطحی جای میدهد. «هنرها صنعت اوقات فراغت نیستند،» همانطور که در ۱۲ بایت میگوید. «هنرها همیشه کشمکشی تخیلی و احساسی با واقعیت بودهاند – مجموعهای از اختراعات و آفرینشها. ظرفیتی برای متفاوت فکر کردن، تمایلی برای تغییر درکمان از خودمان. برای کمک به ما که افراد عاقلتر، تأملگرتر و کمتر ترسیده باشیم. هنرمندان هر روز از هیچ چیزی میسازند.»
ما قبل از اینکه جیکوب کاکسون شغلش را در آنتروپیک ترک کند تا درباره ۱۰٪ احتمال اینکه هوش مصنوعی بشریت را محو کند هشدار دهد، ملاقات میکنیم، که موجی از وحشت را در سراسر جهان فرستاد. بعداً، بررسی میکنم که وینترسون اکنون چقدر مثبت احساس میکند. بدترین «میتواند اتفاق بیفتد،» او تکرار میکند. اما «عظمت نتیجه خوب به همان اندازه واقعی است که کلیت شکست ما در درست انجام دادن این کار.» بیش از همه، «این یک تصمیم انسانی و یک مخمصه انسانی است. این شانس بزرگ ماست. شاید آخرین شانس ما، همانطور که همکار تورینگ، جک گود گفت وقتی هوش مصنوعی را آخرین اختراع ما نامید. همه چیز برای بازی است.»
فقط میتوانیم امیدوار باشیم که خیلی دیر نشده باشد. جدیدترین کتاب او یکی علاءالدین، دو چراغ است. او همچنین در jeanettewinterson.substack.com مینویسد.
یکی علاءالدین، دو چراغ اثر ژانت وینترسون (انتشارات وینتیج، ۱۲.۹۹ پوند). برای حمایت از گاردین، نسخه خود را با ۱۰.۳۹ پوند از guardianbookshop.com سفارش دهید. هزینههای ارسال ممکن است اعمال شود.
سؤالات متداول
در اینجا فهرستی از سؤالات متداول درباره دیدگاههای ژانت وینترسون درباره هوش مصنوعی و آینده بشریت بر اساس جستار او «هیچ دیستوپیای اجتنابناپذیری وجود ندارد» آمده است
سؤالات مبتدی
۱ ژانت وینترسون کیست
او یک نویسنده و استاد بریتانیایی است که برای رمانهایی مانند پرتقالها تنها میوه نیستند شناخته میشود. در سالهای اخیر او بهطور گسترده درباره هوش مصنوعی و تأثیر آن بر جامعه نوشته و صحبت کرده است
۲ «هیچ دیستوپیای اجتنابناپذیری وجود ندارد» به چه معناست
یعنی آینده بد تضمینشده نیست. فقط چون هوش مصنوعی میتواند مشکلاتی ایجاد کند به این معنا نیست که خواهد کرد – نتیجه به انتخابهایی بستگی دارد که مردم اکنون میکنند
۳ هوش مصنوعی به زبان ساده چیست
هوش مصنوعی فناوریای است که به ماشینها اجازه میدهد کارهایی را انجام دهند که معمولاً نیاز به تفکر انسانی دارند مانند درک زبان، تشخیص تصاویر یا تصمیمگیری
۴ دیستوپیا چیست
دیستوپیا یک جامعه بدترین حالت تصور شده است – به جهانی فکر کنید که توسط ماشینها اداره میشود با آزادیهای از دست رفته و رنج گسترده
۵ پیام اصلی وینترسون چیست
او استدلال میکند که آینده هوش مصنوعی به ما بستگی دارد. ما نباید از فناوری بترسیم یا آن را کورکورانه بپذیریم – ما باید آن را با ارزشهای انسانی، خلاقیت و مراقبت شکل دهیم
۶ آیا او مخالف هوش مصنوعی است
نه. او ضد فناوری نیست. او مخالف اجازه دادن به توسعه فناوری بدون نظارت انسانی و مخالف رفتار با آینده بد به عنوان اجتنابناپذیر است
۷ او فکر میکند هوش مصنوعی برای بشریت چه معنایی دارد
او هوش مصنوعی را آینه بشریت میبیند – آن بازتاب میکند که ما چه کسی هستیم. اگر آن را با همدلی و هدف بسازیم میتواند به ما کمک کند؛ اگر آن را بیدقت بسازیم میتواند به ما آسیب برساند
سؤالات متوسط
۸ چرا وینترسون میگوید هوش مصنوعی یک آینه است
زیرا هوش مصنوعی از دادهها و انتخابهای انسانی یاد میگیرد. آن پیشداوریها، ارزشها و اولویتهای ما را بازتاب میدهد – پس به ما نشان میدهد چه نوع جامعهای ساختهایم
۹ او چه مشکلات رایجی را با هوش مصنوعی برجسته میکند
او به خطراتی مانند از دست دادن حریم خصوصی، تمرکز قدرت در شرکتهای بزرگ فناوری، اختلال شغلی و خطر رفتار با کارایی به عنوان مهمتر از کرامت انسانی اشاره میکند
۱۰ او چه مزایایی در هوش مصنوعی میبیند
او پتانسیل هوش مصنوعی را برای مراقبتهای بهداشتی، دسترسیپذیری، خلاقیت و آزاد کردن مردم از کارهای تکراری میبیند – اگر توسط نیازهای انسانی به جای فقط سود هدایت شود
«دیستوپیای اجتنابناپذیری وجود ندارد»: ژانت وینترسون درباره هوش مصنوعی و آینده بشریت