مایکل وولدریج شبیه معلمی است که آرزو میکردید داشته باشید: راحتصحبت، عالی در شکستن ایدههای پیچیده به زبان ساده، نه بیشازحد روشنفکر و نه تلاشکننده برای باحالبودن، و واقعاً به کارش علاقهمند است. او میگوید: «دوست دارم وقتی میبینم چراغی در کسی روشن میشود، وقتی چیزی را که قبلاً نمیفهمیدند درک میکنند. این برای من فوقالعاده رضایتبخش است.»
او بهعنوان یک آدم معمولی به نظر میرسد، در حالی که بهعنوان استاد دانشگاه آکسفورد با بیش از ۵۰۰ مقاله علمی و ۱۰ کتاب، واضح است که اینطور نیست. معمولاً، کار موردعلاقهاش مشارکتش در کتابهای کارشناسی لیدیبرد است—بهروزرسانی مجموعه کلاسیک کودکان—درباره هوش مصنوعی. او در حالی که نسخهای را از قفسه کتابش به من میدهد، میگوید: «من به این افتخار میکنم.» ما در اتاق مطالعهاش در دپارتمان نسبتاً معمولی کامپیوتر دانشگاه آکسفورد، در یک روز بهاری آفتابی هستیم. شاید بهخاطر فضای دانشگاه باشد، اما گفتگوی ما تقریباً شبیه یک سمینار است.
وولدریج سخنران ماهری است، بهویژه در مورد هوش مصنوعی—زمینهای که بیش از ۳۰ سال در آن کار کرده، اما همچنان با مقدار سالمی از شکگرایی به آن نزدیک میشود. در سخنرانیهای کریسمس ۲۰۲۳ خود برای مؤسسه سلطنتی، با عنوان حقیقت درباره هوش مصنوعی، او یک سگ رباتیک آورد و از مخاطبان مدرسهای خود خواست رأی دهند که آیا آن را با چوب بیسبال میزنند یا نه. و برای توضیح یادگیری تقویتی، فیلم کلاسیک دهه ۸۰ بازیهای جنگی را بازسازی کرد، جایی که متیو برودریک جوان با واداشتن کامپیوتر نظامی آمریکا به بازی دوز با خودش (تا زمانی که متوجه شود راه واقعی برای بردن وجود ندارد) از یک فاجعه هستهای جلوگیری میکند. وولدریج میگوید: «متیو برودریک آن زمان در لندن بود. ما سعی کردیم او را به سخنرانی کریسمس بیاوریم، اما نتوانست بیاید. بنابراین کامپیوترمان را به افتخار او برودریک نامیدیم.»
بازیهای جنگی در واقع کاملاً به موضوع آخرین کتاب وولدریج، درسهای زندگی از نظریه بازیها: هنر تفکر استراتژیک در یک دنیای پیچیده نزدیک است. او میگوید بیش از ۱۵ سال است که این موضوع را به دانشجویانش آموزش میدهد. حالا نوبت ماست. در کتاب وولدریج هیچ ریاضیاتی وجود ندارد؛ در عوض، او نظریه بازیها را به ۲۱ سناریوی سادهفهم تبدیل میکند، که همه چیز از ماهیگیری کاد اقیانوس اطلس تا پپسی در مقابل کوکاکولا و وجود خدا را پوشش میدهد.
وولدریج میگوید: «تعجبآور است که چقدر رویدادهای جهانی را میتوان با تعداد نسبتاً کمی از مدلهای نظریه بازیها توضیح داد.» یکی از سادهترینها بازی «مرغ» است، که او در کتابش با استفاده از صحنهای از فیلم جیمز دین شورش بیدلیل (اعتراف میکند که هیچیک از دانشجویانش آن را نشنیده بودند) نشان میدهد. دو نوجوان ماشینهایشان را به سمت یک صخره میرانند؛ اولین کسی که بیرون میپرد «مرغ» است و میبازد. اگر هر دو همزمان بپرند، مساوی است؛ اگر هیچکسی نپرد، بد میبازید (هشدار لوث شدن داستان: این همان چیزی است که در فیلم اتفاق میافتد).
درس نظری اینجا درباره تعادلهای نش است (وارد جزئیات نمیشویم)—اما در عمل، این بازی را همیشه در زندگی واقعی میبینیم. بحران موشکی کوبا قبلاً مثال اصلی بود، اما یکی دیگر در حال حاضر در حال وقوع است: مناقشه آمریکا و ایران. وولدریج میگوید: «شما دو طرف دارید که تهدیدهای فزایندهای علیه یکدیگر میکنند؛ یک نفر باید در مقطعی عقبنشینی کند. خطر این است که اگر هیچکس عقبنشینی نکند، از نقطه بیبازگشت عبور میکنید و بدترین سناریو برای همه رخ میدهد.»
آیا راهی برای خروج از این وجود دارد؟ «خب، یک راهی که بازی میتواند تغییر کند این است که شخص ثالثی وارد شود و انگیزهای برای یکی از طرفین فراهم کند تا متفاوت عمل کند.» گزینه دیگر دور زدن بازی از طریق ارتباط با حریف است. این همان چیزی است که در بحران موشکی کوبا اتفاق افتاد، اما اینجا کمتر محتمل به نظر میرسد. «اگرچه، باید بگویم، ایران به نظر میرسد که بسیار هوشمندانهتر بازی میکند، به این معنا که طرف آمریکایی بسیار بسیار غیرقابل پیشبینی است. حالا، غیرقابل پیشبینی بودن نیز یک استراتژی کلاسیک نظریه بازیهاست، اما برای طرف دیگر بسیار سخت میکند که بداند چگونه پاسخ دهد. اگر واقعاً با یک بازیکن غیرمنطقی روبرو هستید، یک چیزی که نظریه بازیها میگوید این است که فقط شرطهایت را علیه بدترین سناریو پوشش میدهی.»
وولدریج تأکید میکند که این فقط درباره جنگ یا حتی بازیها نیست. در کتابش، نظریه بازیها را بهعنوان «یک نظریه ریاضی که هدفش درک موقعیتهایی است که در آن طرفهای خودخواه با یکدیگر تعامل میکنند» تعریف میکند. او استدلال میکند که این میتواند برای انواع موقعیتها اعمال شود: اجتماعی، سیاسی و فلسفی.
مشاهده تصویر در اندازه کامل
واقعاً مشتاق … وولدریج در ۲۰۲۳. عکس: پل ویلکینسون
ایده «بازی حاصلجمع صفر»، برای مثال، به یک اصطلاح رایج تبدیل شده است (تا حدی به لطف بازیهای جنگی)، حتی اگر به طور گستردهای سوءتفاهم شود. وولدریج توضیح میدهد که بازی حاصلجمع صفر صرفاً بازیای نیست که در آن یک طرف چیزی را که طرف دیگر از دست میدهد به دست میآورد؛ بلکه بازیای است که در آن هدف این است که حریف را تا حد ممکن بد ببازانید. بنابراین، از نظر فنی، شطرنج یک بازی حاصلجمع صفر نیست چون شما فقط سعی میکنید برنده شوید، نه اینکه حریف را نابود یا تحقیر کنید. این یک جنبه اجتماعی و سیاسی دارد. «این طرز فکر حاصلجمع صفر بسیار مضر است. این یک ویژگی بسیار مردانه است.» «و شواهد نشان میدهد که نه تنها لزوماً در زندگی به خوبی که میتوانید عمل نمیکنید، بلکه در نهایت بدبختتر میشوید. احساس میکنید کنترل کمتری بر امور خود دارید. یکی از درسهای کلیدی نظریه بازیها این است که در واقعیت، بیشتر تعاملاتی که ما داریم حاصلجمع صفر نیستند.»
این جهانبینی خصمانه، سیاستهای پوپولیستی را هدایت میکند—به معنای «مهاجران میآیند تا شغلهای شما را بگیرند.» شما میبازید چون دیگران برنده میشوند. یکی از بازیهای موردعلاقه وولدریج ما را تشویق میکند که برعکس فکر کنیم: حجاب نادانی، که در سال ۱۹۷۱ توسط فیلسوف جان رالز ایجاد شد. ایده این است که شما میتوانید جامعه را هر طور که میخواهید طراحی کنید، اما بعد از آن، به طور تصادفی در آن قرار میگیرید. وولدریج آن را «یک آزمایش فکری زیبا … که نتیجهای از نظر اجتماعی خوب را تشویق میکند، اما مردم همچنان منافع شخصی خود را دنبال میکنند» مینامد. او اضافه میکند که بیل کلینتون و باراک اوباما هر دو از طرفداران آن بودند.
واضح نیست که نظریه بازیها چگونه با هوش مصنوعی هماهنگ میشود، اما این روزها، بخش بزرگی از آن است، وولدریج توضیح میدهد، بهویژه در حوزه اصلی علاقهاش: سیستمهای چندعامله—برنامههایی که با یکدیگر تعامل میکنند و از طرف شما عمل میکنند. «پس اگر بخواهم با شما جلسهای ترتیب دهم، چرا باید با شما تماس بگیرم؟ چرا سیری من مستقیماً با سیری شما صحبت نمیکند؟» این نوع تعاملات در زندگی آنلاین ما ساخته شدهاند. برای مثال، حراجهای آنلاین مانند eBay، جایی که شما سعی میکنید در آخرین لحظه پیشنهاد برنده را بدزدید. «اگر عامل من قرار است با عامل شما تعامل کند، و ترجیحات من لزوماً با شما مطابقت ندارد، پس نظریهای که توضیح میدهد چگونه باید به این تعاملات فکر کنید، نظریه بازیهاست.»
مشاهده تصویر در اندازه کامل
یک کامپیوتر Tandy TRS-80، اولین دستگاه وولدریج. عکس: Photology1971/Alamy
وقتی وولدریج شروع کرد، هوش مصنوعی تقریباً یک مفهوم انتزاعی بود. او از طریق علاقه آماتوری وارد کامپیوتر شد. در حال بزرگشدن در حومه هرتفوردشایر، بهعنوان پسر یک مدیر میانی در شرکت سیبسازی محلی، وقتی فروشگاه الکترونیک محلیش حدود سال ۱۹۸۰ یک کامپیوتر خانگی برای فروش داشت، اتفاق بزرگی بود. «این مسخره به نظر میرسید چون فکر میکردم کامپیوترها چیزهای چند میلیون پوندی هستند.» فروشندگان مهربانانه به او اجازه دادند آن را امتحان کند (یک Tandy TRS-80 بود). «هفته به هفته برمیگشتم و خودم برنامهنویسی یاد میگرفتم. به معنای واقعی کلمه در ویترین فروشگاه روی کامپیوتر مینشستم.» او ادامه داد تا تحصیل کند... پس از تحصیل در مقطع کارشناسی در رشته کامپیوتر، در سال ۱۹۸۹ دکترای هوش مصنوعی را شروع کردم، سپس کارآموزی با جانت (شبکه آکادمیک مشترک) انجام دادم که اساساً بخش بریتانیایی اینترنت اولیه بود. فناوری از آن زمان به طور باورنکردنی پیشرفت کرده است، اما همانطور که وولدریج میگوید، «تکنیکهای اصلی که انقلاب فعلی هوش مصنوعی را هدایت کردند، تا اواسط دهه ۸۰ اختراع شده بودند.» او به جفری هینتون، پیشگام شبکههای عصبی مصنوعی—مکانیزمی که اکنون یادگیری ماشین را نیرو میدهد—اشاره میکند. «تنها مانعی که در دهه ۱۹۸۰ در برابر انقلاب هوش مصنوعی قرار داشت، واقعاً این بود که کامپیوترها به اندازه کافی قدرتمند نبودند و داده کافی نداشتیم.»
نسل بعدی تأثیرگذاران موافقت خواهند کرد که هر چیزی که میگویند، انجام میدهند و میبینند برای هوش مصنوعی استفاده شود.
وقتی به اصل مطلب میرسیم، وولدریج میگوید، موفقیت بزرگ GPT-3 در سال ۲۰۲۰ عمدتاً «بر اساس شرطی بود که OpenAI بست که اگر همان کار را انجام دهند، فقط ۱۰ برابر بزرگتر، نتایج را به همراه خواهد داشت. بسیاری از مردم در آن زمان، از جمله من، بسیار در مورد آن شکگرا بودند. من یک دانشمند هستم؛ دوست دارم پیشرفتها را از طریق توسعه علمی ببینم، نه فقط با انداختن قدرت کامپیوتر بیشتر به آن. اما معلوم شد که در واقع، این یک شرط بسیار موفق بود.» آیا این نشان میدهد که سم آلتمن، رئیس OpenAI و همتایانش نابغههای فناوری نیستند که مردم فکر میکنند؟ «من هرگز سم آلتمن را ملاقات نکردهام؛ نمیدانم،» او با دیپلماسی میگوید. «او به وضوح چیزی قابل توجه ارائه کرده است.»
نابغه باشند یا نه، این پیشگامان هوش مصنوعی ممکن است به محدودیتهای خود برسند. چند سال پیش، افرادی مانند آلتمن و دمیس حسابیس از گوگل دیپمایند انتظار داشتند که در عرض چند سال به AGI—هوش عمومی مصنوعی در سطح انسان—دست یابند. وولدریج میگوید: «من شخصاً فکر میکنم آنها بیش از حد خوشبین هستند.» شما میتوانید با ChatGPT درباره مکانیک کوانتومی به زبان لاتین صحبت کنید، او اشاره میکند، «اما در عین حال، ما هوش مصنوعی نداریم که بتواند وارد خانه شما شود، که قبلاً هرگز ندیده است، آشپزخانه را پیدا کند و میز شام را جمع کند»—کاری که یک کارگر انسانی با حداقل دستمزد میتواند انجام دهد.
«محدودیتها قدرت کامپیوتر و دادهای است که میتوانید به آن بیندازید. و داده اکنون یک محدودیت واقعی است.» او میگوید کل ویکیپدیا فقط ۳٪ از دادههای آموزشی GPT-3 را تشکیل میداد. «دفعه بعد از کجا ۱۰ برابر داده بیشتر میگیرید؟» داده به همین دلیل به یک منبع ارزشمند تبدیل میشود، و برخی سازمانها دارای گنجینه بالقوهای از آن هستند. «NHS روی حجم عظیمی از داده درباره انسانها نشسته است. این ارزشترین نوع داده قابل تصور است.» شرکتهای خصوصی برای آن پول زیادی میپردازند، او میگوید، «اما من گمان میکنم که هر کسی که چنین معاملهای را امضا کند، تا آخر عمر پشیمان خواهد شد.» او یک سناریوی آینده دیستوپیایی را تصور میکند که در آن «شما فقط در صورتی به NHS دسترسی دارید که موافقت کنید به فناوری پوشیدنی متصل شوید که شما را به طور منظم نظارت میکند … من فکر میکنم ما به سرعت به سمت دنیایی میرویم که نسل بعدی تأثیرگذاران آنلاین اساساً موافقت میکنند که تمام تجربیات زندگیشان، هر چیزی که میگویند و انجام میدهند و میبینند، برای تأمین داده برای هوش مصنوعی برداشت شود.»
از دیدگاه آکادمیک، وولدریج از روشی که سیلیکون ولی بر حوزه هوش مصنوعی تسلط یافته است، هم از نظر منابع («GPT-3 برای آموزش به حدود ۲۰۰۰۰ ابرکامپیوتر هوش مصنوعی نیاز داشت؛ احتمالاً در کل دانشگاه آکسفورد چند صد تا وجود دارد») و هم از نظر گفتگوی عمومی، ناراحت است. او میگوید: «ما شاهد دزدیده شدن روایت توسط سیلیکون ولی بودهایم، که نسخهای از هوش مصنوعی [سودمحور، جایگزین شغل و تقریباً کاملاً متمرکز بر مدلهای زبانی بزرگ] را ترویج میکند که قطعاً من و بسیاری از همکارانم هیچ علاقهای به ترویج یا ساختن آن نداریم. این به نوعی افسردهکننده است، بهعنوان کسی که تمام حرفهاش را صرف ساختن هوش مصنوعی برای ایجاد دنیایی بهتر و بهبود زندگی مردم کرده است.»
او ادامه میدهد: «اگر به تصویر بزرگ نگاه کنید، هوش مصنوعی طیف وسیعی از مزایا را ارائه میدهد که اغلب نادیده گرفته میشوند زیرا مدلهای زبانی بزرگ تمام توجه را به خود جلب میکنند.» او به تیمی در آکسفورد اشاره میکند که ابزاری مبتنی بر هوش مصنوعی توسعه میدهند که میتواند اسکن قلب را از یک سونوگرافی ساده، که از طریق تلفن همراه به پزشک عمومی شما ارسال میشود، تجزیه و تحلیل کند. «این نوع مراقبت گرانقیمتی است که NHS برای ارائه آن تلاش میکند، ناگهان با هزینه بسیار کم در دسترس است.»
در سال ۲۰۲۵، وولدریج جایزه معتبر فارادی انجمن سلطنتی را برای مهارتش در توضیح ایدههای علمی به عموم مردم دریافت کرد. سخنرانی او در فوریه با عنوان این هوش مصنوعی نیست که به ما وعده داده شده بود بود. در آن زمان، او پیشنهاد کرد که هوش مصنوعی میتواند یک «لحظه هیندنبورگ» داشته باشد—سقوط هیندنبورگ صنعت کشتی هوایی را یک شبه نابود کرد. او میگوید: «کاملاً ممکن است که شاهد یک فاجعه مشابه مرتبط با هوش مصنوعی باشیم. برنامههای کامپیوتری به انواع مختلفی خراب میشوند، و ما کاملاً به یک شبکه کامپیوتری وابسته هستیم که هوش مصنوعی به طور فزایندهای در آن جاسازی شده است.» با این حال، وقتی صحبت از خطرات وجودی میشود، او اضافه میکند: «هوش مصنوعی در لیست چیزهایی که مرا شب بیدار نگه میدارد، بالا نیست. من نگران تسخیر رباتها نیستم. حداقل، در پنج تای اول من نیست.» این واقعیت که او جنگ هستهای را تهدید بزرگتری میداند، چندان اطمینانبخش نیست.
مشاهده تصویر در اندازه کامل
در نظر گرفتن آینده … مایکل وولدریج. عکس: فیلیپا جیمز/گاردین
اگر میتوانست، توسعه هوش مصنوعی را کند میکرد، «فقط برای اینکه زمان بیشتری برای درک آنچه اتفاق میافتد داشته باشیم.» او اشاره میکند که این یک «معضل زندانی» کلاسیک است، یک ایده کلیدی در نظریه بازیها. در سناریوی استاندارد، دو زندانی باید جداگانه تصمیم بگیرند که آیا به جرمی که با هم مرتکب شدهاند اعتراف کنند یا سکوت کنند. اگر یکی اعتراف کند و دیگری نه، فقط اعترافکننده آزاد میشود. اگر هر دو اعتراف کنند، هر کدام یک حکم کوتاهتر را تحمل میکنند. اگر هر دو سکوت کنند، حکم حتی کوتاهتری را تحمل میکنند. بنابراین اگر هر دو توافق کنند که سکوت کنند، وضعیت بهتری دارند، اما هیچکس نمیداند دیگری چه خواهد کرد. برخلاف انتظار، نظریه بازیها میگوید که هوشمندانهترین حرکت اعتراف است.
با همین منطق، شرکتهای هوش مصنوعی در یک مسابقه برای جلو افتادن قفل شدهاند. رقابت آنها منجر به هزینه بیشتر، منابع بیشتر و مراکز داده انرژیبر بیشتر میشود، بدون هیچ سود خالصی برای بشریت. اما اینجا هستیم. «ما تعداد کمی از شرکتهای بسیار ثروتمند داریم که هوش مصنوعی را دنبال میکنند، در حالی که همزمان میگویند میترسند چیزی به طرز وحشتناکی اشتباه شود. پس چرا هنوز آن را دنبال میکنند؟ چون فکر میکنند اگر عقبنشینی کنند، شخص دیگری این کار را خواهد کرد.»
آیا خودش هرگز توسط سیلیکون ولی وسوسه شد؟ «نقاطی بود که این میتوانست اتفاق بیفتد، گمان میکنم،» او میگوید. «اما من امسال ۶۰ ساله میشوم، و حالا این یک بازی جوانان است.» برخی استدلال میکنند که دیگر فایدهای برای تحصیل وجود ندارد، زیرا پیشبینی میشود هوش مصنوعی بسیاری از فعالیتهای انسانی را جایگزین کند. وولدریج اینطور نمیبیند. «من وارد کامپیوتر نشدم چون فکر میکردم شغل خوبی به من میدهد. واردش شدم چون واقعاً علاقهمند بودم.» او میگوید بسیاری از والدین از او میپرسند فرزندانشان در دانشگاه چه بخوانند، «و پاسخ این است: «بگذارید چیزی را بخوانند که واقعاً به آن علاقه دارند.» من فکر میکنم این به مراتب مهمترین چیز است.»
درسهای زندگی از نظریه بازیها: هنر تفکر استراتژیک در یک دنیای پیچیده نوشته مایکل وولدریج در ۲۱ مه منتشر میشود (هدلاین، ۲۵ پوند). برای حمایت از گاردین، یک نسخه از guardianbookshop.com بخرید. آیا نظری درباره مسائل مطرحشده در این مقاله دارید؟ اگر مایلید پاسخی تا ۳۰۰ کلمه از طریق ایمیل برای انتشار ارسال کنید، لطفاً این کار را انجام دهید. برای انتشار نامه شما در بخش نامههای ما، لطفاً اینجا کلیک کنید.
سوالات متداول
در اینجا لیستی از سوالات متداول بر اساس موضوع با لحنی طبیعی و پاسخهای مستقیم و واضح آورده شده است
سوالات سطح مبتدی
۱ صبر کنید، مگر همه از اینکه هوش مصنوعی دنیا را تصاحب کند وحشت ندارند؟ چرا این کارشناس نگران نیست؟
پاسخ پروفسور وولدریج میگوید ایده تصاحب جهان توسط رباتها بیشتر علمی-تخیلی است تا واقعیت. او معتقد است ما از ایجاد ماشینی که اهداف یا آگاهی خودش را داشته باشد بسیار فاصله داریم. خطر واقعی شورش رباتها نیست، بلکه نحوه استفاده انسانها از فناوری است.
۲ اگر مجبور نیستیم نگران آخرالزمان رباتها باشیم، پس باید نگران چه چیزی باشیم؟
پاسخ بزرگترین خطرها از کنترل شرکتهای بزرگ فناوری بر هوش مصنوعی ناشی میشود. او نگران از دست رفتن حریم خصوصی، الگوریتمهای مغرضانه که تصمیمات ناعادلانه میگیرند و گسترش اطلاعات نادرست است. خطر خود هوش مصنوعی نیست، بلکه قدرتی است که به افرادی که آن را اجرا میکنند میدهد.
۳ پس آیا هوش مصنوعی واقعاً برای چیزی خوب است یا همهاش بد است؟
پاسخ همهاش بد نیست. پروفسور وولدریج به مزایای واقعی اشاره میکند. هوش مصنوعی در کارهای خاص و تکراری عالی است، مانند تشخیص بیماریها در اسکنهای پزشکی، بهینهسازی جریان ترافیک و کمک به تحقیقات علمی. نکته کلیدی استفاده از آن بهعنوان یک ابزار است، نه جایگزینی برای قضاوت انسانی.
۴ شرکتهای بزرگ فناوری چه ربطی به این دارند؟ مگر هوش مصنوعی فقط یک برنامه کامپیوتری نیست؟
پاسخ شرکتهای بزرگ فناوری صاحب قدرت عظیم کامپیوتری و حجم عظیم دادههای مورد نیاز برای آموزش قدرتمندترین هوش مصنوعی هستند. آنها تصمیم میگیرند که چگونه ساخته شود و چه کسی از آن استفاده کند. خطر این است که تعداد کمی از شرکتها کنترل زیادی بر فناوریای دارند که همه را تحت تأثیر قرار میدهد.
سوالات سطح پیشرفته
۵ مقاله به مزایای گاهبهگاه اشاره میکند. یک مزیت خاص دنیای واقعی که وولدریج برجسته میکند چیست؟
پاسخ او اغلب به پیشرفتهای علم و پزشکی اشاره میکند. برای مثال، هوش مصنوعی میتواند میلیونها ساختار پروتئین را در عرض چند ساعت تجزیه و تحلیل کند، کاری که سالها طول میکشید. این به طور چشمگیری کشف دارو و درک ما از بیماریها را سرعت بخشیده است.
۶ مشکل همراستایی چیست و آیا وولدریج فکر میکند یک تهدید واقعی است؟
