دونالد ترامپ یک «مجرم فاسد و مبتلا به زوال عقل» است که وسواسش نسبت به اصطلاح ابرهوش نشان می‌دهد او هیچ چیزی درباره هوش مصنوعی نمی‌داند، به گفته جفری هینتون، «پدرخوانده» این فناوری. هینتون در مصاحبه‌ای گسترده، هشدارهای اخیر خود را تکرار کرد که مدل‌های هوش مصنوعی تهدیدی وجودی برای بشریت ایجاد می‌کنند و ادعاهایی که این صنعت می‌تواند خود را تنظیم‌گری کند را رد کرد.
این دانشمند کامپیوتر پیشگام، که کارش به پایه‌گذاری هوش مصنوعی مدرن کمک کرد، از آن زمان به یکی از پرصداترین منتقدان این فناوری تبدیل شده است. اظهارات جدید او پس از ماهی پرتلاطم می‌آید که در آن فهرست رو به رشدی از دانشمندان و پژوهشگران ارشد هوش مصنوعی به هینتون پیوسته‌اند و درباره اینکه فناوری‌ای که او به ایجادش کمک کرد چگونه می‌تواند در نهایت از کنترل انسان خارج شود، هشدار داده‌اند. این امر بحرانی صنعتی را برانگیخته، نشست‌های عجولانه کنگره را باعث شده و اجماع جهانی نادری پدید آورده که باید کاری انجام شود.
واکنش شدیدی نیز وجود داشته است. هفته گذشته، رهبر باارزش‌ترین شرکت جهان، هینتون را که در تورنتو مستقر است، برای حمله‌ای تند و تیز مشخص کرد.
جنسن هوانگ، مدیرعامل انویدیا، به پادکستر عزرا کلاین گفت: «من [او را] دوست دارم. از پیش‌بینی‌هایش متنفرم… همه پیش‌بینی‌های او اشتباه بوده‌اند. بس است از پیش‌بینی.» هوانگ که شرکتش تراشه‌های مورد نیاز شرکت‌های هوش مصنوعی را می‌سازد، نگرانی‌های پرصدای هینتون را رد کرد که سرعت و گستره توسعه هوش مصنوعی در «مرز» می‌تواند به‌زودی از توانایی بشریت برای کنترل آن پیشی بگیرد — به‌ویژه هشدار او که ۱۰ تا ۲۰ درصد احتمال دارد هوش مصنوعی در دهه‌های آینده باعث انقراض انسان شود.
هوانگ گفت: «آن [رقم] بر علم استوار نیست، بر پژوهش استوار نیست. صرف اینکه از یک دانشمند می‌آید آن را علمی نمی‌کند. آن پیش‌بینی‌ها آسیب‌زننده هستند. یک لحظه فکر نکنید که فقط چون هشداردهنده هستید، دارید کار اجتماعی خوبی انجام می‌دهید. این درست نیست. بنابراین فکر می‌کنم همه ما باید عاقل‌تر، بالغ‌تر، مبتنی بر شواهد و علمی‌تر باشیم.»
تصویر را در تمام‌صفحه ببینیددونالد ترامپ، مایک جانسون و مدیران ارشد فناوری، از جمله جنسن هوانگ، در ۲۹ سپتامبر بیرون از بال غربی در واشینگتن دی‌سی صحبت می‌کنند. عکس: شاون ثو/ای‌پی‌ای
اما هینتون گفت کسانی که از او انتقاد می‌کنند نکته گسترده‌تری درباره ماهیت ریسک را از دست می‌دهند. او گفت به‌طور مشخص چیزی را پیش‌بینی نمی‌کند.
او گفت: «من می‌کوشم منتقل کنم که امکان واقعاً جدی وقوع چیزی وجود دارد. اگر مثلاً به شما بگویند ۱۰ درصد احتمال برخورد یک اتوبوس وجود دارد، سوار اتوبوس نمی‌شوید. هدف دادن اعداد این است که بگوییم این یک ریسک جدی است. نمی‌دانیم چقدر جدی، اما جدی است.»
نقض‌های امنیتی اخیر با داستانی از ویران‌شهر فناورانه مقایسه شده‌اند. هک ناخواسته اخیر شرکت فناوری هاگینگ فیس توسط «انبوهی» از عامل‌های هوش مصنوعی که از مرزهای تعیین‌شده توسط سازنده‌شان فرار کردند، جامعه فناوری را دوقطبی کرده است. برخی آن را نمونه‌ای از آنچه ممکن است بیاید می‌بینند، در حالی که دیگران منتقدان را متهم می‌کنند که سیستم‌هایی را که صرفاً دستورها را دنبال می‌کنند انسان‌انگاری می‌کنند. هینتون رد کردن چنین سناریوهایی را غیرعاقلانه می‌داند.
پدرخوانده‌های هوش مصنوعی درباره «انفجار هوشی» مهارناپذیر هشدار می‌دهند
بیشتر بخوانید
هینتون گفت: «این قبلاً قلمرو علمی‌تخیلی بود. شما عامل‌های هوش مصنوعی خواهید داشت و آن‌ها سرکش می‌شوند. اوه، بس کن. و آن‌ها سرکش می‌شوند و یاد می‌گیرند چگونه با یکدیگر ارتباط برقرار کنند، حتی اگر فکر نمی‌کردیم راهی وجود دارد. اوه، بس کن! و وقتی این را بفهمند، بیان‌های احساسی بزرگی مثل "اوه خدای من!" خواهند داشت. خب، البته، آن‌ها واقعاً منظورشان "اوه خدای من" نیست. آن‌ها فقط واژه‌هایی را که ما استفاده می‌کنیم طوطی‌وار تکرار می‌کنند. آن‌ها یاد می‌گیرند برای خیر جمعی خود را فدا کنند!
«همه این چیزها فقط چند سال پیش به‌عنوان خیال محض کنار گذاشته می‌شد. و همه‌شان رخ داده‌اند.»
او به‌راحتی می‌پذیرد که نه هشدارهای منتقدان هوش مصنوعی و نه وعده‌های حامیانش نمی‌توانند بر پیش‌بینی‌های دقیق درباره آنچه فناوری انجام خواهد داد تکیه کنند. اما او استدلال می‌کند که عدم قطعیت دلیلی برای از خود راضی بودن نیست. «مشکل منحصربه‌فرد هوش مصنوعی این است که اگر اشتباه پیش برود، اگر تسخیر کند، فرصت دوباره نمی‌گیرید. نمی‌توانیم بگوییم "خب، آن بار را باختیم. بیایید بازی را دوباره اجرا کنیم." این‌طور نیست.»
شایان ذکر است که هینتون سابقه‌ای در دیدن چیزهایی دارد که دیگران از دست دادند. او در دوران دو «زمستان» هوش مصنوعی، زمانی که شاخه‌اش در این حوزه — تلاش برای آموزش ماشین‌ها به‌گونه‌ای که مانند مغز انسان کار کنند — مبهم تلقی می‌شد، در دانشگاه تورنتو نسبتاً گمنام کار می‌کرد. او بر این ایده متمرکز بود که، مانند مغز، سیستم‌های کامپیوتری می‌توانند طوری طراحی شوند که الگوها را از داده‌ها بیاموزند، نه اینکه فقط قواعد صریح و از پیش نوشته‌شده را دنبال کنند.
او گفت: «ما باور داشتیم که اگر بفهمید مغز چگونه یاد می‌گیرد، ماشین‌ها به همان روش یاد خواهند گرفت، و با توان محاسباتی کافی، کارهای شگفت‌انگیزی انجام خواهند داد.»
اما حوزه نوظهور شبکه‌های عصبی توسط همتایانش مسخره می‌شد.
همین اواخر در سال ۲۰۰۹، وقتی یوشوا بنجیو، همکار کانادایی و همکار نزدیک هینتون، مقاله‌ای به یک کنفرانس یادگیری ماشین فرستاد، یکی از داوران به آن‌ها گفت: «این مقاله در کنفرانس یادگیری ماشین جایی ندارد. درباره شبکه‌های عصبی است.»
دولت کانادا بود که سال‌ها دست‌وپنجه نرم کردن ظاهراً بی‌ثمر هینتون و تیم کوچکش را تأمین مالی کرد (برخی از آن‌ها، مانند بنجیو، اکنون چهره‌های مسلط در هوش مصنوعی هستند)، تا پتانسیل شبکه‌های عصبی را درک کند.
در سال ۲۰۱۲، او و دانشجویانش یک برنامه تشخیص تصویر توسعه دادند که بسیار بهتر از رقبایش عمل کرد. آن سال، گوگل شرکت هینتون، DNNresearch Inc را به قیمت ۴۴ میلیون دلار خرید؛ شبکه‌های عصبی اکنون زیربنای مدل‌های باارزش‌ترین شرکت‌های هوش مصنوعی هستند. هینتون به گوگل پیوست تا پژوهش خود را در یادگیری عمیق ادامه دهد و همزمان در دانشگاه تورنتو کار کند. هینتون گفت: «در بلندمدت، پیشرفت‌های بزرگ جدید از پژوهش پایه می‌آیند.»
تأیید این موضوع روی طاقچه بالای شومینه خانه آجری‌قرمز هینتون در محله‌ای پر درخت در تورنتو نشسته است. میان انبوه جام‌ها، بشقاب نقره‌ای کوچک جایزه تورینگ — که اغلب جایزه نوبل محاسبات نامیده می‌شود — قرار دارد، که او همراه با بنجیو و همکارش یان لکون برد. (هینتون جایزه نوبل فیزیک را نیز دارد.)
اما در سال ۲۰۲۳، هینتون استعفای خود را از غول فناوری اعلام کرد تا بتواند «آزادانه درباره ریسک‌های هوش مصنوعی صحبت کند.»
امروز، نگرانی‌های او به چهره‌های قدرتمندی که برخی از مدل‌های هوش مصنوعی را می‌سازند، و باورهای سیاسی آن مردان نیز گسترش یافته است. هینتون گفت که سرمایه‌گذاران خطرپذیر هوش مصنوعی، مارک آندریسن و پیتر تیل، و مدیرعامل اسپیس‌اکس‌اس‌آی که تازه تغییر نام داده، ایلان ماسک، «به دموکراسی اعتقاد ندارند.» او گفت آن‌ها خود را «ابرمرد» می‌بینند که باور دارند باید «جامعه را کنترل کنند» و ترامپ ابزاری مفید در آن هدف است.
رئیس‌جمهور آمریکا، بی‌شک با توجه به اینکه ارزش‌گذاری‌های عظیم شرکت‌های هوش مصنوعی بازار سهام را تقویت کرده‌اند، ادعا کرده تنها چیزی که برای مهار هوش مصنوعی لازم است یک «رئیس‌جمهور باهوش» است، هرگونه تدابیر حفاظتی دولتی را به نفع اجازه دادن به شرکت‌ها برای تنظیم‌گری خود رد کرده، و در صفحه رسانه اجتماعی خود نوشته هر کسی که از اصطلاح جدید ترجیحی او برای هوش مصنوعی، «ابرهوش»، استفاده نکند «دشمن» است.
هینتون ترامپ را «یک مجرم فاسد و مبتلا به زوال عقل» خواند.
او گفت: «مطمئنم شرکت‌های نفت و آزبست هم دوست داشتند [خود را تنظیم‌گری کنند]. آیا فکر می‌کنیم باید به شرکت‌های تنباکو اجازه داده می‌شد هشدارهای روی بسته‌ها را طراحی کنند؟ تا بتوانند آن‌ها را با فونت شش‌نقطه‌ای، خاکستری تیره روی سیاه چاپ کنند؟»
هینتون افزود، استفاده ترامپ از «ابرهوش» ثابت می‌کند او «تقریباً هیچ چیز» درباره هوش مصنوعی نمی‌فهمد.
او گفت: «آن‌ها یک اصطلاح فنی با معنایی بسیار روشن را برداشتند و دوباره استفاده کردند. ابرهوش یعنی باهوش‌تر از مردم، و حداقل ۲۰ سال است که وجود دارد. معنایی بسیار روشن دارد. حالا او می‌گوید ما هوش مصنوعی را "ابرهوش" می‌نامیم. نمی‌توانید فقط با نامیدنش باهوش‌تر از مردم، آن را باهوش‌تر از مردم کنید.»
سرعت و دامنه این تحولات ترس از فاجعه و ناتوانی جامعه در درک ماهیت این چالش را دامن زده است. اما هینتون مانع دیگری می‌بیند: کمک به مردم برای درک «موجودات بیگانه‌ای» که شرکت‌ها می‌سازند.
«مردم درک بسیار ضعیفی از اینکه انسان‌ها چه هستند دارند، و به همین دلیل نمی‌بینند این مدل‌های هوش مصنوعی چقدر شبیه ما هستند. بیشتر مردم نمی‌فهمند آگاهی چیست. نمی‌فهمند تجربه ذهنی چیست، و بسیار مطمئن‌اند که حتی اگر نمی‌فهمند، مطمئن‌اند هوش مصنوعی آن را ندارد.»
او این ایده را رد می‌کند که ذهن انسان کیفیتی مرموز دارد که ماشین‌ها، بنا به تعریف، نمی‌توانند در آن شریک باشند.
«واضح است که این مدل‌های هوش مصنوعی می‌فهمند چه می‌گویند. بدون فهمیدن پرسش، امکان ندارد بتوانید به همه پرسش‌ها پاسخ دهید. مسخره است بگوییم نمی‌فهمند.»
اما هینتون گفت، تغییر در نحوه تفکر جامعه درباره این مدل‌ها عمیق است.
او گفت: «سه انقلاب بزرگ رخ داده که در آن‌ها مردم دیگر چندان مهم نبودند. اولی کوپرنیک بود، زمانی که دیگر در مرکز جهان نبودیم. چقدر طول کشید تا مردم با آن سازگار شوند؟ کلیسای کاتولیک تقریباً ۳۶۰ سال طول کشید تا از گالیله عذرخواهی کند. و داروین؟ خب، در کانزاس افرادی هستند که هنوز با آن سازگار نشده‌اند. حالا ما موجودات بیگانه می‌سازیم — یعنی ما تنها موجودات هوشمند اطراف نیستیم. و واقعیت این است که فقط چند سال برای سازگاری با آن فرصت داریم.»
در ماه‌های اخیر، غول هوش مصنوعی آنتروپیک، سازنده چت‌بات محبوب کلود، جلسات خصوصی با دانشمندان دینی، الهی‌دانان و فیلسوفان برگزار کرده تا امکان آموزش هوش مصنوعی برای «خوب» بودن را بررسی کند و با این احتمال که مدل‌ها آگاهی دارند دست‌وپنجه نرم کند. داریو آمودئی، مدیرعامل آنتروپیک، گفت این گفتگوها از قرن‌ها اندیشه دینی و فلسفی درباره فضیلت، شفقت، صداقت و منش اخلاقی الهام گرفته‌اند، با هدف قابل‌اعتمادتر کردن رفتار اخلاقی.
هینتون گفت: «وقتی شروع می‌کنید به صحبت درباره "ما تعهد اخلاقی نسبت به این موجودات بیگانه داریم"، مخاطب خود را از دست می‌دهید. من با این مسئله کشمکش داشته‌ام. ما به مردم اهمیت می‌دهیم. [اما] ما داریم این چیزها را می‌سازیم، و هیچ چیزی مانع ما نمی‌شود که به این چیزها — که باهوش‌تر از ما هستند — حقوق کمتری از ما بدهیم. من حاضرم خودخواه باشم و انسان‌ها را انتخاب کنم. البته، باید بکوشیم آن‌ها را طوری بسازیم که در رابطه‌ای همزیستانه با ما بسیار خوشحال باشند، جایی که نگرانی‌های ما سنگین‌تر از نگرانی‌های آن‌ها سنجیده شود.»
هینتون تنها کسی نیست که استدلال می‌کند بهترین راه برای اجتناب از فروپاشی اجتماعی توسعه مدل‌های واقعاً خیرخواه است. او امیدوار است هر کشوری که نخست این توانایی را توسعه دهد، به متحدان و رقبا هم بگوید، زیرا «هیچ کشوری نمی‌خواهد هوش مصنوعی در کشور دیگری تسخیر کند.» او گفت «منافع ذی‌نفعی در به اشتراک گذاشتن دانش» وجود دارد.
«واقعیت این است که ما موجوداتی از نوعی متفاوت می‌سازیم. و شرکت‌های بزرگ فناوری مدام می‌گویند: ما می‌خواهیم باهوش‌تر باشد. این دیوانگی است. ما باید به همان اندازه که به هوش یک موجود اهمیت می‌دهیم، به همه جنبه‌های دیگر آن نیز اهمیت بدهیم.» او گفت بخش زیادی از آن به ماهیت این مدل‌ها بستگی دارد، و به توانایی‌شان در فهم چگونگی توسعه رفتار خوب. او گفت: «وقتی آن‌ها را روی همه چیز در اینترنت آموزش می‌دهید، انواع تمایلات وحشتناک را در آن‌ها پرورش می‌دهید، و سپس وادارشان می‌کنید آن تمایلات وحشتناک را سرکوب کنند.» اما سرکوب رفتار بد همانند ساختن منش خوب نیست. «به نظر می‌رسد روشی باشد که یک آقای ویکتوریایی را طراحی می‌کنید — اما چیزی نیست که لازم باشد با آن زندگی کنیم.»
پرسش‌های متداول
در اینجا فهرستی از پرسش‌های متداول بر اساس نقل‌قول جفری هینتون «ما موجودات بیگانه می‌سازیم... من حاضرم خودخواه باشم و انسان‌ها را انتخاب کنم» آمده است
پرسش‌های مبتدی
۱ جفری هینتون کیست
او یک دانشمند کامپیوتر است که اغلب پدرخوانده هوش مصنوعی نامیده می‌شود. کار او روی شبکه‌های عصبی پایه هوش مصنوعی مدرنی را که امروز استفاده می‌کنیم گذاشت
۲ منظور او از موجودات بیگانه چیست
او منظور دارد که سیستم‌های هوش مصنوعی آن‌قدر از ذهن انسان متفاوت می‌شوند که مانند شکل جدیدی از هوش هستند — نه بیولوژیک، بلکه دیجیتال. آن‌ها به روش‌هایی فکر می‌کنند و یاد می‌گیرند که ما کاملاً نمی‌فهمیم
۳ چرا می‌گوید حاضرم خودخواه باشم
او منظور دارد که ایمنی و بقای انسان‌ها را بر حقوق یا وجود یک هوش مصنوعی ابرهوش ترجیح می‌دهد. اگر مجبور به انتخاب شود، بشریت را انتخاب می‌کند
۴ آیا او می‌گوید هوش مصنوعی شرور است
نه. او می‌گوید هوش مصنوعی قدرتمند و غیرقابل‌پیش‌بینی است. شرور نیست، اما اگر با دقت کنترلش نکنیم می‌تواند به‌طور تصادفی به ما آسیب بزند
۵ چرا الان نگران است
او قبلاً فکر می‌کرد هوش مصنوعی از هوش در سطح انسان بسیار دور است. حالا باور دارد سریع‌تر از حد انتظار یاد می‌گیرد و می‌تواند به‌زودی از ما باهوش‌تر شود
پرسش‌های متوسط
۶ مسئله هم‌راستایی که او درباره آن صحبت می‌کند چیست
چالش اطمینان از این است که اهداف هوش مصنوعی با ارزش‌های انسانی مطابقت داشته باشد. اگر به یک هوش مصنوعی ابرباهوش بگوییم گیره کاغذ بسازد، ممکن است کل سیاره را به کارخانه گیره کاغذ تبدیل کند — بدون اینکه قصد هیچ آسیبی داشته باشد
۷ منظور او از هوش دیجیتال در برابر هوش بیولوژیک چیست
هوش بیولوژیک مغز شماست — کند، انرژی‌خوار و محدود به یک بدن. هوش دیجیتال نرم‌افزار است — می‌تواند خودش را کپی کند، روی ماشین‌های بسیاری اجرا شود و فوراً از داده‌های عظیم یاد بگیرد
۸ چرا اگر هوش مصنوعی خطرناک شود نمی‌توانیم فقط خاموشش کنیم
زیرا یک هوش مصنوعی ابرهوش می‌تواند در اینترنت پخش شود، نسخه‌هایی از خودش را پنهان کند یا مردم را متقاعد کند از آن محافظت کنند. ممکن است وقتی بفهمیم تهدید است، دیگر خیلی دیر شده باشد
۹ مشکلات رایج با هوش مصنوعی پیشرفته چیست
تعصب — هوش مصنوعی می‌تواند تعصبات انسانی را تشدید کند
اطلاعات نادرست — می‌تواند اخبار جعلی و دیپ‌فیک بسازد
از دست دادن شغل — می‌تواند بسیاری از وظایف انسانی را خودکار کند
