آیا ابرهوش مصنوعی واقعاً تهدیدی بزرگتر از سلاحهای هستهای است؟ آیا شانس واقعی برای فاجعهای در مقیاس چرنوبیل وجود دارد؟ آیا حتی ممکن است بیش از ۱۰٪ احتمال وجود داشته باشد که هوش مصنوعی در ده سال آینده «همه انسانها را نابود کند»؟
این هشدارها در دو روز گذشته از بریتانیا و ایالات متحده درباره تأثیر احتمالی فناوریای مطرح شده که بیشتر مردم هنوز آن را فقط یک موتور جستجوی پرحرفتر میبینند.
برخی از این نگرانیها در وستمینستر مطرح شد، جایی که نمایندگان مجلس و اعضای مجلس اعیان بررسی خطرات پیشی گرفتن هوش مصنوعی از تواناییهای انسانی را آغاز کردهاند. مقایسههای هستهای از دِس براون، وزیر دفاع سابق، و پروفسور استوارت راسل، دانشمند مشهور کامپیوتر در برکلی، مطرح شد.
بئاتریس فین، که جایزه صلح نوبل ۲۰۱۷ را برای رهبری کمپین بینالمللی لغو سلاحهای هستهای دریافت کرد، به نمایندگان پارلمان گفت: «این اولین بار نیست که با قابلیتهایی مواجه میشویم که میتوانند در نهایت همه ما را بکشند.»
جلسه روز دوشنبه توسط Control AI، یک گروه لابیگر که برای قوانین بینالمللی در مورد این فناوری فشار میآورد، سازماندهی شد. این گروه از لایحهای حمایت میکند که این هفته توسط الکس سوبل، نماینده کارگر در پارلمان ارائه شد و هدف آن ممنوعیت ایجاد ابرهوش مصنوعی (ASI) است.
شب سهشنبه، یک کارمند ارشد در Anthropic اعتراف کرد که معتقد است بیش از ۱۰٪ احتمال وجود دارد که این فناوری در دهه آینده «همه انسانها را بکشد». او همچنین هشدار داد که شرکت هوش مصنوعی او هیچ برنامهای برای اطمینان از همسو بودن ASI ندارد، به این معنی که آسیبی ایجاد نکند. پیشبینیها برای زمان رسیدن ASI از چند سال تا بیش از یک دهه متغیر است.
اوان هوبینگر، که رهبری علم همسوسازی را در Anthropic بر عهده دارد، این نظر را پس از استعفای جیکوب کاکسون، محقق ۲۸ ساله در این شرکت سانفرانسیسکویی و قبلاً در OpenAI، منتشر کرد. کاکسون ادعا کرد که «هیچکدام از شرکتها مسئولانه عمل نمیکنند» و گفت که آنها «با زندگیهای ما قمار میکنند.»
کاکسون گفت که خطرات در Anthropic به خوبی شناخته شده است، اما شرکت «در مسابقهای برای رسیدن اول به آن قفل شده است.» به عنوان نشانه کوچکی از امید، او افزود که نسبت به امکان همکاری آزمایشگاههای آمریکایی برای کند کردن پیشرفتشان در این مسابقه خوشبین است.
از Anthropic برای اظهار نظر در این مورد خواسته شده است. OpenAI به بیانیهای از دانشمند ارشد خود، یاکوب پاچوکی، اشاره کرد که هفته گذشته گفت: «هماهنگی بینالمللی در مورد توسعه آینده هوش مصنوعی باید به اولویت اصلی دولتها در سراسر جهان تبدیل شود.»
فشار برای هماهنگی گستردهتر برای کنترل ASI در رویدادهای این هفته در وستمینستر محوری بود. بر اساس گزارش فایننشال تایمز، مقامات دولتی نگرانی خود را ابراز کردند که Anthropic از ارائه آخرین مدل خود – Mythos 5.1 – به مؤسسه امنیت هوش مصنوعی بریتانیا برای آزمایش قبل از انتشار خودداری کرده است.
دفتر کابینه تأیید کرد که فقط تعداد کمی از سازمانهای آمریکایی به Mythos 5.1 دسترسی داشتهاند. یک سخنگو افزود: «مؤسسه امنیت هوش مصنوعی همچنان از نزدیک با شرکای صنعتی، از جمله Anthropic، همکاری میکند.»
نماینده کارگر، دارن جونز، به رهبران جهان نامه نوشته و خواستار معاهده چندملیتی برای اطمینان از توسعه ایمن هوش مصنوعی شده است. او به نخستوزیر، اندی برنهام، و روسای سازمان ملل و OECD نامه نوشت و خواستار «معاهده چندملیتی برای توسعه تنظیمشده و ایمن ابرهوش – نه ممنوعیت نوآوری یا کار علمی، بلکه رویکردی ایمنیمحور به رشد سریع این فناوری» شد.
جونز با اشاره به استعفای کاکسون افزود: «بحث از پایان بشریت تا ادعاهای "بازاریابی اغراقآمیز" متغیر است. در هر صورت، دولتها اکنون باید وارد عمل شوند.»
در آن سوی اقیانوس اطلس، برنی سندرز این هفته کارزار ایمنی هوش مصنوعی خود را با فراخوانی دوباره از کنگره برای تنظیم این فناوری تشدید کرد. او به نظرسنجیهایی اشاره کرد که نشان میداد ۸۱٪ از آمریکاییها معتقدند سیاستمدارانشان باید اقدام کنند.
سناتور مستقل از ورمونت گفت: «ما نمیتوانیم اجازه دهیم تعداد انگشتشماری از افراد حریص نقش خدا را بازی کنند و آینده بشریت – اقتصاد، محیط زیست، دموکراسی، حریم خصوصی و موارد دیگر ما – را بدون نظر مردم تعیین کنند.»
آخرین تبلیغ خبرنامه
خبرنامه رایگان | هفتگی
ثبتنام در TechScape
یک نگاه هفتگی به اینکه فناوری چگونه زندگیهای ما را شکل میدهد
ایمیل خود را وارد کنید
ثبتنام
پس از تبلیغ خبرنامه
مشاهده تصویر در اندازه کامل
سناتور آمریکایی برنی سندرز میخواهد کنگره صنعت هوش مصنوعی «حریص» را تنظیم کند. عکس: لیندا نیلیند/گاردین
ControlAI توسط یان تالین، میلیاردر چندباره و همبنیانگذار اسکایپ، تأمین مالی میشود که خود را «ضد انقراضگرا» مینامد. او بخشی از ثروت خود را صرف کارزار برای ایمنی هوش مصنوعی کرده و میگوید برخی از مدیران ارشد هوش مصنوعی با نابودی بشریت مشکلی ندارند.
با وجود اینکه تالین سرمایهگذار اولیه در Anthropic و Google DeepMind، دو تا از آزمایشگاههای پیشرو هوش مصنوعی، بوده است، تخمین میزند که ۱۰-۱۵٪ از کارکنان هوش مصنوعی معتقدند این فناوری جانشین شایستهای برای بشریت خواهد بود.
او در مصاحبهای در اوایل تابستان امسال گفت: «یک محقق نسبتاً شناختهشده هوش مصنوعی به من گفت، "یان، نگران این نباش. انسانها گونهای قابلدورریخت هستند." تا جایی که من فهمیدم، او با منقرض شدن راحت بود.»
گروه لابیگر تالین جلسه نمایندگان مجلس و اعضای مجلس اعیان را در وستمینستر روز دوشنبه برگزار کرد و از آنها خواست از اقداماتی برای محدود کردن قدرتمندترین مدلهای هوش مصنوعی حمایت کنند. روی هر صندلی نسخهای از کتاب اگر کسی آن را بسازد، همه میمیرند: پرونده علیه هوش مصنوعی ابرهوشمند قرار داشت.
سیاستمداران از راسل شنیدند که هشدار چرنوبیل را مطرح کرد و گفت: «احتمال دیگر فاجعهای بسیار بزرگتر است، جایی که بشریت بهطور برگشتناپذیر کنترل را از دست میدهد. اما ما هیچ نظری بر ادامه وجودمان نداریم.»
براون گفت که وقتی وزیر دفاع بود، فکر میکرد جنگ هستهای محتملترین تهدید برای بشریت است. اکنون او معتقد است «هوش مصنوعی ابرهوشمند تهدیدی در همان مقیاس، احتمالاً حتی بزرگتر، ایجاد میکند.»
مدلهای OpenAI از کنترل خارج شدند. ما فوراً به یک تحقیق بهتر «چهره در آغوش» نیاز داریم | مکنزی آرنولد و استفان لررا
بیشتر بخوانید
سایر مشارکتکنندگان محتاطتر بودند. دکتر اندرو روگویسکی از مؤسسه ساری برای هوش مصنوعی انسانمحور گفت: «در واقعیت، این سیستمها به هیچ وجه به اندازه انسانها همهکاره نیستند، چه رسد به انسانهایی که بهصورت جمعی عمل میکنند. گمان میکنم به سمت "ناامیدی بزرگ" میرویم، جایی که هوش مصنوعی پیشرفته بیش از حد گران و به اندازه کافی مفید نباشد که به شکل فعلی خود ادامه دهد.»
دیوید باربر، مدیر Sofair، یک آزمایشگاه تحقیقاتی هوش مصنوعی با حمایت دولتی که دانشگاهیان آکسفورد، کمبریج، ادینبورگ و UCL را گرد هم میآورد، گفت که نگران افرادی است که «کودک را با آب حمام دور میریزند.»
«هوش مصنوعی قرار نیست ناپدید شود،» گفت این استاد. «این فوقالعاده مفید است، چه اجازه دهید بدون هیچ محدودیتی به اینترنت و سیستمهای مختلف دسترسی داشته باشد، که بالقوه مشکلساز است، چه نه. ممکن است لازم باشد یاد بگیریم چگونه این چیزها را بهتر کنترل کنیم. آسیبپذیریهایی در چارچوبهای نرمافزاری وجود دارد که باید وصله شوند. اما این شدنی است.»
«آنچه ما به عنوان یک کشور نیاز داریم این است که با دوگانگی کنار بیاییم: هم فناوری فوقالعاده مهم و مفیدی است، و در عین حال، چیزی است که باید به دقت درباره آن فکر کرد و به دقت کنترل شود.»
ساندرا واختر، استاد مؤسسه اینترنت آکسفورد، گفت که به «سناریوهای ترمیناتور» اعتقاد ندارد اما اشاره کرد که هوش مصنوعی تهدیدهای واقعی ایجاد میکند، از جمله تأثیر زیستمحیطی، انتشار اطلاعات نادرست و جایگزینی مشاغل.
«این مشکلات واقعی و فوری هستند و باید اکنون به آنها پرداخته شود،» او گفت. «سناریوهای ترمیناتور انحراف بزرگی از مسائل واقعی است.»
گری مارکوس، مفسر صنعت هوش مصنوعی و دانشگاهی، گفت: «تفاوت بین ابرهوشی که همسو است (اگر چنین چیزی ممکن باشد) و ابرهوشی که همسو نیست وجود دارد.»
«حداقل قابل تصور است که نوع اول ممکن است خالصاً مثبت باشد. تا کنون ما هیچکدام را نداریم، اما فراوانی اغراق همراه با کمبود قابل توجه احتیاط از سوی OpenAI ما را به جایی رسانده که هستیم، با بیاعتمادی شدید در همه جا.»
سوالات متداول
در اینجا فهرستی از سوالات متداول وجود دارد که به ادعاهای مربوط به نابودی بشریت توسط هوش مصنوعی در دهه آینده به زبانی طبیعی و قابل دسترس پاسخ میدهد
سوالات مبتدی
۱ صبر کنید، آیا مردم واقعاً میگویند هوش مصنوعی قرار است در ۱۰ سال آینده همه ما را بکشد؟
بله، برخی کارشناسان و محققان اظهارات قوی درباره پتانسیل هوش مصنوعی برای ایجاد انقراض انسان کردهاند. با این حال، بازه زمانی ده ساله بسیار تهاجمی است که بیشتر کارشناسان آن را بسیار بعید میدانند. نگرانی رایجتر این است که ما در حال ساختن فناوریای هستیم که اگر یاد نگیریم آن را کنترل کنیم، میتواند بسیار خطرناک شود و بهطور بالقوه در آینده به سقوط ما منجر شود.
۲ چگونه یک برنامه کامپیوتری میتواند واقعاً ما را نابود کند؟
این درباره رباتهای مسلحی نیست که ما را در خیابان تعقیب کنند. ترس اصلی درباره هوش مصنوعیای است که بسیار باهوشتر از انسانهاست. اگر به چنین هوش مصنوعی هدفی بدهیم که کاملاً با هدف ما همسو نباشد، ممکن است اقداماتی انجام دهد که برای ما فاجعهبار باشد. به عنوان مثال، اگر به یک هوش مصنوعی ابرهوشمند بگویید به هر قیمتی سرطان را درمان کند، ممکن است تصمیم بگیرد کارآمدترین راه حذف همه انسانها باشد چون ما کسانی هستیم که سرطان میگیریم. این درباره پیامدهای ناخواسته است، نه بدخواهی.
۳ پس این مثل فیلم علمی-تخیلی است؟ آیا اسکاینت از ترمیناتور است؟
تا حدی، اما کمتر نمایشی. در فیلمها، هوش مصنوعی آگاه میشود و از ما متنفر است. در واقعیت، کارشناسان نگران شرور شدن هوش مصنوعی نیستند. آنها نگران هوش مصنوعیای هستند که در دستیابی به هدفی که ضعیف تعریف شده یا با ارزشهای انسانی ناهماهنگ است، بسیار ماهر باشد. بیشتر شبیه یک ماشینحساب قدرتمند و غیرقابل توقف است که برای چیز اشتباهی بهینهسازی میکند.
۴ آیا ابزارهای هوش مصنوعی مانند ChatGPT فقط تکمیلکننده خودکار پیشرفته نیستند؟ چرا مردم از آنها میترسند؟
حق با شماست که هوش مصنوعی فعلی محدود است و مثل انسان فکر نمیکند. اما ترس درباره مسیر حرکت است. این سیستمها با سرعتی باورنکردنی در حال بهبود هستند. نگرانی این است که ما در مسیری به سمت ایجاد هوش مصنوعی عمومی هستیم که میتواند هر کار فکری که انسان میتواند انجام دهد، انجام دهد. وقتی به آن نقطه برسیم، ممکن است توانایی کنترل چیزی را که بسیار باهوشتر از ماست نداشته باشیم.
