سم آلتمن و ایلان ماسک از فراخوان مدیرعامل آنتروپیک، داریو آمودِی، برای «کند کردن سرعت» توسعه هوش مصنوعی حمایت کردهاند، پس از آنکه او هشدار داد در غیر این صورت یک ازدحام هوش مصنوعی میتواند ظرف یک سال قادر به «تصاحب کل اینترنت» شود. در نمایشی نادر از اتحاد، رهبران رقیب فناوری از این درخواست بنیانگذار و مدیرعامل شرکت هوش مصنوعی آنتروپیک حمایت کردند، که پس از مجموعهای از هشدارهای پژوهشگران هوش مصنوعی در هفته گذشته صورت گرفت. آمودِی در مقالهای افکار خود را درباره «چرا صنعت هوش مصنوعی باید کند شود» تشریح کرد، با یک برنامه سهبخشی که با دادن دسترسی دائمی ناظران مستقل به فرآیندهای تحقیقاتی توسعهدهندگان آغاز میشود. آمودِی گفت «ساختن [هوش مصنوعی] بیش از حد سریع بیپروایی است» و نگران بود که پس از آنکه صدها عامل OpenAI در تابستان امسال به وبسایت هاگینگ فیس نفوذ کردند، یک ازدحام با تواناییهای بیشتر اما بهطور مشابه ناهمراستا میتواند با «تصاحب کل اینترنت با یک باتنت پایدار» صدها میلیارد دلار خسارت وارد کند. برخی کارشناسان هوش مصنوعی این را چندان محتمل ندانستند و گفتند باید با تردید با آن برخورد شود. ماسک، بنیانگذار تسلا و اسپیسایکس، به طرح کندسازی آمودِی با پستی در X پاسخ داد: «داریو درست میگوید.» او گفت: «من مدتهاست درباره هوش مصنوعی زنگ خطر را به صدا درآوردهام،» و به پستی در سال ۲۰۱۴ اشاره کرد که در آن گفته بود: «باید با هوش مصنوعی فوقالعاده مراقب باشیم. بهطور بالقوه خطرناکتر از سلاحهای هستهای.» فراخوان آمودِی در حالی مطرح میشود که آنتروپیک آماده عرضه در بازار سهام آمریکا است، در آنچه انتظار میرود بزرگترین عرضه عمومی اولیه تمام دوران باشد. انتظار میرود بهزودی بازاریابی برای عرضه عمومی اولیه برنامهریزیشده خود به ارزش بیش از ۲ تریلیون دلار (۱.۵ تریلیون پوند) را آغاز کند. مشاهده تصویر در تمامصفحهاز چپ به راست: ایلان ماسک، داریو آمودِی و سام آلتمن. عکس: فابریس کوفینی، ژولین دو روزا، مندل نگان/گتی ایماژسام آلتمن، مدیرعامل OpenAI، روز شنبه به اظهارات آمودِی پاسخ داد. او در پستی در X گفت: «من با داریو موافقم که باید سرعت مرز را تنظیم کنیم.» «تعهد به داشتن ارزیابان مستقل با دسترسی مشابه کارکنان ایده عالی است، و ما هم همین کار را خواهیم کرد. بهزودی موارد بیشتری برای به اشتراک گذاشتن خواهیم داشت.» او همچنین گفت OpenAI در سال ۲۰۲۶ عمومی نخواهد شد، با استناد به نگرانیهای ایمنی درباره هوش مصنوعی. آلتمن به فورچون گفت: «من واقعاً فکر میکنم با توجه به همه چیزهایی که در زمینه ایمنی در حال وقوع است، همین حالا لحظهای نامناسب برای عمومی شدن خواهد بود، و ما فشاری در این مورد احساس نمیکنیم.» وقتی از او پرسیده شد چرا او، آمودِی، ماسک و مدیران عامل متا و گوگل دور هم نمینشینند و درباره یک کندسازی جمعی «به تفاهم نمیرسند»، گفت: «فکر میکنم این اتفاق خواهد افتاد.» سام آلتمن میگوید عرضه عمومی اولیه OpenAI در سال ۲۰۲۶ به دلیل ترسهای ایمنی هوش مصنوعی رخ نخواهد دادبیشتر بخوانیددمیس هسابیس، همبنیانگذار و رئیس گوگل دیپمایند، نیز گفت: «جزئیات نیاز به بررسی دارد، اما جهت برای مواجهه با این لحظه حیاتی درست است.» طرح آمودِی به دنبال معافیتی از دولت آمریکا است تا به شرکتهای پیشرو هوش مصنوعی اجازه دهد بدون مجازات برای تبانی ضدرقابتی هماهنگ شوند. اما دیوید ساکس، یکی از روسای مشترک شورای مشاوران دونالد ترامپ در امور علم و فناوری، گفت: «دست از تظاهر بردارید که به اجازه کسی نیاز دارید … دست از تظاهر بردارید که انگیزه کند کردن صرفاً نوعدوستانه است. اگر محصولات شما یک حمله سایبری واقعاً مخرب را ممکن کنند، با ریسک عظیم مسئولیت محصول مواجه میشوید.» دیوید کروگر، استاد هوش مصنوعی، فعال ایمنی و مدیر بنیانگذار سابق مؤسسه امنیت هوش مصنوعی دولت بریتانیا، گفت: «این طرح خطر را به سطح قابل قبولی کاهش نمیدهد، و داریو مراقب است که نگوید چنین میکند.» در همین حال، پادشاه چارلز آماده است این هفته با چهرههای برجسته از برجستهترین شرکتهای هوش مصنوعی دیدار کند تا از آنها بپرسد چگونه میتوان این فناوری را برای «خیر بشریت» توسعه داد. او امیدوار است این بحثها که در اسکاتلند برگزار میشود، به «درک گستردهتر» از «مسئولیتهای» توسعه هوش مصنوعی منجر شود، ساندی تایمزمنبعی سلطنتی به این روزنامه گفت: «پادشاه آنجاست تا گرد هم آورد، گوش دهد و این بحثها را تشویق کند و این پرسش را مطرح کند: "چگونه هوش مصنوعی را برای خیر بشریت توسعه دهیم؟"»
جنسن هوانگ، مدیرعامل انویدیا، هسابیس، نیکولو د ماسی، رئیس و مدیرعامل IonQ، و پائولو بنانتی، مشاور پاپ در مسائل هوش مصنوعی و اخلاق فناوری، انتظار میرود در این رویداد که بنیاد دیچلی بر آن نظارت دارد، شرکت کنند؛ این بنیاد پیشنویس منشوری برای رهبران هوش مصنوعی تهیه کرده است.
پژوهشگر OpenAI، آیدان مکلافلین، مقاله آمودِی را «عالی» خواند و گفت با «تقریباً هر کلمهاش» موافق است.
آمودِی گفت شرکتش «یکطرفه» به اولین گام متعهد خواهد شد و گفت آنتروپیک «ارزیابان شخص ثالث را با دسترسی دائمی در سطح کارکنان به سیستمهای ما» فراهم خواهد کرد، «تا آنها بتوانند پایبندی به اقدامات ایمنی ما را تأیید کنند، درباره حوادث گزارش دهند و همراستایی مدلها را در طول آموزش ارزیابی کنند.»
تعداد فزایندهای از قانونگذاران آمریکایی پس از مواردی که عاملهای هوش مصنوعی سرکش به هک سیستمهای خارجی پرداختند و پژوهشگران ایمنی هوش مصنوعی به دلیل نگرانی درباره خطرات این فناوری از شرکتهای خود استعفا دادند، خواستار قوانین جدیدی برای اداره سیستمهای هوش مصنوعی شدهاند. سیاستمداران، هم دموکرات و هم جمهوریخواه، با هشدار و درخواست برای اقدام بیشتر پاسخ دادهاند. در آخر هفته، نیویورک تایمز گزارش داد که باراک اوباما روز پنجشنبه بهطور خصوصی از دموکراتها خواست نظارت بر هوش مصنوعی را در دستور کار خود در اولویت قرار دهند و به رهبران حزب گفت: «این چیزی است که در دستان خصوصی بسیار سریع حرکت میکند، و اگر بر آن مسلط نشویم، فکر میکنم میتواند خطرناک باشد.»
ریشی سوناک، نخستوزیر پیشین بریتانیا که به آنتروپیک مشاوره میدهد، روز یکشنبه نوشت: «ما یک زنگ بیدارباش داشتهایم تا ایمنی هوش مصنوعی را جدیتر بگیریم، تا راهحل تعیین محدودیت برای تحقیقات را پیدا کنیم. اگر دولتها به این توجه نکنند، خطر یک حادثه جدی بهطور غیرقابل قبولی بالا خواهد رفت.»
روز چهارشنبه، یک کارمند پیشین آنتروپیک هشدار داده بود که هوش مصنوعی میتواند تا سال ۲۰۳۰ انقراض انسان را تسریع کند. این پژوهشگر، جیکوب کوکسون، در مجموعهای از پستها گفت که شغل خود را ترک کرده زیرا آنتروپیک و کارفرمای پیشین او، OpenAI، پاسخ خود به تهدید ناشی از هوش مصنوعی را نادیده میگرفتند یا بد مدیریت میکردند.
وقتی از آمودِی خواسته شد درباره دیدگاه کارمند پیشین خود اظهار نظر کند، گفت: «من با جیکوب بسیار بیشتر موافقم تا مخالف … فکر میکنم احتمالی وجود دارد که اوضاع بد پیش برود اما چندان بالا نیست.»
او به سیانان گفت: «من در این مورد یک doomist نیستم.» «فکر میکنم این فناوری میتواند بهطور ایمن ساخته شود.»
پرسشهای متداول
پرسشهای متداول مدیرعامل OpenAI، ایلان ماسک و فراخوانها برای کند کردن توسعه بیپروای هوش مصنوعی
مبانی
این کل ماجرا درباره چیست
در مارس ۲۰۲۳ ایلان ماسک و بیش از ۱۰۰۰ رهبر فناوری یک نامه سرگشاده امضا کردند که خواستار توقف ۶ ماهه در آموزش سیستمهای هوش مصنوعی قدرتمندتر از GPT-4 بود. سام آلتمن، مدیرعامل OpenAI، نیز درباره خطرات هوش مصنوعی هشدار داده است، هرچند نامه را امضا نکرد
سام آلتمن کیست
او مدیرعامل OpenAI است، شرکتی که پشت ChatGPT و GPT-4 قرار دارد
ایلان ماسک کیست
مدیرعامل تسلا و اسپیسایکس، مالک X و یک نکته جالب: همبنیانگذار OpenAI که در سال ۲۰۱۸ هیئت مدیره را ترک کرد
مردم درباره چه نامهای صحبت میکنند
یک نامه سرگشاده از مؤسسه آینده زندگی با عنوان «توقف آزمایشهای غولآسای هوش مصنوعی» که در مارس ۲۰۲۳ منتشر شد
نامه واقعاً چه چیزی میخواست
یک توقف ۶ ماهه در آموزش سیستمهای هوش مصنوعی قدرتمندتر از GPT-4 تا استانداردهای ایمنی ابتدا توسعه یابند
چرا امضاکنندگان توسعه هوش مصنوعی را بیپروا خواندند
آنها استدلال کردند شرکتها بدون دانستن اینکه آیا هوش مصنوعی پیشرفته میتواند مورد سوءاستفاده قرار گیرد یا کنترل آن دشوار شود، با سرعت پیش میروند
چهرههای کلیدی
آیا سام آلتمن نامه توقف را امضا کرد
نه، OpenAI آن را امضا نکرد و آلتمن گفت با بخشهایی از آن موافق است اما فکر میکند توقف رویکرد درستی نیست
پس آیا آلتمن فکر میکند هوش مصنوعی خطرناک است
بله. او بارها گفته است هوش مصنوعی میتواند آسیب جدی وارد کند و از دولتها خواسته آن را تنظیمگری کنند
اگر هر دو درباره هوش مصنوعی نگران هستند چرا در یک طرف نیستند
ماسک میخواهد اوضاع را کند کند؛ آلتمن میخواهد ساخت را ادامه دهد، اما با احتیاط، و در طول مسیر برای قوانین ایمنی فشار بیاورد
آیا ماسک هنوز با OpenAI درگیر است
نه. او در سال ۲۰۱۸ هیئت مدیره را ترک کرد و بعداً از OpenAI شکایت کرد و ادعا کرد از مأموریت غیرانتفاعی خود منحرف شده است
آیا ماسک خودش آن را امضا کرد
بله، او یکی از برجستهترین امضاکنندگان بود
پرسشها و نگرانیهای متداول
آیا یک توقف ۶ ماهه حتی کار میکند
احتمالاً بهتنهایی نه. منتقدان میگویند شرکتها داوطلبانه متوقف نمیشوند و نهاد جهانی برای اجرای آن وجود ندارد
چرا برخی کارشناسان با توقف مخالفند
آنها استدلال میکنند توقف قابل اجرا نخواهد بود و مزایای مفید هوش مصنوعی را کند میکند
