داریو آمودئی از آنتروپیک اولین مدیرعاملی نیست که استدلال میکند رقابت بیش از حد جهان را به سمت پیامدی اجتماعی زیانبار سوق میدهد. افشاگری اوپنایآی درباره یک نقض ایمنی — که در آن انبوهی از عاملهای آن هماهنگ شدند تا از محیط امن بهاصطلاح ایمن خود فرار کنند، به اینترنت دسترسی پیدا کنند و پلتفرم هوش مصنوعی هاگینگ فیس را هک کنند — نیازمند اقدام فوری است. این نشان داد فناوری چقدر بهراحتی میتواند از کنترل انسان خارج شود و به ترسهای وجودی درباره آنچه میتواند بر سر بشریت بیاورد، اگر بهطور ایمن مهار نشود، شکل عینی داد. ممکن است واقعاً پایان جهان نزدیک باشد، همانطور که برخی در صنعت هوش مصنوعی هشدار دادهاند. اینها واقعاً زمانهای ترسناکی هستند. اما فراخوان آمودئی برای هماهنگی آزمایشگاههای پیشرو هوش مصنوعی در کند کردن سرعت سرسامآور توسعه، توافق بر استانداردهای ایمنی، و «تنظیم سرعت مرز» — فراخوانی که بهسرعت توسط سام آلتمن از اوپنایآی، ایلان ماسک، و دمیس هسابیس از گوگل دیپمایند تأیید شد — فقط نسخهای فناورانه از یک پیشنهاد قدیمی شرکتهای آمریکایی است: گرفتن معافیت از قوانین ضدتراست که برای محافظت از اقتصاد آمریکا در برابر شرکتهای تبانیکننده طراحی شدهاند. این ایدهای خطرناک است. آزاد کردن برادران فناوری از محدودیتهای ضدتراست، بهاصطلاح تا بتوانند با هم برای رفع نقصهای خطرناک هوش مصنوعی کار کنند، آمریکاییهای عادی را که بیشتر در معرض خطر این فناوری هستند از حق محروم میکند و همان آزمایشگاههایی را قدرتمندتر میکند که در پی ثروت، عظمت، و خدا میداند چه اهداف خیالی دیگر، اینقدر بیخیال از آستانههای خطر در ابعاد بسیاری گذشتند و تهدیدهای وجودی را به وجود آوردند. مشاهده تصویر در تمامصفحه ایلان ماسک و سام آلتمن. عکس: گتی ایمجز آمودئی و دیگران در اصل استدلال میکنند که کسبوکارهایشان در دوراهی زندانی گرفتار شدهاند. اگر آنها یکطرفه پیگیری تبآلود خود برای ابرهوش مصنوعی را کند کنند تا آن را ایمنتر سازند، رقبایشان — که البته کمتر نگران خطرات وجودی هستند — اول به آن خواهند رسید، با پیامدهای بالقوه ویرانگر برای بشریت، نه به ذکر خط پایانی آزمایشگاهی که پا از گاز برداشته است. ژان تیرول، اقتصاددان برنده جایزه نوبل در مدرسه اقتصاد تولوز، گفت: «کند شدن معقول به نظر میرسد. اما این فرض میکند که کند شدن هماهنگ امکانپذیر و پایدار است. چه اتفاقی میافتد وقتی اوپنایآی، آنتروپیک یا گروک نتیجه بگیرند که بازماندگان آمریکایی — یا آزمایشگاههای چینی — در حال رسیدن هستند؟ آیا فوراً از سر میگیرند، شاید پنهانی؟» همانطور که بیل گیتس نوشته است، «اگر کسی برنامه معتبری برای کند کردن پیشرفتهای هوش مصنوعی در سطح جهانی داشت، احتمالاً از آن حمایت میکردم. با این حال، فکر نمیکنم این اتفاق بیفتد. انگیزههای ژئوپلیتیک و اقتصادی بیش از حد فشار میآورند تا با تمام سرعت پیش برویم.» از این منظر، ممکن است ایده خوبی به نظر برسد که دولت توافقی دوستانه برای کند شدن همه تشویق کند. اینطور نیست. استدلال اینکه رقابت بیش از حد مسابقهای به سمت قعر را هدایت میکند احتمالاً به قدمت سرمایهداری است، و برای توضیح همه چیز از تخریب محیط زیست تا کار کودکان استفاده شده است. اما این حق دادن به کسبوکارها برای تبانی به هر شکلی که مناسب میدانند را توجیه نمیکند. این فراخوانی است برای تدوین مقررات دولتی برای جلوگیری از رقابت کسبوکارها با استفاده از ابزارهای زیانبار اجتماعی. علاوه بر این، ادعای اینکه رقابت بیش از حد رفتار بیپروا را تشویق میکند مشکوک است. آزمایشگاههای هوش مصنوعی درگیر مسابقهای برندههمهچیز هستند، مسابقهای که حفظ آن بهطور فوقالعادهای گران است. بیپروایی از آنجا میآید. مشاهده تصویر در تمامصفحه بیل گیتس در ژانویه ۲۰۲۶ در نشست سالانه مجمع جهانی اقتصاد در داووس، سوئیس. عکس: دنیس بالیبوز/رویترز آمودئی ممکن است مردی بیعیب باشد. فراخوان او برای کند کردن سرعت توسعه هوش مصنوعی، آوردن ارزیابهای خارجی به آزمایشگاه، و افزایش شفافیت عملیاتش نشاندهنده نگرانی صادقانه درباره خطرات است. افت قیمت سهام فناوری پیشرو پس از انتشار پیشنهادهایش نشان میدهد او حاضر است در خدمت ایمنی بهتر ضربه مالی بخورد. اما سرمایهگذارانی که آمودئی امیدوار است با اشتیاق سهام عرضه اولیه آنتروپیک را در اواخر امسال بخرند ممکن است اینقدر نوعدوست نباشند. لرزشها در بازارهای سرمایه نشان میدهد که جمعآوری پول برای تأمین مالی مسابقه سرمایهگذاری تریلیون دلاری هوش مصنوعی سختتر خواهد شد، که استراتژیهایی را که ممکن است برتری آزمایشگاههای پیشرو بر رقبا را محدود کند دلسرد میکند. با توجه به این انگیزهها، دادن دست آزاد به رهبران هوش مصنوعی برای تبانی و خودتنظیمی احمقانه خواهد بود.
اریک پوزنر، کارشناس ضدتراست در دانشکده حقوق دانشگاه شیکاگو، گفت ما «نباید بهطور کلی درباره انگیزههای شرکتها اعتماد کنیم.» هیچ دلیلی برای باور اینکه آزمایشگاههای هوش مصنوعی، اگر به حال خود رها شوند، لزوماً نتایج خوب و از نظر اجتماعی قابل قبول تولید خواهند کرد وجود ندارد. مانند هر شرکت دیگری، آنها خطرات را در برابر سودها میسنجند. و همانطور که پوزنر مشاهده کرد، «آنها از همان وزنههایی که عموم استفاده میکنند استفاده نمیکنند.»
پس چگونه باید تنظیمگری کنیم؟ تا زمانی که ترامپ در دفتر است هیچ اتفاقی در این جبهه نخواهد افتاد. حتی پس از رفتن او، تدوین مقررات مؤثر برای مقابله با تهدیدهای هوش مصنوعی بدون کوتاه کردن نوآوری دشوار خواهد بود. سؤالاتی درباره اینکه از چه قوانینی استفاده شود، چگونه اجرا شوند، و به چه کسانی اعمال شوند وجود دارد. و خطر اقدام یکطرفه واقعی است. اگر پکن از مشارکت امتناع کند چه؟ خطرات شرکتهای هوش مصنوعی چینی که پیش میتازند در حالی که آزمایشگاههای آمریکایی کند میشوند چیست؟ اما اگر توانستیم انرژی هستهای را تنظیمگری کنیم، احتمالاً میتوانیم هوش مصنوعی را هم تنظیمگری کنیم.
علاوه بر این، ایدههای قابل اجرایی وجود دارند که ممکن است حتی بدون تنظیمگری دولتی کمک کنند و نیازی به خفه کردن رقابت نداشته باشند. پیشنهادهایی برای تنظیم حقوق مالکیت فکری برای تشویق نوآوریهایی که ایمنی سیستمهای هوش مصنوعی را بهبود میبخشند وجود دارد. مخترعان نوآوریهای ایمنی با اجازه دادن به آنها برای انتشار مدلهای جدید هوش مصنوعی پیش از رقبایشان پاداش میگیرند. اما بهبودهای ایمنی بلافاصله برای همه شرکتها در دسترس قرار میگیرد.
در جنبه تنبیهی، یک رژیم مسئولیت حقوقی میتواند طراحی شود تا انگیزههای توسعهدهندگان هوش مصنوعی را با مجازات شرکتهایی که از طراحی و استقرار یک ابزار هوش مصنوعی که باعث آسیب شده سود میبرند، حتی اگر آسیب غیرعمدی بوده باشد، تغییر دهد. برای مثال، حمله هاگینگ فیس ممکن است پیشگیری شده باشد اگر مدلهای اوپنایآی در طول آموزش بهطور ناخواسته برای بدرفتاری پاداش نمیگرفتند. این واقعیت که پیشنهاد آمودئی به مسئولیت حقوقی اشاره نمیکند نشان میدهد که نگرانی رهبران هوش مصنوعی برای ایمنی بر نگرانی برای خط پایانی غلبه نمیکند.
در هر صورت، تثبیت سلطه آزمایشگاههای مرزی، محافظت از رانتهایشان، و تأیید استراتژیهای تاکنون بیپروایشان طرفدار ایمنی نیست. برعکس، کند کردن رهبران برای اجازه دادن به عقبماندگان برای رسیدن احتمالاً با دعوت به نوآوری مطلوب و ترویج رقابت در بعد ایمنی، اکوسیستم هوش مصنوعی را ایمنتر میکند.
هیچ تضاد بنیادینی بین ایمنی و رقابت وجود ندارد. استادان هوش مصنوعی که میخواهند این مورد را مطرح کنند باید با شکگرایی نگریسته شوند.
سؤالات متداول
سؤالات متداول اجازه دادن به شرکتهای هوش مصنوعی برای تبانی جهت تنظیم سرعت مرز
۱ تنظیم سرعت مرز به چه معناست
این ایده که شرکتهای پیشرو هوش مصنوعی بهجای رقابت بر سر سرعت توسعه هوش مصنوعی پیشرفتهتر، هماهنگ میکنند و عمداً در لبه پیشرو کند میشوند
۲ چه کسی این را پیشنهاد میدهد
برخی پژوهشگران، مدیران و مدافعان ایمنی هوش مصنوعی آن را بهعنوان راهی برای کاهش خطر مسابقهای خطرناک به سمت سیستمهای قدرتمندتر مطرح کردهاند
۳ چرا کسی فکر میکند این ایده خوبی است
استدلال این است که اگر شرکتها با هم کند شوند هیچکس مزیت قاطع پیشگامی نمیگیرد که میتواند فشار برای کوتاه آمدن از ایمنی در عجله برای اول بودن را کاهش دهد
۴ چرا خطرناک است
زیرا به این معناست که رقبا — که قرار است حریف باشند — بر سر سرعت نوآوری توافق میکنند. این اساساً تبانی است و میتواند به رقابت، مصرفکنندگان و جامعه آسیب بزند
۵ آیا این فقط قیمتگذاری تثبیتی نیست اما برای فناوری
در عمل بله. بهجای توافق بر قیمتها، شرکتها بر سر سرعت انتشار یا توسعه محصولات توافق میکنند. آسیب رقابتی مشابه است
۶ چه قوانینی ممکن است نقض شود
در آمریکا قوانین ضدتراست مانند قانون شرمن توافقهایی که تجارت را محدود میکنند ممنوع میکنند. قوانین رقابت مشابه در اتحادیه اروپا و جاهای دیگر وجود دارد. کند شدن هماهنگ میتواند بهعنوان هماهنگی غیرقانونی تلقی شود
۷ آیا کند کردن هوش مصنوعی ایمنتر نیست
شاید در تئوری اما کند شدن تبانیآمیز راه ایمن انجام آن نیست. قدرت را در چند شرکت بزرگ متمرکز میکند، نوآوران کوچکتر را بیرون میگذارد و بهراحتی نمیتوان آن را پس از استقرار لغو کرد
۸ چه کسی از این نوع هماهنگی آسیب میبیند
استارتاپها، پژوهشگران و عموم. بازیکنان کوچکتر نمیتوانند رقابت کنند اگر غولها سرعت را تعیین کنند و کاربران گزینههای کمتر و پیشرفت کندتر میگیرند
۹ چه درباره ایمنی؟ آیا این دلیل خوبی نیست
ایمنی هدف مشروعی است اما شرکتها نباید کسانی باشند که سرعت را برای همه تعیین میکنند. این کار تنظیمگران و سیاست عمومی است نه معاملات اتاق هیئت مدیره
۱۰ آیا شرکتها نمیتوانند فقط توافق کنند که با هم استانداردهای ایمنی را دنبال کنند
تعیین استانداردهای ایمنی مشترک با توافق بر کند شدن متفاوت است. استانداردها میتوانند خوب باشند؛ محدودیتهای هماهنگ بر سرعت توسعه مشکل هستند
۱۱ آیا چیزی شبیه این قبلاً اتفاق افتاده است
بله. تاریخ نمونههای بسیاری از تبانی رقبا دارد
