تا به حال، باید واضح باشد که هوش مصنوعی مانند کتابی است که خودت ماجرا را انتخاب میکنی و هر مسیر به فاجعه ختم میشود. انتشار فزاینده کربن و فروپاشی زیستبوم؟ به صفحه ۳۷ برو. پیامدهای احتمالی دیگر شامل برخی یا همه موارد زیر است: ترکیدن حباب و ایجاد بحران مالی؛ بیکاری گسترده ناشی از اتوماسیون؛ پایان دموکراسی و ظهور دولتهای نظارتی اقتدارگرا؛ فرقههای متعصبی که باور دارند یک الگوریتم تطبیق الگو آگاه است؛ تروریستهایی که سلاحهای زیستی ویرانگر میسازند؛ کشورهایی که سلاحهای خودمختار را در مقیاس زمانی که انسانها نمیتوانند درک کنند به کار میگیرند؛ کشورها یا تروریستهایی که سیستمهای بیشماری را که به آنها وابستهایم هک میکنند؛ یا هوش مصنوعیای که آگاه باشد یا نباشد، اهدافی را دنبال میکند که با رفاه انسان در تضاد است.
تصور اینکه چهرههایی مانند ایلان ماسک، سم آلتمن از OpenAI، پیتر تیل از Palantir، یا مارک آندریسن، مشاور فناوری ترامپ، ما را به آیندهای آرمانشهری از هماهنگی زیستمحیطی، صلح اجتماعی و فراغت بیپایان هدایت کنند، چنان توهم و چاپلوسی شدیدی میطلبد که فقط یک کتاب انتخاب-ماجرای نوشتهشده با ChatGPT میتواند آن را به ذهن خطور دهد.
شناختی رو به رشد، هرچند دیرهنگام، وجود دارد که ما به سمت فاجعه میرویم، همراه با درخواستهایی برای کند کردن سرعت، تنظیمگری، یا حتی توقف کامل این روند تا زمانی که آن را بفهمیم. این درخواستها نه فقط از سوی فعالان، بلکه از ترکیب گستردهای از سیاستمداران، کارشناسان و افراد داخلی فناوری بزرگ میآید که آنقدر متنوع هستند که نمیتوان نادیده گرفت—از برنی سندرز تا بیل گیتس، که اخیراً گفت: «اگر کسی برنامهای معتبر برای کند کردن پیشرفت هوش مصنوعی در سطح جهانی داشت، احتمالاً از آن حمایت میکردم.» او تازهترین فرد داخلی است که اعتراف میکند به آنچه شرکت هوش مصنوعی Anthropic اوایل تابستان امسال هنگام درخواست برای یک «ترمز» پذیرفت. خویشتنداری صنعت کار نخواهد کرد. اگر قرار است توقفی وجود داشته باشد، باید از بیرون تحمیل شود.
با وجود این، توافق بینالمللی متأسفانه بعید است. هوش مصنوعی مانند سلاحهای هستهای است و از همان منطق پیروی میکند: هر بازیگر به این مسابقه بیپروا رانده میشود، با تنها توجیه اینکه نمیخواهد در رحمت هر کسی که برنده میشود باشد. به نظر میرسد بهترین شانس برای کند کردن اوضاع این باشد که یک بازیگر یک گلوگاه حیاتی را کنترل کند و دلیلی برای بستن آن داشته باشد. جالب اینجاست که اتحادیه اروپا چنین کارتی در دست دارد—و حتی انگیزهای برای بازی کردن آن دارد، اگر جرئت کند.
مشاهده تصویر در تمام صفحه
کارخانه TSMC، سازنده تراشه تایوانی، در نانجینگ چین. عکس: Sipa US/Alamy
شرکت فناوری هلندی ASML با ارزشترین شرکت اروپاست، به لطف تولید ماشینهای لیتوگرافی فرابنفش شدید (EUV). این ماشینها برای پیشرفتهترین تولید تراشه در جهان ضروری هستند و یکی از معدود نقاط گلوگاهی ممکن در کل صنعت هوش مصنوعی به شمار میروند. ASML بر فناوری و زنجیره تأمین پیچیدهای که برای ساخت این ماشینهای ۴۰۰ میلیون دلاری لازم است تسلط یافته است؛ ماشینهایی که با متمرکز کردن نور به طول موج ۱۳.۵ نانومتر (حدود ۱/۱۰۰۰۰ پهنای موی انسان) الگوهایی را روی سیلیکون حک میکنند. بدون ماشینهای آن، تراشهای وجود ندارد؛ بدون تراشه، مراکز داده بیشتری وجود ندارد. این بر همه چیز تأثیر میگذارد، از سرمایهگذاری ۲۶۵ میلیارد دلاری TSMC تایوانی در کارخانههای تولید آینده (معروف به «fab») تا ۷ تریلیون دلار مراکز دادهای که انتظار میرود صنعت تا سال ۲۰۳۰ در سطح جهانی (بیشتر در آمریکا) بسازد. بدون مراکز داده بیشتر که از این تراشههای فعلی و نسل بعدی استفاده کنند، رشد نمایی هوش مصنوعی—و خطر آن—متوقف میشد.
به همین دلیل است که دولت آمریکا کنترلهای صادراتی فراسرزمینی بر ASML اعمال میکند و فروش پیشرفتهترین ماشینهای EUV آن به چین را برای کند کردن تواناییهای تولید تراشه چین مسدود میکند. با اعمال این محدودیتها بر ASML، آمریکا ضعف خود را در این گلوگاه آشکار کرده است: همانقدر که اروپا به خدمات مالی و نرمافزاری (در نهایت قابل جایگزینی) از آمریکا وابسته است، آینده تمام فناوری مبتنی بر تراشه کاملاً به ASML وابسته است. ممنوعیت مستقیم صادرات ماشینهای ASML صنعت جهانی هوش مصنوعی را مجبور میکرد که در عمل، مانند آبپیمایی یا دویدن در جا باشد. کمبود تراشه و کند شدن توسعه هوش مصنوعی به تنظیمگرها زمان میداد تا با فناوری همگام شوند، به قانونگذاران زمان میداد تا همه چیز را از کپیرایت تا قانون مالیات بهروزرسانی کنند، و به جوامع زمان میداد تا بحثهای واقعی درباره نقشی که میخواهیم هوش مصنوعی در زندگیمان ایفا کند داشته باشند.
چرا اتحادیه اروپا چنین کاری کند؟ نه فقط به دلایل انساندوستانه، بلکه به دلایل خودخواهانه. در بهترین سناریو، ممنوعیت کامل صادرات منجر به بازسازی زنجیره تأمین میشود و تصمیمات کلیدی بیشتری را تحت کنترل اتحادیه اروپا میآورد—جایی که تحت نظارت تنها بازیگری قرار میگیرند که نشان داده هوش مصنوعی را بهطور گسترده تنظیم خواهد کرد. البته، بهترین حالت دور از دسترس است: محتملتر است که آمریکا با مسدود کردن دسترسی ASML به تأمینکنندگان مستقر در آمریکا تلافی کند. اما حتی اگر این اتفاق بیفتد، باز هم به نفع اتحادیه اروپا خواهد بود که چنین رویارویی را برانگیزد، بر اساس منطق محدود منافع اقتصادی و ژئوپلیتیکی خالص، زیرا اتحادیه اروپا از عقب ماندن نسبی در مدلهای هوش مصنوعی و «قدرت محاسباتی» مراکز داده لازم برای اجرای آنها جلوگیری میکند.
طرفداران هوش مصنوعی خود اروپا نیز موافقند—حتی اگر نگرانی آنها درباره disadvantage نسبی اتحادیه اروپا باشد، نه طیف گسترده خطرات هوش مصنوعی. پروژه Europe 2031 یک پیشبینی تکنو-سیاسی است که توسط گروهی از کارشناسان صنعت تهیه شده و درباره آنچه ممکن است برای اتحادیه اروپا رخ دهد اگر هوش مصنوعی اقتصاد را بهطور بنیادی متحول کند و اتحادیه اروپا بسیار از آمریکا عقب بماند، بحث میکند. آنها استدلال میکنند که اروپا باید صدها میلیارد در مسابقه تسلیحاتی هوش مصنوعی سرمایهگذاری کند قبل از اینکه هم مدلهای پیشرو و هم «قدرت محاسباتی» به آنچه TSMC و ASML امروز هستند تبدیل شوند: ذینفعانی از شکافی که برای هر رقیبی برای پر کردن بیش از حد بزرگ است.
در سناریوی آنها، در آیندهای نزدیک، اتحادیه اروپا مجبور خواهد شد دسترسی به ASML را روی میز بگذارد تا دسترسی به مدلها و قدرت محاسباتی تحت کنترل آمریکا را که اقتصاد و امنیتش به آن وابسته خواهد بود تضمین کند—فقط برای اینکه بفهمد سلطه ASML در طول زمان تضعیف شده است. (هرچه ماشینهای EUV بیشتری صادر شود، کارخانههای تولید بیشتری در جاهای دیگر ساخته میشود و زمان بیشتری برای چین و آمریکا فراهم میشود تا فناوری ASML را کپی کنند.)
نظریهپردازان سلاحهای هستهای نگرانند که اگر غیرقابل تصور رخ دهد، دولتها ممکن است به دلیل محاسبه «استفاده کن یا از دست بده» به سمت پرتاب سوق داده شوند. دقیقاً همان منطق در مورد تنها چیزی که میتواند توسعه سرسامآور صنعت هوش مصنوعی را متوقف کند صدق میکند: اتحادیه اروپا میتواند از اهرم فشاری که ASML اکنون به آن میدهد استفاده کند، یا خطر از دست دادن کامل آن فرصت را بپذیرد. نادر است که چنین گروههای متفاوتی به یک نتیجه برسند: یک کارت اروپایی واحد برای بازی وجود دارد و باید بازی شود. به جای مسابقه به سمت حماقت، بیایید فقط مسابقه را متوقف کنیم. همین حالا، و برای همه.
الکساندر هرست برای گاردین اروپا از پاریس مینویسد. خاطرات او با عنوان Generation Desperation اکنون منتشر شده است.
**سؤالات متداول**
در اینجا فهرستی از سؤالات متداول بر اساس مقدمه مقاله، از مبتدی تا پیشرفته آورده شده است.
**سؤالات مبتدی**
۱. مسابقه تسلیحاتی هوش مصنوعی دقیقاً چیست؟
این رقابت دیوانهوار بین غولهای فناوری برای ساختن قدرتمندترین هوش مصنوعی اول است. به جای اولویت دادن به ایمنی یا اخلاق، آنها برای شکست دادن رقبا و گرفتن سهم بازار عجله میکنند مدلهای جدید منتشر کنند.
۲. چرا بیل گیتس و برنی سندرز در این مورد موافقند؟
آنها از جناحهای سیاسی کاملاً متفاوتی میآیند اما هر دو خطر یکسانی را میبینند. گیتس نگران خارج شدن هوش مصنوعی از کنترل انسان و ایجاد جابجایی عظیم شغلی است. سندرز نگران قدرت بیحد و حصر شرکتی و استفاده از هوش مصنوعی برای استثمار کارگران یا دستکاری افکار عمومی است. هر دو موافقند که انگیزههای صرفاً سودمحور نباید آینده بشریت را تعیین کنند.
۳. چرا بهطور خاص از اروپا به عنوان تنها کسی که میتواند آن را متوقف کند نام برده میشود؟
زیرا آمریکا و چین در یک جنگ فناوری برد-همه-چیز قفل شدهاند و کند نمیشوند. اروپا اما رهبر مسابقه هوش مصنوعی نیست، بنابراین چیز کمتری برای از دست دادن دارد. مهمتر از آن، اتحادیه اروپا سابقه تصویب مقررات سختگیرانهای دارد که برای کل جهان اعمال میشود—اگر میخواهید در اروپا تجارت کنید، باید از قوانین آن پیروی کنید.
۴. «توقف آن» واقعاً به چه معناست؟
این به معنای ممنوعیت کامل هوش مصنوعی نیست. به معنای توقف مسابقه خطرناک است. به معنای اعمال آزمایشهای ایمنی سختگیرانه، الزام به شفافیت درباره آنچه هوش مصنوعی میتواند انجام دهد، و جریمه سنگین شرکتها در صورت انتشار محصولات ناایمن است. درباره مجبور کردن به کند شدن سرعت برای اطمینان از اینکه ایمنی با سرعت همگام میشود.
۵. آیا مسابقه تسلیحاتی هوش مصنوعی واقعاً یک فاجعه است؟
استدلال این است که بله. فاجعه وجود هوش مصنوعی نیست—بلکه سرعت آن است. شرکتها ابزارهای قدرتمندی را قبل از اینکه بفهمیم چگونه بر انتخابات، مشاغل یا سلامت روان تأثیر میگذارند منتشر میکنند. فاجعه بیاحتیاطی است، نه خود فناوری.
**سؤالات پیشرفته**
۶. چگونه تنظیمگری اروپا واقعاً شرکتهای آمریکایی را متوقف میکند؟
اتحادیه اروپا یک «اثر بروکسل» دارد. اگر یک شرکت آمریکایی مانند متا یا OpenAI میخواهد به ۴۵۰ میلیون مصرفکننده اروپایی خدمت کند، باید از قوانین اتحادیه اروپا پیروی کند. اگر اتحادیه اروپا بگوید که نمیتوانید یک مدل فوقهوشمند را بدون ممیزی ایمنی شخص ثالث مستقر کنید، آن شرکت باید آن ممیزی را در سطح جهانی انجام دهد تا
