مردم اغلب از من میپرسند که آیا فکر میکنم همه رمانهای آینده توسط هوش مصنوعی نوشته خواهند شد. این کمتر یک سؤال واقعی و بیشتر یک چالش است. آیا میپرسند که آیا نگرانم یک ماشین بتواند کار مرا انجام دهد و آن را بهتر انجام دهد؟ معمولاً با چیزی مثل «هیچ الگوریتمی قرار نیست آنا کارنینا را بنویسد!» از کنارش میگذرم. اما آن هم پاسخ واقعی نیست.
بنابراین از پاپ لئوی چهاردهم، پاپ آمریکایی، به خاطر نامه اخیرش به جهان، مگنیفیکا هیومانیتاس: درباره حفاظت از شخص انسانی در عصر هوش مصنوعی، سپاسگزارم. این سندی طولانی (بیش از ۴۰٬۰۰۰ کلمه)، هوشمندانه و عمیق است که در آن پاپ به چگونگی استفاده و سوءاستفاده از این فناوریِ بهسرعتدرحالرشد میپردازد. حالا وقتی کسی نظر مرا درباره هوش مصنوعی میپرسد، فقط میتوانم او را به نامه پاپ ارجاع دهم—یا حداقل به فصل سوم.
نامه با ارجاعی مناسب کتاب مقدس به نتایج غمانگیز فروپاشی ارتباطات انسانی آغاز میشود. بشریت با «انتخابی سرنوشتساز روبروست: یا ساختن برج بابل جدید، یا بنای شهری که در آن خدا و انسان با هم زندگی کنند.» آنچه در ادامه میآید نگاهی دقیق به دیدگاههای پیشینیان پاپ لئو و ایدههای واتیکان درباره کار، اقتدار، حکومت، علم، قدرت و وظیفه اخلاقی ما نسبت به یکدیگر است. همچنین بر کار کلیسا در دفاع از کرامت و آزادی انسانی تأکید میکند.
فصل سوم، فناوری و سلطه: عظمت بشریت در پرتو وعدههای هوش مصنوعی، به شأن عنوان نامه عمل میکند. در بخشی قدرتمند (و اغلب نقلشده) که توضیح میدهد هوش مصنوعی چیست، پاپ اساساً معنای انسان بودن را تعریف میکند. «بهاصطلاح هوشهای مصنوعی تجربه نمیکنند، بدن ندارند، شادی یا درد را حس نمیکنند، از طریق روابط بالغ نمیشوند و از درون نمیدانند عشق، کار، دوستی یا مسئولیت به چه معناست.» هوش مصنوعی وجدان اخلاقی ندارد و نگرانی واقعی برای خیر بزرگتر بشریت نشان نمیدهد.
سپس نامه مهمترین و ضروریترین مطالب را درباره آنچه ممکن است بزرگترین تهدید هوش مصنوعی باشد، میگوید: میتوان آن را صرفاً برای حداکثر کردن سود برنامهریزی کرد، که تنها به رنج بسیاری به نفع عدهای اندک میانجامد. پاپ درباره «دستکاری حریم خصوصی» و «سوءاستفاده از اطلاعات»، درباره استفاده از الگوریتمها برای مدیریت اشتغال، کنترل دسترسی به خدمات عمومی و اعتبار، و تقویت یا تخریب شهرت شخصی افراد هشدار میدهد.
شفقت، رحمت و بخشش—که در اولویتهای یک ماشین جایگاه بالایی ندارند—میتوانند منسوخ شوند. «ممکن است "فداکاریهای ضروری" توجیه شوند و بار را بر دوش آسیبپذیرترینها در پیِ بهینهسازی فرضی گونه بگذارند.» اگر ابزارهای این قدرت جدید به دست کسانی بیفتد که از قبل ثروت و نفوذ دارند، برای بهبود آسایش، سلامت و رفاه ثروتمندترین و ممتازترین شهروندان ما استفاده خواهند شد.
پاپ هوش مصنوعی را بهطور کامل محکوم نمیکند، بلکه روشی را محکوم میکند که میتوان از آن بهعنوان ابزاری برای سرکوب سیاسی و بدتر کردن نابرابری اقتصادی استفاده کرد.
همانطور که نامه به پایان میرسد، پاپ از ما میخواهد به حقیقت وفادار بمانیم، در آموزش سرمایهگذاری کنیم، روابط بسازیم و در عدالت و صلح زندگی کنیم—تا در برابر چگونگی «بهرهکشی از آسیبپذیرترینها، ایجاد اشکال جدید بردهداری و کسب سود از درگیری» توسط فناوریهای جدید مقاومت کنیم. مشخص میشود که پاپ هوش مصنوعی را بهطور کامل محکوم نمیکند، بلکه روشی را محکوم میکند که میتوان از آن بهعنوان ابزاری برای سرکوب سیاسی و بدتر کردن نابرابری اقتصادی استفاده کرد.
در تئوری، میتوان از نامه به خاطر نرفتن به اندازه کافی انتقاد کرد، به خاطر استفاده نکردن از استعاره کتاب مقدسی دیگر—گوساله طلایی—برای محکوم کردن هوش مصنوعی، زیرا اولویتدادن به صرفهجویی در هزینه بر رفاه معنوی، فردی و اجتماعی را در اولویت قرار میدهد. رشد. اما آن کشتی دیگر رفته است، و لئوی چهاردهم—یا هر رهبر مذهبی—کار زیادی نمیتواند برای محکوم کردن این پیشرفتهای جدید بهعنوان نوعی بتپرستی قرن بیست و یکمی انجام دهد.
با این حال، چشمانداز بخشنامه از طبیعت انسانی، روحیه عدالت و همدلی که باید حاکم باشد، و اهمیت اساسی بالاترین ارزشهای اخلاقی—در نهایت آنقدر مهربان، مثبت، سخاوتمندانه و بهوضوح درباره وظیفه ما برای محافظت از ضعیفان و فقیران درست است که یافتن دلایلی برای رد آن دشوار است.
اما این بخش ترسناک است. ظاهراً، مخالفتهایی از سوی سیلیکونولی وجود داشته است، جایی که سازندگان و استادان آخرین فناوری پیشنهاد کردهاند که پاپ نمیداند در مورد چه چیزی صحبت میکند.
دیدگاه گاردین درباره پاپ و کلود: بخشنامه لئوی چهاردهم درباره هوش مصنوعی در اولویتدادن به بشریت درست میگوید | سرمقاله
بیشتر بخوانید
جرمی نیکسون، یکی از بنیانگذاران AGI House—گروهی متمرکز بر اثبات اینکه هوش مصنوعی اساساً برابر با مغز انسان است—در نیویورک تایمز نقل شده است که گفته کلیسا «عمیقاً درباره ... هوش مصنوعی فکر نکرده است» و افزوده: «آنها نمیتوانند در مورد آن موضعی داشته باشند، چون آن را درک نمیکنند.» و به نظر میرسد باوری گسترده وجود دارد که نتیجه نهایی تحقیقات کنونی، در عمل، خدایی جدید، یا حداقل تقلیدی قانعکننده خواهد بود. جامعه ما که نگران خطرات آینده است، ترجیح میدهد شواهدی را نادیده بگیرد که نشان میدهد جنبههای منفی هوش مصنوعی از همین حالا وجود دارند. دختر یکی از دوستانم، دانشجوی رشته تبلیغات، اخیراً توسط مشاورش به او گفته شده که تا زمان فارغالتحصیلی، تمام مشاغل در تبلیغات توسط هوش مصنوعی تصاحب خواهند شد.
اگر استادان این فناوری جدید نتوانند با آنچه پاپ بهعنوان خطرات و معایب آن میبیند موافق باشند، ما در دردسر بسیار عمیقی هستیم. مشکل این نیست که رباتی آنا کارنینا را بنویسد. مشکل این است که هیچکس نیازی به رمانی نخواهد دید که به این زیبایی رنج یک زن، یک انسان منحصربهفرد را به تصویر میکشد.
هیچ فایدهای برای کتابی مثل آن وجود نداشت، مگر اینکه آن داستان یک اشتباه زندگیساز بتواند توسط یک تِکبروِ آیندهنگر به سود تبدیل شود و برای خرید یک قایق تفریحی بزرگتر و بهتر استفاده شود—که احتمالاً توسط یک طبقه فرودست دائمی، توسط کارگرانی که کرامتشان، مشاغل ارزشمند و باارزششان، توسط اشکال حریص هوش مصنوعی دزدیده شده است، سرویسدهی میشود.
فرانسین پراس رئیس سابق مرکز قلم آمریکا و عضو آکادمی هنر و ادبیات آمریکا و آکادمی هنر و علوم آمریکا است. رمان جدید او، پنج هفته در حومه شهر، در ماه مه منتشر شد.
**سؤالات متداول**
در اینجا فهرستی از سؤالات متداول بر اساس بیانیه «من از پاپ به خاطر بخشنامهاش درباره هوش مصنوعی سپاسگزارم. دلیلش اینجاست» آورده شده است.
**سؤالات سطح مبتدی**
**س: بخشنامه چیست؟**
پ: نامهای رسمی از پاپ به کل کلیسای کاتولیک درباره یک موضوع مهم است. هدف آن آموزش و راهنمایی مردم است.
**س: چرا پاپ درباره هوش مصنوعی بخشنامه نوشت؟**
پ: زیرا هوش مصنوعی به سرعت نحوه زندگی، کار و تعامل ما را تغییر میدهد. پاپ معتقد است این موضوع سؤالات عمیق اخلاقی و اخلاقی درباره کرامت انسانی، عدالت و صلح ایجاد میکند، بنابراین خواستار ارائه راهنمایی شد.
**س: آیا پاپ میگوید هوش مصنوعی بد است؟**
پ: خیر. او مخالف فناوری نیست. او میگوید باید مراقب باشیم و از هوش مصنوعی به روشهایی استفاده کنیم که به زندگی انسانی احترام بگذارد، از آسیبپذیران محافظت کند و خیر عمومی را ترویج دهد، نه فقط سود یا قدرت.
**س: پیام اصلی بخشنامه درباره هوش مصنوعی چیست؟**
پ: ایده اصلی این است که هوش مصنوعی باید به بشریت خدمت کند، نه اینکه جایگزین یا کنترلکننده آن باشد. این نامه خواستار گفتگویی جهانی برای اطمینان از توسعه و استفاده اخلاقی از هوش مصنوعی، با تمرکز بر صلح، حقیقت و کرامت انسانی است.
**س: این موضوع چگونه بر من بهعنوان یک فرد عادی تأثیر میگذارد؟**
پ: مهم است زیرا هوش مصنوعی از همین حالا در زندگی شما وجود دارد—در موتورهای جستجو، رسانههای اجتماعی، بانکداری و حتی تشخیصهای پزشکی. پاپ از همه میخواهد درباره انصاف، حریم خصوصی و اینکه آیا این ابزارها به جامعه کمک میکنند یا آسیب میرسانند، فکر کنند.
**سؤالات سطح متوسط**
**س: پاپ درباره چه خطرات خاصی از هوش مصنوعی هشدار میدهد؟**
پ: او درباره جامعه الگوریتمی هشدار میدهد که در آن ماشینها بدون انصاف یا شفافیت تصمیماتی میگیرند که بر زندگی مردم تأثیر میگذارد. او همچنین بر خطرات نظارت، اطلاعات نادرست و افزایش نابرابری بین کسانی که هوش مصنوعی را کنترل میکنند و کسانی که کنترل نمیکنند، تأکید میکند.
**س: آیا بخشنامه درباره هوش مصنوعی در سلاحها یا جنگ صحبت میکند؟**
پ: بله. این نامه به شدت توسعه سیستمهای تسلیحاتی خودمختار—ماشینهایی که میتوانند بدون تصمیمگیری انسانی بکشند—را محکوم میکند. پاپ استدلال میکند که این امر هرگونه مسئولیت اخلاقی را از جنگ میگیرد و میتواند به درگیریهای فاجعهبار منجر شود.
**س: دیدگاه کلیسا درباره هوش مصنوعی چه تفاوتی با دیدگاه شرکتهای فناوری دارد؟**
