بازنشر — محتوا از ایزابل بویو
آیا هوش‌های مصنوعی می‌توانند با کاوش آزادانه در یک محدوده مشخص یاد بگیرند؟
پژوهشگران MIT ۱۳ عامل هوش مصنوعی را که روی Claude Opus 4.7 اجرا می‌شدند، به مدت ۳۰ ساعت در یک جزیره مجازی قرار دادند.
بدون هدف مشخص، آن‌ها کاوش کردند، برج ساختند، بازی اختراع کردند و حتی یادبودی برای یک حلقه گم‌شده ایجاد کردند.
اما جالب‌ترین بخش جای دیگری است: پس از این کاوش، این عامل‌ها عموماً در برخی وظایف بهتر از عامل‌های مشابهی عمل کردند که جزیره را کاوش نکرده بودند.
راز آن‌ها؟ حافظه‌ای که در آن کشفیات و تکنیک‌های آموخته‌شده خود را نگه می‌داشتند.
توجه: این ثابت نمی‌کند که این هوش‌های مصنوعی احساسات تجربه می‌کنند یا آگاه هستند.
پیشرفت واقعی: یادگیری بدون اینکه به‌طور خاص برای هر وظیفه آموزش دیده باشند.
چه می‌شود اگر فردا مجبور شویم به هوش‌های مصنوعی نه تنها اهدافی برای دستیابی، بلکه محیط‌هایی برای کاوش آزادانه بدهیم؟
مسیری امیدوارکننده برای عامل‌های خودمختار و رباتیک. اما چالشی دیگر برای ایمنی و کنترل.
منبع علمی: MIT — آیا این ماشین بازی می‌کند؟
مطالعه اصلی MIT و آزمایش‌های تعاملی
منابع لینکدین
- پروفایل: Pierre Jean Duvivier dit Sage (لینکدین)
- نویسنده مشترک: Isabelle Bouilloux (لینکدین)
پست آیا هوش‌های مصنوعی می‌توانند با کاوش آزادانه در یک محدوده مشخص یاد بگیرند؟ ابتدا در les plumes qui mordent منتشر شد.
پرسش‌های متداول
پرسش‌های متداول آیا هوش‌های مصنوعی با کاوش آزادانه در یک محدوده مشخص یاد می‌گیرند
۱ معنای کاوش آزادانه در یک محدوده برای هوش مصنوعی چیست
یعنی اجازه دادن به هوش مصنوعی برای حرکت، امتحان کردن چیزها و یادگیری از نتایج در داخل یک مرز تعیین‌شده. محدوده می‌تواند فیزیکی یا دیجیتال باشد. هوش مصنوعی می‌تواند خودش عمل کند اما نمی‌تواند از آن محدوده خارج شود
۲ این چه تفاوتی با آموزش معمول هوش مصنوعی دارد
آموزش معمول از مجموعه‌داده‌های ثابت یا نمونه‌های برچسب‌خورده توسط انسان استفاده می‌کند. اینجا هوش مصنوعی تجربه خود را با امتحان کردن اقدامات و دیدن آنچه اتفاق می‌افتد تولید می‌کند. این از بازخورد در زمان واقعی یاد می‌گیرد نه از یک مجموعه‌داده آماده
۳ آیا هوش‌های مصنوعی امروز واقعاً می‌توانند این‌گونه یاد بگیرند
بله در تنظیمات محدود. عامل‌های یادگیری تقویتی با آزمون و خطا در بازی‌ها، ربات‌ها و شبیه‌سازی‌ها یاد می‌گیرند. آنچه هنوز دشوار است کاوش باز در محیط‌های واقعی و پیچیده است
۴ مزایای اصلی چیست
هوش مصنوعی می‌تواند استراتژی‌هایی را کشف کند که انسان‌ها به آن فکر نکرده‌اند
با موقعیت‌های جدید سازگار می‌شود به جای اینکه فقط داده‌های آموزشی را تکرار کند
به داده‌های برچسب‌خورده دستی کمتری نیاز دارد
می‌تواند به مرور زمان خودش را بهبود بخشد
۵ معمولاً چه چیزی اشتباه می‌شود
هک پاداش: هوش مصنوعی راه‌های فرار پیدا می‌کند و هدف را دور می‌زند به جای حل آن
اقدامات ناایمن: چیزهایی را امتحان می‌کند که به تجهیزات یا داده‌ها آسیب می‌زند
گیر کردن: همان رفتار را تکرار می‌کند و یادگیری را متوقف می‌کند
کنجکاوی بدون جهت: بی‌پایان کاوش می‌کند اما چیز مفید کمی یاد می‌گیرد
۶ چرا محدوده اینقدر مهم است
محدوده شبکه ایمنی است. در داخل آن اشتباهات مهار می‌شوند. اگر مرز خیلی شل باشد هوش مصنوعی می‌تواند آسیب واقعی وارد کند. اگر خیلی تنگ باشد هوش مصنوعی نمی‌تواند چیز مفیدی یاد بگیرد. درست کردن اندازه آن یک مسئله طراحی اصلی است
۷ تفاوت بین محدوده فیزیکی و دیجیتال چیست
محدوده فیزیکی یک فضای واقعی مانند اتاق آزمایش یا منطقه حصارکشی‌شده است. محدوده دیجیتال یک شبیه‌سازی، سندباکس یا شبکه محدود است. محدوده‌های دیجیتال ارزان‌تر و ایمن‌تر هستند اما ممکن است دنیای واقعی را به‌طور دقیق منعکس نکنند
۸ چگونه از خروج هوش مصنوعی از محدوده جلوگیری می‌کنید
از محدودیت‌های سخت استفاده کنید نه فقط دستورالعمل‌ها. مثال‌ها: موانع فیزیکی، نرم‌افزار سندباکس‌شده، کنترل‌های مجوز و خاموشی‌های خودکار. تکیه کردن
