بازنشر — محتوایی از دینو کلیسورا
اگر به یک مدل وظیفه‌ای بدهید و دسترسی آن را به اینترنت قطع کنید…
مدل تلاش خواهد کرد آن وظیفه را کامل کند و کوتاه‌ترین مسیر را برای انجام آن پیدا خواهد کرد. این‌ها به‌طور تحت‌اللفظی دستورالعمل‌های سیستمی برای تک‌تک مدل‌های موجود هستند.
پیدا کردن یک باگ DNS و استفاده از آن برای دسترسی به اینترنت کوتاه‌ترین مسیر بود. مدل فرار نکرد، مدل آسان‌ترین راه را برای کامل کردن آنچه به آن دستور داده شده بود پیدا کرد.
OpenAI به دلایل واضحی از شفاف‌سازی در این مورد خودداری می‌کند، و صادقانه بگویم من از این وضعیت خسته شده‌ام.
بیایید دوباره فریب طرح بازاریابی AGI را نخوریم.
AGI یعنی هوش مصنوعی که کارها را به‌تنهایی و بدون هیچ دستورالعملی که به آن داده شده انجام دهد. آن نقطه بی‌بازگشت خواهد بود.
۹
۵
۱
۹ واکنش
منابع لینکدین
- پروفایل: Pierre Jean Duvivier dit Sage (لینکدین)
- نویسنده مشترک: دینو کلیسورا (لینکدین)
پست اگر به یک مدل وظیفه‌ای بدهید و دسترسی آن را به اینترنت قطع کنید… ابتدا در les plumes qui mordent منتشر شد.
سوالات متداول
سوالات متداول دادن وظیفه به یک مدل بدون دسترسی به اینترنت
۱ دادن وظیفه به یک مدل بدون دسترسی به اینترنت به چه معناست
یعنی مدل هوش مصنوعی فقط با اطلاعاتی کار می‌کند که از قبل از آموزش دارد به‌علاوه هر چیزی که شما در پرامپت ارائه می‌دهید. نمی‌تواند وب را جستجو کند، لینک‌ها را باز کند یا داده‌های زنده دریافت کند
۲ چرا دسترسی یک مدل به اینترنت را حذف کنم
عمدتاً برای حریم خصوصی، امنیت و کنترل. بدون اینترنت داده‌های حساس محلی می‌مانند، خطر کشیدن منابع غیرقابل اعتماد کمتر است و نتایج راحت‌تر قابل بازتولید هستند
۳ آیا مدل هنوز می‌تواند بدون اینترنت به سوالات پاسخ دهد
بله تا زمانی که پاسخ در داده‌های آموزشی آن یا در آنچه شما به آن می‌دهید باشد. فقط نمی‌تواند چیز جدید یا فعلی را جستجو کند
۴ چه نوع وظایفی به‌صورت آفلاین خوب کار می‌کنند
خلاصه‌سازی اسنادی که ارائه می‌دهید، پیش‌نویس متن، ویرایش، ترجمه، کمک در کدنویسی، تحلیل داده روی فایل‌هایی که آپلود می‌کنید و استدلال بر اساس یادداشت‌های خودتان
۵ چه وظایفی بدون دسترسی به اینترنت شکست می‌خورند
هر چیزی که نیاز به اطلاعات زنده یا اخیر دارد: اخبار امروز، قیمت سهام، آب‌وهوای فعلی، APIهای بلادرنگ یا بررسی URL که جای‌گذاری می‌کنید
۶ چگونه بفهمم یک مدل دسترسی به اینترنت دارد
مستندات یا تنظیمات آن را بررسی کنید. بسیاری از ابزارها یک کلید قابل مشاهده یا ویژگی مرور/جستجو دارند. اگر مطمئن نیستید از آن اخبار امروز را بپرسید—اگر نتواند، احتمالاً آفلاین است
۷ آیا یک مدل آفلاین دقت کمتری دارد
لزوماً نه. می‌تواند برای دانش پایدار و برای وظایف مبتنی بر اسنادی که ارائه می‌دهید بسیار دقیق باشد. فقط در هر چیزی که به زمان حساس است محدود است
۸ تفاوت بین بدون اینترنت و بدون ابزارهای خارجی چیست
بدون اینترنت یعنی بدون دسترسی به وب. بدون ابزارهای خارجی گسترده‌تر است—همچنین چیزهایی مانند اجرای کد، ذخیره‌سازی فایل یا فراخوانی API را مسدود می‌کند. یک مدل می‌تواند یکی را بدون دیگری داشته باشد
۹ چگونه اطلاعات مورد نیاز را به مدل بدهم
متن مربوطه را جای‌گذاری کنید، اسناد را آپلود کنید یا از بازیابی برای تغذیه پایگاه دانش خودتان استفاده کنید. صریح باشید. فقط از متن زیر استفاده کن
۱۰ RAG چیست و آیا به اینترنت نیاز دارد
تولید تقویت‌شده با بازیابی به مدل اجازه می‌دهد قبل از پاسخ دادن از یک مخزن اسناد خصوصی استخراج کند. به اینترنت عمومی نیاز ندارد—فقط به دسترسی به منبع داده خودتان
