مدل‌های زبانی بزرگ اشتباه می‌فهمند…
وقتی عامل مورد علاقه‌تان مثل یک همکار شوخ‌طبع، شوخی صبح دوشنبه را با شما می‌کند…..و اعلام می‌کند که PHP خود را ارتقا نداده‌اید در حالی که اینطور نیست….
شیطون کوچولو.
منابع لینکدین
- پروفایل: پیر ژان دوویویه معروف به سیج (لینکدین)
پست مدل‌های زبانی بزرگ اشتباه می‌فهمند… ابتدا در les plumes qui mordent منتشر شد.
سوالات متداول
سوالات متداول وقتی مدل‌های زبانی بزرگ اشتباه می‌فهمند
۱ وقتی می‌گویند یک مدل زبانی بزرگ اشتباه می‌فهمد یعنی چه
یعنی مدل پاسخی می‌دهد که نادرست، گمراه‌کننده، قدیمی یا چیزی غیر از آنچه پرسیده‌اید است—حتی اگر مطمئن به نظر برسد
۲ مدل زبانی بزرگ به زبان ساده چیست
یک مدل زبانی بزرگ یک هوش مصنوعی است که بر روی حجم عظیمی از متن آموزش دیده تا زبان را پیش‌بینی و تولید کند. آن حقایق را همانطور که یک انسان می‌داند نمی‌داند—متنی تولید می‌کند که محتمل به نظر می‌رسد
۳ چرا مدل‌های زبانی بزرگ چیزها را از خود می‌سازند
آنها برای تولید متن قابل قبول ساخته شده‌اند نه برای تأیید حقیقت. وقتی اطلاعات درست را ندارند می‌توانند شکاف را با محتوای روان اما نادرست پر کنند
۴ توهم چیست
توهم زمانی است که یک مدل زبانی بزرگ با اطمینان چیزی را بیان می‌کند که درست نیست—مثل اختراع یک استناد، آمار یا نقل قول جعلی
۵ آیا مدل‌های زبانی بزرگ می‌توانند پاسخ‌های نادرست بدهند حتی وقتی مطمئن به نظر می‌رسند
بله. اطمینان در لحن هیچ چیزی درباره دقت نمی‌گوید. پاسخ‌های روان و قاطع می‌توانند کاملاً نادرست باشند
۶ چرا مدل‌های زبانی بزرگ گاهی حقایق ساده را اشتباه می‌گیرند
دانش آنها از داده‌های آموزشی می‌آید که می‌تواند ناقص، قدیمی یا پرنویز باشد. آنها همچنین چیزی را جستجو نمی‌کنند مگر اینکه ابزاری برای این کار به آنها داده شود
۷ آیا مدل‌های زبانی بزرگ همیشه به یک سوال یکسان پاسخ یکسان می‌دهند
خیر. بسیاری از مدل‌ها غیرقطعی هستند بنابراین کلمات و جزئیات می‌توانند بین اجراها متفاوت باشند—و گاهی دقت هم متفاوت است
۸ چرا یک مدل زبانی بزرگ در یک مکالمه خودش را نقض می‌کند
هر پاسخ را بر اساس مکالمه تا آن لحظه تولید می‌کند بدون حافظه ثابت از ادعاهای قبلی خود. مکالمات طولانی یا پیچیده ناسازگاری را محتمل‌تر می‌کنند
۹ چرا چیزهایی که قبلاً گفتم را فراموش می‌کند یا قاطی می‌کند
مدل‌ها پنجره‌های زمینه محدود و به طور پیش‌فرض حافظه پایدار ندارند. با رشد مکالمه جزئیات می‌توانند گم یا محو شوند
۱۰ چرا یک سوال یکسان در زبان‌های مختلف پاسخ‌های متفاوت می‌گیرد
داده‌های آموزشی و عملکرد بر اساس زبان متفاوت است بنابراین یک مدل ممکن است در انگلیسی دقیق‌تر از زبان‌های کمتر نمایندگی‌شده باشد
۱۱ نشانه‌های رایج اینکه یک پاسخ ممکن است نادرست باشد چیست
اعداد یا استنادهای بیش از حد خاص بدون منبع، احتیاط مبهم مخلوط با ادعاهای مطمئن، پاسخ‌هایی که از سوال واقعی شما طفره می‌روند، یا حقایقی که بیش از حد مناسب به نظر می‌رسند
