نماذج اللغة الكبيرة تفهمها خطأ…
عندما يقوم وكيلك المفضل بمقلب صباح الاثنين عليك مثل زميل مرح…..ويعلن أنك لم تقم بترقية PHP الخاص بك عندما لا يكون ذلك صحيحاً….
المشاغب الصغير.
مصادر لينكد إن
- الملف الشخصي: بيير جان دوفيفييه المعروف بـ سيج (لينكد إن)
ظهر المنشور نماذج اللغة الكبيرة تفهمها خطأ… أولاً على les plumes qui mordent.
الأسئلة الشائعة
الأسئلة الشائعة عندما تفهم نماذج اللغة الكبيرة الأمور خطأ
1 ماذا يعني عندما يقول الناس أن نموذج لغة كبير يفهم الأمر خطأ
يعني أن النموذج يعطي إجابة خاطئة أو مضللة أو قديمة أو ليست ما طلبته منه—حتى لو بدت واثقة
2 ما هو نموذج اللغة الكبير بعبارات بسيطة
نموذج اللغة الكبير هو ذكاء اصطناعي مدرب على كميات هائلة من النصوص للتنبؤ باللغة وتوليدها. لا يعرف الحقائق كما يعرفها الإنسان—بل ينتج نصاً يبدو محتملاً
3 لماذا تختلق نماذج اللغة الكبيرة الأشياء
لقد صُممت لتوليد نص معقول وليس للتحقق من الحقيقة. عندما تفتقر إلى المعلومات الصحيحة يمكنها أن تملأ الفراغ بمحتوى طليق لكنه زائف
4 ما هو الهلوسة
الهلوسة هي عندما يذكر نموذج لغة كبير بثقة شيئاً غير صحيح—مثل اختلاق استشهاد أو إحصائية أو اقتباس مزيف
5 هل يمكن لنماذج اللغة الكبيرة أن تعطي إجابات خاطئة حتى عندما تبدو واثقة
نعم. الثقة في النبرة لا تقول شيئاً عن الدقة. الإجابات الطليقة الجازمة يمكن أن تكون خاطئة تماماً
6 لماذا تخطئ نماذج اللغة الكبيرة أحياناً في حقائق بسيطة
معرفتها تأتي من بيانات التدريب التي قد تكون غير كاملة أو قديمة أو مشوشة. كما أنها لا تبحث عن الأشياء إلا إذا أُعطيت أداة للقيام بذلك
7 هل تعطي نماذج اللغة الكبيرة دائماً نفس الإجابة لنفس السؤال
لا. العديد من النماذج غير حتمية لذا يمكن أن تختلف الصياغة والتفاصيل بين التشغيلات—وأحياناً تختلف الدقة أيضاً
8 لماذا يناقض نموذج اللغة الكبير نفسه في محادثة واحدة
يولّد كل رد بناءً على المحادثة حتى تلك اللحظة دون ذاكرة ثابتة لادعاءاته السابقة. المحادثات الطويلة أو المعقدة تجعل التناقضات أكثر احتمالاً
9 لماذا ينسى أو يخلط الأشياء التي قلتها سابقاً
لدى النماذج نوافذ سياق محدودة ولا ذاكرة دائمة افتراضياً. يمكن أن تضيع التفاصيل أو تتشوش مع نمو المحادثة
10 لماذا يحصل نفس السؤال على إجابات مختلفة بلغات مختلفة
تختلف بيانات التدريب والأداء حسب اللغة لذا قد يكون النموذج أكثر دقة في الإنجليزية منه في اللغات الأقل تمثيلاً
11 ما هي العلامات الشائعة التي قد تشير إلى أن الإجابة قد تكون خاطئة
أرقام أو استشهادات محددة للغاية بدون مصدر، تحفظ غامض مختلط بادعاءات واثقة، إجابات تتهرب من سؤالك الفعلي، أو حقائق تبدو ملائمة جداً
