إعادة نشر — محتوى بقلم جوليان موتزينهارت
غرامات بقيمة 17,000 يورو بسبب JSON سيئ التنسيق: الخطأ القاتل مع النماذج اللغوية الكبيرة!
تسبب مطوّر في تأخير هائل في معالجة ملفات حاسمة لشركته. السبب؟ خطأ تكامل بسيط. 
ومع ذلك، كان قد حدد بوضوح في توجيهه: "أجب بصيغة JSON." المشكلة هي أن النموذج، بلطف شديد، أجاب: "بالطبع، إليك المعلومات:"، قبل أن يُدرج الكود الخاص به.
النتيجة: المحلّل، الذي كان يتوقع كائن JSON خاماً، انهار في حلقة تكرارية. 
الدرس: التوجيه ليس سوى تعليمة، وليس إلزاماً.
الأمر أشبه بأن تقول لكلبك ألا يلمس الدجاج على الطاولة، ثم تذهب للنوم. لا شيء يُلزم نموذج الذكاء الاصطناعي فعلياً بالامتثال الصارم للتنسيق المطلوب.
الحل الحقيقي: "فك التشفير المقيّد"
بدلاً من الأمل في أن يمتثل النموذج لتعليماتك النصية، أعطه "مخطط JSON" (المخطط الدقيق للاستجابة المتوقعة، لتحديد مثلاً أن المبلغ يجب أن يكون رقماً).
كيف يعمل ذلك تحت الغطاء؟
بدلاً من ترك النموذج اللغوي الكبير يختار الكلمة التالية من مفرداته بأكملها، يعيد محرك التوليد حساب "الرموز" المسموح بها في الوقت الفعلي. على سبيل المثال، لبدء كائن JSON، لن يسمح إلا بالقوس الافتتاحي {. لا يملك النموذج أي خيار آخر. وبذلك يصبح التنسيق صالحاً بالبناء، مما يتجنب إطلاق آلاف المحاولات الجديدة غير الضرورية (إعادة المحاولات)! 
كيف تنفّذه دون إعادة برمجة وحش معقد للغاية؟
ببساطة أرسل مخطط JSON الخاص بك إلى واجهات البرمجة القياسية (مثل OpenAI أو Anthropic)، التي تتولى معالجته. وإذا كنت تستضيف نموذج الذكاء الاصطناعي الخاص بك محلياً، فإن محركات مثل vLLM تتعامل معه بنفس السهولة.
توقف عن العمل العشوائي في بيئة الإنتاج وأمّن بيانات الإخراج من نماذجك اللغوية الكبيرة! 
تم إنشاء ملخص هذا المقال بواسطة الذكاء الاصطناعي.
وأنت، هل سبق أن رأيت نظاماً ينفجر أثناء التشغيل بسبب استجابة غير متوقعة من ذكاء اصطناعي؟
#الذكاء_الاصطناعي #التطوير #JSON #LLM #OpenAI #VLLM #البرمجة #التقنية
إذا كنت ترغب في مناقشة الموضوع معي أو الاستفادة من مهاراتي، يمكنك التواصل معي عبر الرسائل الخاصة أو مكالمة فيديو.
مصادر لينكدإن
- الملف الشخصي: بيير جان دوفيفييه الملقب بـ ساج (لينكدإن)
- المؤلف المشارك: جوليان موتزينهارت (لينكدإن)
ظهر المنشور 🚨 غرامات بقيمة 17,000 يورو بسبب JSON سيئ التنسيق: الخطأ القاتل مع النماذج اللغوية الكبيرة! 🚨 أولاً على les plumes qui mordent.
الأسئلة الشائعة
الأسئلة الشائعة 17000 في الغرامات بسبب JSON سيئ التنسيق الخطأ القاتل مع النماذج اللغوية الكبيرة
1 ما هي هذه الغرامة البالغة 17000
تشير إلى حالة واقعية حيث أنتج نظام ذكاء اصطناعي مخرجات JSON مشوهة أدت إلى تعطيل عملية لاحقة وأسفرت عن غرامة مالية قدرها 17000 تُستخدم كمثال تحذيري على أهمية تنسيق المخرجات
2 ما هو JSON
JSON هو تنسيق نصي بسيط لهيكلة البيانات كأزواج مفتاح-قيمة وقوائم وكائنات متداخلة وهو الطريقة القياسية لتبادل البيانات بين البرامج
3 ماذا يعني JSON سيئ التنسيق
JSON ينتهك قواعد الصياغة على سبيل المثال علامات اقتباس مفقودة أو فواصل زائدة أو أحرف غير مهرّبة أو أقواس غير متوازنة أو نص إضافي قبل الكائن أو بعده ترفضه المحلّلات
4 لماذا تنتج النماذج اللغوية الكبيرة JSON غير صالح
تولّد النماذج اللغوية الكبيرة النص probabilistically قد تضيف تفسيرات أو تستخدم أسوار كود markdown أو تهلوس حقولاً أو تقتطع المخرجات أو تنحرف قليلاً عن المخطط خاصة بدون تعليمات صارمة أو تحقق
5 كيف يمكن لخطأ في التنسيق أن يكلف 17000
إذا كان نظام ما يثق ثقة عمياء بمخرجات النموذج اللغوي الكبير فإن JSON غير الصالح يمكن أن يعطّل خطوط المعالجة الآلية أو يسبب معاملات خاطئة أو يفعّل غرامات العقد-اتفاقية مستوى الخدمة أو يفرض إصلاحات يدوية خطأ صياغي صغير واحد يمكن أن يتسلسل إلى خسارة مالية حقيقية
6 ما هو الخطأ الأكثر شيوعاً في JSON الذي ترتكبه النماذج اللغوية الكبيرة
تغليف JSON في markdown أو إضافة نص محادثة حوله مشكلات أخرى متكررة الفواصل الزائدة وعلامات الاقتباس المفردة والمخرجات المقتطعة
7 كيف أجعل النموذج اللغوي الكبير يعيد JSON صالحاً
اطلب صراحة JSON فقط بدون شرح وقدّم مخططاً أو مثالاً واستخدم درجة حرارة منخفضة والأهم من ذلك تحقق وأعد المحاولة عند الفشل
8 ما هو التحقق من مخطط JSON
طريقة للتحقق من أن JSON يطابق بنية متوقعة أدوات مثل مدققات مخطط JSON تلتقط الأخطاء قبل وصولها إلى الإنتاج
9 هل يجب أن أثق بمخرجات النموذج اللغوي الكبير دون التحقق منها
لا تحقق دائماً من مخرجات النموذج اللغوي الكبير برمجياً تعامل معها كمدخلات غير موثوقة تماماً مثل البيانات المقدمة من المستخدم
10 ما هي المخرجات المهيكلة أو وضع JSON في النماذج اللغوية الكبيرة
ميزات تقدمها بعض مزودي النماذج تقيّد
