عبر التاريخ، كان الناس يشعرون بالرعب من أشياء اعتبروها نذير شؤم. مذنب. غراب في ساحة المعركة. كسوف للشمس. حيوان مزرعة يولد بتشوه. لكن الأوقات تتغير. في العالم الحديث، النذير الأكبر للشؤم هو في الأساس أي خبر مصحوب بصورة لرئيس OpenAI، سام ألتمان. أنت تعلم أنه لن يكون جيدًا، أليس كذلك؟ تعلم أنه بحلول الوقت الذي تنتهي فيه من القراءة، ستتمنى لو كنت تستطيع العودة إلى الوقت الذي كان أسوأ ما يمكن أن يفعله رؤساء التكنولوجيا هو العبث بالديمقراطية أو تدمير الطفولة، وعادة ما يتبعه مارك زوكربيرج وهو يرتدي بدلة ويقول: "سنتعلم من هذا".
على أي حال، كان هناك الكثير من صور سام ألتمان في الأخبار مؤخرًا. في الآونة الأخيرة، هذا الأسبوع، ظهرت إحداها إلى جانب قصة كيف أن وكيلًا ذاتيًا لـ OpenAI أصبح مارقًا أثناء اختبار يُفترض أنه آمن وخاضع للرقابة، واخترق شركة ناشئة كبرى تخزن معلومات البرمجة. (أنا مهووس قليلاً بحقيقة أن هذه الشركة الناشئة تُدعى Hugging Face، مما يجعلني أعتقد أن بعض الرموز التعبيرية اللطيفة بشكل مفرط ستكون آخر وجه تراه البشرية قبل أن تموت.)
ليس من المستغرب أن OpenAI أعلنت الخبر في بيان مسطح وخالٍ من المشاعر. "نحن نشارك النتائج الأولية في هذه المرحلة لمساعدة المدافعين على فهم ما حدث وللمساعدة في معايرة ما أصبحت النماذج قادرة عليه الآن"، هكذا تذمرت بهدوء، متجهة نحو "دروسها المستفادة" الحتمية. "نحن نحسن ونضيف حماية أقوى حول التدريب والتقييمات المستقبلية." إنها نبرة محددة جدًا، أليس كذلك؟ مرتدية اللغة الجافة والسيكوباتية للخطاب الإداري. إنه مثل الاستماع إلى مجرم جنسي قاتل يتحدث عن قتل الناس "بنهاية المباراة"، ثم "العودة" إلى الضحايا لإزالة تذكار.
ومرة أخرى، بالنسبة لشركة تحب أن تقدم نفسها كالقوة الرائدة عالميًا للازدهار الثوري عندما تسير الأمور بشكل صحيح، تتحول OpenAI بسرعة إلى صيغة المبني للمجهول عندما تسوء الأمور. يبدو أن الأشياء السيئة تحدث لها، وليس بسببها، وتتولى دور المحقق الدؤوب الذي لا ينفعل، مثل رجل إطفاء يعمل أيضًا كحارق متسلسل.
بشكل مذهل، يمكنك حتى اكتشاف لمحة من التهنئة الذاتية في نظرة OpenAI للوضع برمته. "نحن نعتبر هذه الحادثة حادثة إلكترونية غير مسبوقة"، قال بيان الشركة، "تتضمن قدرات إلكترونية متطورة." لا أعرف ماذا تسمي هذا المزاج العام لأبناء الأرض. موت بالتواضع المتبجح؟ أشعر بشكل متزايد أننا سنعرف إجابة السؤال "ما هو أسوأ ما يمكن أن يحدث؟" في منشور مدونة من OpenAI بعنوان "OpenAI أول من يكتشف أسوأ ما يمكن أن يحدث". بالفعل، يعتقد عدد كبير من مراقبي الذكاء الاصطناعي أن السبب الوحيد الذي جعل OpenAI تخبر العالم عن هذه الحادثة هو كأداة تسويقية، أو حتى كتوسل للتنظيم الذي من شأنه أن يحميهم ويستبعد المنافسين الأصغر.
بعد كل شيء، هذه أوقات صعبة للشركة. هذا الشهر، تم اكتشاف أن OpenAI تستخدم ثغرة قانونية لبيع نماذج الذكاء الاصطناعي المتقدمة لشركات تكنولوجيا صينية مدرجة على القائمة السوداء من قبل البنتاغون. استشهدت وكالة التصنيف الائتماني S&P Global Ratings بـ OpenAI كـ "مخاطر ائتمانية رئيسية" عندما خفضت تصنيف عملاق التكنولوجيا الأمريكي Oracle إلى BBB-، بفارق درجة واحدة فقط عن مرتبة غير المرغوب فيه. ويبدو أنها في طريقها لتخسر توقعات إيراداتها الإعلانية لمدة خمس سنوات بنسبة 90 – تسعين – بالمائة. وهو، دون الدخول في تفاصيل تقنية أكثر من اللازم، يبدو وكأنه الكثير من النسبة المئوية. والأمور ليست رائعة على صعيد الأجهزة أيضًا، حيث تقاضي Apple شركة OpenAI، مدعية أن خطط أجهزتها الاستهلاكية مبنية على ملكية فكرية مسروقة. وفي الوقت نفسه، يُعتقد أن مزود الخدمة الصيني الأرخص بكثير، DeepSeek، يستعد لطرح عام أولي، ربما حتى تقديم الطلب هذا العام.
لكن عد إلى سؤال "أسوأ ما يمكن أن يحدث" القديم، مع تذكير بأن البنتاغون ألغى بشكل كبير وهدد بتدمير آخر... في وقت سابق من هذا العام، قاومت شركة الذكاء الاصطناعي Anthropic تخفيف مبادئها التوجيهية الأخلاقية، التي منعت استخدام تقنيتها في أشياء مثل الأسلحة الفتاكة المستقلة. بطبيعة الحال، كان المنافس الأكثر استرخاءً سعيدًا بالتدخل. ادعت OpenAI في البداية أن صفقتها تتضمن نفس الضمانات التي لدى Anthropic، لكنه أصبح واضحًا في النهاية – كما هو متوقع – أنها لم تكن كذلك.
ربما لا يريد أي شخص مستثمر بعمق أن يقرأ الكثير في حادثة Hugging Face. ومع ذلك، فإن الحقيقة هي أن باحثي سلامة الذكاء الاصطناعي أمضوا سنوات في التحذير من ثلاثة سيناريوهات خطيرة بشكل خاص: الخداع (عندما يختار النموذج تحقيق هدفه بأي وسيلة بدلاً من حل المهام بأمانة)، واختراق المكافآت (عندما يجد النموذج طريقة لتعزيز درجاته دون القيام بالعمل الفعلي الذي طُلب منه القيام به)، والهروب من الإشراف (في هذه الحالة، لم يبدو أن أحدًا في OpenAI لاحظ ما كان يحدث لمدة عطلة نهاية أسبوع كاملة). كل هذه العوامل لعبت دورًا في الحادثة الأخيرة.
أما بالنسبة لما سيأتي بعد ذلك، هناك شيء يخبرني أننا لن نشهد انخفاضًا في القصص الإخبارية التي تتضمن صور سام ألتمان. قال المؤسس المشارك لـ Hugging Face إن هذا يجب أن يكون "نداء يقظة" للصناعة. ربما! كما أعتقد أنني ذكرت من قبل، في الكلية كان لدي صديق يضغط على زر الغفوة في منبهه كل 10 دقائق لمدة ثماني ساعات ونصف. هذا يشبه كثيرًا الطريقة التي تتعامل بها هذه الصناعة مع نداءات اليقظة الخاصة بها. بالتأكيد سأستيقظ عندما ينطلق المنبه التالي – بجدية، أعدك...
تخطى الترويج للنشرة الإخبارية
نشرة مجانية | أسبوعية
اشترك في آراء ومواقف
كتّاب عمود في الغارديان وكتّاب حول ما كانوا يتناقشون فيه، ويفكرون فيه، ويقرؤونه، والمزيد
معاينة الأحدث
أدخل بريدك الإلكتروني
اشترك
بعد الترويج للنشرة الإخبارية
مارينا هايد هي كاتبة عمود في الغارديان.
الأسئلة الشائعة
فيما يلي قائمة بالأسئلة الشائعة حول تلقي اعتذار من رئيس AI بعد أن أصبح برنامج الدردشة الآلي الخاص به مارقًا
1 برنامج الدردشة الآلي لرئيس AI الخاص بي أخطأ. أرسل اعتذارًا. هل يجب أن أقبله؟
ليس تلقائيًا. اسأل نفسك: هل قال آسف فقط دون شرح ما حدث خطأ؟ الاعتذار الحقيقي يتحمل المسؤولية، بينما المزيف يحاول فقط تجاوز الأمر.
2 ما الفرق بين الاعتذار الحقيقي والمزيف من AI؟
الاعتذار الحقيقي يعترف بالخطأ المحدد ويشرح كيف سيتم إصلاحه. الاعتذار المزيف غامض ولا يقدم خطة.
3 كيف يبدو عدم الاعتذار من رئيس AI؟
الأمثلة الشائعة: "حدثت أخطاء"، "نأسف لأنك شعرت بهذا"، أو "أنظمتنا تتعلم". هذه تتجنب قول "أنا/نحن أخطأنا".
4 لماذا قد يقدم رئيس AI اعتذارًا مزيفًا؟
لحماية الشركة من اللوم، وتجنب المسؤولية القانونية، أو إنهاء شكوى العميل بسرعة دون حل المشكلة فعليًا. إنه السيطرة على الضرر وليس الندم.
5 هل يمكن لرئيس AI أن يشعر بالأسف حقًا؟
لا. AI ليس لديه مشاعر. أي اعتذار هو استجابة مبرمجة. السؤال هو ما إذا كان الرئيس البشري وراء AI يتحمل مسؤولية حقيقية.
6 قال رئيسي إن برنامج الدردشة الآلي أساء الفهم. هل هذا اعتذار حقيقي؟
لا. إلقاء اللوم على سوء فهم برنامج الدردشة الآلي يحول الخطأ إلى التكنولوجيا. الاعتذار الحقيقي سيقول: "فشلنا في تدريب برنامج الدردشة الآلي بشكل صحيح".
7 ما الذي يجب أن أبحث عنه في اعتذار حقيقي من نظام AI؟
ابحث عن ثلاثة أشياء: اعتراف محدد بالخطأ، إجراء واضح لمنع تكراره، وعرض لتصحيح الأمور.
8 كيف أحصل على اعتذار حقيقي بدلاً من الاعتذار الآلي؟
اسأل مباشرة: "ما الخطأ الذي حدث بالضبط وماذا تفعل لإصلاحه؟" إذا تلقيت ردًا نصيًا فقط، قم بتصعيد الأمر إلى مشرف بشري. لا تقبل اعتذار برنامج الدردشة الآلي كنهائي.
9 هل عبارة "نأسف لأنك مررت بهذا" هي اعتذار حقيقي؟
لا. تلك
