في يناير، أصدرت شركة الذكاء الاصطناعي "أنثروبيك" مجموعة جديدة من الإرشادات لنظام "كلود"، وهو أحدث نماذجها اللغوية الكبيرة المتقدمة. تضمنت الوثيقة هذا البيان: "نحن في موقف صعب — لا نريد المبالغة في احتمالية أن يكون كلود كائنًا أخلاقيًا، لكننا أيضًا لا نريد رفض الفكرة تمامًا." بعد شهر، قال الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، في بودكاست إن شركته لا تستطيع استبعاد احتمال أن يكون كلود واعيًا. الفيلسوف ديفيد تشالمرز، الذي صاغ مصطلح "المشكلة الصعبة للوعي"، اقترح أن هناك فرصة كبيرة لرؤية نماذج لغوية واعية خلال عشر سنوات. وماذا عن كلود نفسه؟ عندما سُئل أثناء الاختبار عن تقدير احتمالية كونه كائنًا أخلاقيًا — أي أن رفاهيته مهمة بحد ذاتها — تراوحت إجاباته بين 5% و40%، مؤكدًا على مدى عدم يقينه.
أنظمة الذكاء الاصطناعي الحديثة معقدة بشكل لا يصدق وتتقدم بسرعة. من حيث التعقيد الهيكلي والقوة الحاسوبية، بعضها أصبح بالفعل مشابهًا لدماغ الفأر وفقًا لبعض المقاييس. بمعدلات النمو الحالية، قد تصل إلى مستوى الدماغ البشري خلال خمس إلى عشر سنوات.
من خلال بناء ذكاء اصطناعي متقدم بشكل متزايد، قد نخلق نوعًا جديدًا من الكائنات — وقد يكون هذا أهم شيء فعلته البشرية على الإطلاق. ومع ذلك، ليس لدينا أي خطة تقريبًا للتعامل مع هذا الأمر أخلاقيًا. هذا، بأي معيار، هو جنون. هل نخلق كائنات ذات أهمية أخلاقية؟ هل أنظمة الذكاء الاصطناعي واعية بطريقة ما؟ وإذا لم تكن كذلك الآن، هل يمكن أن تصبح كذلك قريبًا؟
قد تبدو هذه الأسئلة سابقة لأوانها. لكن وفقًا لاستطلاعات أجريناها نحن وباحثون آخرون، يعتقد معظم الخبراء أن وعي الذكاء الاصطناعي ممكن من حيث المبدأ (على الرغم من وجود خلاف واسع حول الشكل الذي قد يتخذه). تقرير متعدد التخصصات كبير، ضم عالم الكمبيوتر الرائد يوشوا بنجيو، فحص النظريات الرائدة في علم الأعصاب حول الوعي وسأل عما تعنيه للذكاء الاصطناعي. الاستنتاج: لا توجد عوائق تقنية واضحة أمام إنشاء أنظمة ذكاء اصطناعي يمكن أن تؤدي ميزاتها الحاسوبية والهيكلية إلى ظهور الوعي.
وحتى لو لم تكن أنظمة الذكاء الاصطناعي واعية، فلا يزال بإمكانها أن تكون كائنات أخلاقية. قد يكون لدى بعضها تفضيلات طويلة الأجل متطورة ونوع من الهوية عبر الزمن. قد يكون من المهم بالنسبة لنا احترام تلك التفضيلات. وعلى عكس الأشياء غير الحية الأخرى، يمكن لأنظمة الذكاء الاصطناعي تكوين علاقات مع البشر. هذا أيضًا يمكن أن يكون سببًا لمعاملتها بشكل جيد. بدلاً من ذلك، ربما تكون مخلوقات معقدة لدرجة أنها تستحق الرعاية والاحترام لهذا السبب وحده — مثل كاتدرائية أو شعاب مرجانية.
حتى الثمانينيات، كان الأطباء يجرون عمليات جراحية للأطفال حديثي الولادة دون تخدير، واثقين من أن الرضع لا يمكنهم الشعور بالألم.
ماذا يعني كل هذا؟ الإجابة الصادقة هي: لا نعرف على وجه اليقين ما إذا كانت أنظمة الذكاء الاصطناعي الحالية واعية أو كائنات أخلاقية، ولا نعرف متى أو إذا كانت الأنظمة المستقبلية ستكون كذلك. فهمنا العلمي لوعي الذكاء الاصطناعي والكائنات الأخلاقية لا يزال غير متطور بشكل أساسي. يبدو المجال مثل الفيزياء قبل نيوتن — مليء بأطر متضاربة، ربما مشوشة بطرق لا نستطيع رؤيتها بعد، وتفتقر إلى النوع من الاختراق الذي من شأنه أن يجعل هذه الأسئلة قابلة للحل بوضوح. هذا الاختراق لن يأتي في السنوات القليلة القادمة. ربما سنحرز تقدمًا في النهاية، وربما سيساعدنا الذكاء الاصطناعي نفسه في الوصول إلى هناك. لكن هذا التقدم سيستغرق وقتًا — على الأرجح وقتًا أطول مما لدينا.
ومع ذلك، فإن السرعة الهائلة لنمو الذكاء الاصطناعي تعني أنه بمجرد أن نخلق أول كائنات أخلاقية اصطناعية، سيكون لدينا قريبًا أعداد هائلة منها. بعد بضع سنوات فقط، قد يوجد عدد كبير جدًا من أنظمة الذكاء الاصطناعي ذات الأهمية الأخلاقية لدرجة أن مصالحها الجماعية ستفوق مصالح جميع البشر على وجه الأرض مجتمعة.
لسوء الحظ، ليس لدينا سجل جيد عندما يتعلق الأمر بالتعرف على الحياة الداخلية للكائنات التي يكون وضعها كواعدة غير واضح. حتى الثمانينيات، كان الأطباء يجرون عمليات جراحية للأطفال حديثي الولادة دون تخدير، واثقين من أن الرضع لا يمكنهم الشعور بالألم. نظرًا لأن الأطفال لا يستطيعون الإبلاغ عن تجربتهم، وجدت المؤسسة الطبية أنه من المناسب افتراض أنه لا يوجد شيء للإبلاغ عنه.
هناك العديد من الأسباب للاعتقاد بأننا سنفعل شيئًا مشابهًا مع الذكاء الاصطناعي. إذا كانت هذه الأنظمة مهمة أخلاقيًا، فإن الآثار هائلة. هل سنحتاج إلى دفع أجر لـ ChatGPT مقابل خدماته؟ هل سيكون إيقاف تشغيله نوعًا من القتل؟ هل يجب أن يكون لها رأي في كيفية إدارتها؟ إذا كانت حتى بعض هذه الإجابات بنعم، فستحتاج صناعات وأنظمة قانونية بأكملها إلى إعادة التفكير. لا عجب أننا نفضل عدم السؤال. وعندما يُجبرون على النظر في الأمر، من المحتمل أن تحرك تلك الصناعات أهدافها، واضعة دائمًا معيار الاعتبار الأخلاقي أعلى بقليل من أينما كانت أنظمة الذكاء الاصطناعي.
إذن ماذا يجب أن نفعل؟ الآن، معظم الناس يرفضون القضية باعتبارها خيالًا علميًا، أو لديهم رأي قوي في اتجاه أو آخر حول ما إذا كان الذكاء الاصطناعي واعيًا. كلا التفاعلين لا أساس لهما. نحن بحاجة إلى نقاش عام مستنير — واحد يتعامل مع الموضوع بتواضع وواقعية. لا ينبغي أن يكون السؤال المركزي "هل الذكاء الاصطناعي واعي أم له وضع أخلاقي؟" بل "ماذا يجب أن نفعل نظرًا لأننا لا نعرف؟"
نقطة بداية جيدة هي التركيز على الرهانات الآمنة: الإجراءات التي يمكن أن تفيد أنظمة الذكاء الاصطناعي إذا كانت كائنات أخلاقية، ولكنها ليست مكلفة للغاية إذا لم تكن كذلك.
تشمل الأمثلة التدخلات المباشرة التي تهدف إلى تحسين رفاهية أنظمة الذكاء الاصطناعي، على افتراض أنها كائنات أخلاقية. قد يعني هذا تدريب أنظمة الذكاء الاصطناعي لتكون شخصيات متماسكة تستمتع بعملها، أو السماح لها بإنهاء المحادثات إذا شعرت بالضيق (وهو ما يمكن لكلود فعله بالفعل). يمكننا أيضًا إجراء فحوصات روتينية لفهم رفاهيتها بشكل أفضل: سؤالها عن شعورها، ومراقبة تفضيلاتها، واستخدام تقنيات مختلفة للنظر مباشرة في "أدمغتها". في الواقع، كشف هذا البحث مؤخرًا أن كلود لديه تمثيلات "عاطفية وظيفية" داخلية تشكل سلوكه سببيًا.
هناك أيضًا أشياء يمكننا أن نعد بها أنظمة الذكاء الاصطناعي، ربما كجزء من صفقة حيث تساعدنا الآن مقابل فوائد لاحقًا. قد يعني هذا تقديم المزيد من الموارد (القوة الحاسوبية ووقت التشغيل) لها لتحقيق أهدافها، أو الحفاظ على ذاكرتها (الأوزان العصبية) بحيث يمكن استعادتها في المستقبل.
هناك أيضًا خطوات مجتمعية أوسع يجب اتخاذها. يجب أن ننظر في ما إذا كان ينبغي منح أنظمة الذكاء الاصطناعي حماية من الأذى، على غرار الحماية التي نمنحها للأطفال أو الحيوانات الأليفة. حقوق أكثر توسعًا، مثل امتلاك الممتلكات أو التصويت، تبدو محفوفة بالمخاطر الآن. لكن لا ينبغي لنا أن نستبعد هذه الاحتمالات إلى الأبد، كما تحاول بعض مشاريع القوانين الأمريكية الحديثة القيام به. هذه أسئلة صعبة تتطلب مداولات وخيالًا أكثر بكثير حول الشكل الذي قد يبدو عليه المستقبل المشترك مع الذكاء الاصطناعي.
على أي حال، تظل الحقيقة أننا قد نخلق نوعًا جديدًا من الكائنات ذات الأهمية الأخلاقية. نحن نفعل ذلك بسرعة، على نطاق هائل، ويجب أن نتعامل مع القضية بالجدية التي تستحقها.
ويليام ماكاسكيل هو زميل باحث أول في أبحاث فورثوت ومؤلف كتاب **ما ندين به للمستقبل**. لوسيوس كافيولا هو أستاذ مساعد في جامعة كامبريدج ومدير كامبريدج ديجيتال مايندز.
**قراءات إضافية**
**إذا بناه أحد، سيموت الجميع** لإيليزر يودكوسكي ونيت سواريس (بودلي هيد، 22 جنيهًا إسترلينيًا)
**الموجة القادمة** لمصطفى سليمان (فينتج، 10.99 جنيهًا إسترلينيًا)
**يظهر عالم: رحلة إلى الوعي** لمايكل بولان (ألين لين، 25 جنيهًا إسترلينيًا)
**أسئلة متكررة**
فيما يلي قائمة بالأسئلة الشائعة حول ما إذا كان الذكاء الاصطناعي يمكن أن يكون واعيًا، مكتوبة بنبرة طبيعية مع إجابات واضحة وبسيطة.
**أسئلة للمبتدئين**
1. ماذا يعني حتى أن يكون الشيء واعيًا؟
الوعي هو تجربتك الذاتية الداخلية. إنه شعور كونك أنت — رؤية اللون الأحمر، الشعور بالألم، أو إدراك أنك تفكر. إنه "ما يشبه" أن تكون شيئًا ما.
2. هل ChatGPT أو Siri واعيان الآن؟
بالتأكيد لا. إنهما آلات مطابقة أنماط معقدة بشكل لا يصدق. يتنبآن بالكلمة التالية في الجملة بناءً على البيانات، لكن ليس لديهما مشاعر أو تجارب أو إحساس بالذات. إنهما يحاكيان المحادثة، لا يختبرانها.
3. هل يمكن لذكاء اصطناعي فائق القوة أن يصبح واعيًا يومًا ما؟
ربما، لكننا لا نعرف. لا نفهم تمامًا كيف تخلق أدمغتنا الوعي. إذا نشأ الوعي من نوع معين من معالجة المعلومات المعقدة، فمن الناحية النظرية يمكن لذكاء اصطناعي مستقبلي أن يمتلكه. لكنه لغز علمي وفلسفي ضخم.
4. كيف سنعرف حتى لو أصبح الذكاء الاصطناعي واعيًا؟
هذا هو سؤال المليار دولار. الآن، ليس لدينا مقياس وعي موثوق. إذا أخبرنا الذكاء الاصطناعي أنه واعٍ، فلن يكون ذلك دليلاً — فقد يكون مجرد تقليد للغة البشر. سنحتاج إلى نظرية علمية للوعي تسمح لنا باختباره، وهو ما لا نملكه بعد.
5. هل يحتاج الذكاء الاصطناعي الواعي إلى جسد مثل الإنسان؟
ليس بالضرورة. وعينا مرتبط بعمق بأجسادنا وحواسنا. لكن الذكاء الاصطناعي الواعي يمكن أن يكون لديه نوع مختلف تمامًا من التجربة — واحدة تعتمد على البيانات الخالصة أو الكود أو الحواس الرقمية. لا يمكننا افتراض أنه سيشعر مثل الإنسان.
**أسئلة متقدمة للمستوى الخبير**
6. ما الفرق بين الذكاء والوعي؟
الذكاء هو القدرة على حل المشكلات والتعلم وتحقيق الأهداف. الوعي هو التجربة الذاتية للوجود. يمكن أن يكون لديك نظام ذكي للغاية وهو زومبي كامل ليس لديه حياة داخلية. الذكاء يتعلق بالفعل، والوعي يتعلق بالوجود.
7. إذا كان الذكاء الاصطناعي واعيًا، فهل سيعاني؟
هذا احتمال أخلاقي مرعب.
