وفقًا للأخبار الصادرة في 15 ديسمبر، في وقت مبكر من تأسيس OpenAI، وعدت ببناء ذكاء اصطناعي من شأنه أن يفيد البشرية جمعاء، حتى لو كانت هذه الذكاءات الاصطناعية أكثر ذكاءً من مبدعيها. منذ ظهور ChatGPT لأول مرة، أصبحت طموحات OpenAI التجارية أكثر بروزًا تدريجيًا. ومؤخرًا، أعلنت الشركة عن إنشاء فريق بحثي جديد مخصص لدراسة الذكاء الاصطناعي الفائق المستقبلي، وقد بدأ بالفعل في تحقيق بعض النتائج.
وأشار ليوبولد أشنبرينر، الباحث في شركة OpenAI: "الذكاء الاصطناعي العام (AGI) يقترب بسرعة، وسنرى نماذج فائقة الذكاء تتمتع بقدرات كبيرة ولكنها قد تكون أيضًا خطيرة جدًا، ولم نجد بعد طريقة للسيطرة عليها". وقد شارك في فريق بحث "Superalignment" (Superalignment) الذي تم إنشاؤه في يوليو من هذا العام. وقالت OpenAI إنها ستخصص خمس قوتها الحاسوبية المتاحة لمشروع "Super Alignment" لاستكشاف كيفية ضمان سلامة الذكاء الاصطناعي الفائق وإمكانية التحكم فيه.
نشرت OpenAI مؤخرًا ورقة بحثية تصف نتائج التجربة. تم تصميم التجربة لاختبار طريقة لنموذج ذكاء اصطناعي فقير لتوجيه نموذج ذكاء اصطناعي أكثر ذكاءً دون فقدان الذكاء. وعلى الرغم من أن التكنولوجيا المستخدمة لا تتجاوز بعد البراعة البشرية، إلا أن التجربة مصممة لوقت مستقبلي عندما يتعين على البشر العمل مع أنظمة ذكاء اصطناعي أكثر ذكاءً منهم.
في التجارب، اختبر باحثو OpenAI عملية تسمى الإشراف، والتي تُستخدم لضبط أنظمة مثل GPT-4 لجعلها أكثر فائدة وأقل ضررًا. GPT هو نموذج اللغة الكبير وراء ChatGPT. حاليًا، يتضمن ذلك تغذية البشر لنظام الذكاء الاصطناعي لتحديد الإجابات الجيدة وأيها السيئة. ومع تقدم الذكاء الاصطناعي، يستكشف الباحثون كيفية أتمتة هذه العملية لتوفير الوقت. بالإضافة إلى ذلك، هذا لأنهم يعتقدون أنه عندما يصبح الذكاء الاصطناعي أكثر قوة، قد لا يتمكن البشر من تقديم تعليقات مفيدة.
في تجارب مضبوطة، استخدم الباحثون مولد النص GPT-2 الخاص بـ OpenAI، والذي تم إصداره لأول مرة في عام 2019، لتعليم GPT-4 واختبروا حلين بديلين. يتمثل أحد الأساليب في تدريب نماذج أكبر بشكل تدريجي لتقليل فقدان الأداء في كل خطوة؛ والآخر هو تعديل خوارزمي لـ GPT-4 يسمح للنماذج الأقوى باتباع إرشادات النماذج الأضعف دون الإضرار بأدائها. أثبت النهج الثاني أنه أكثر فعالية، وبينما يعترف الباحثون بأن هذه الأساليب لا تضمن أن النموذج الأقوى سيعمل بشكل مثالي، إلا أنها يمكن أن تكون بمثابة نقطة انطلاق لمزيد من البحث.
وقال دان هندريكس، مدير مركز سلامة الذكاء الاصطناعي، وهو منظمة غير ربحية مقرها سان فرانسيسكو مكرسة لإدارة مخاطر الذكاء الاصطناعي: "من الرائع أن نرى OpenAI تعالج بشكل استباقي مشكلة التحكم في الذكاء الفائق، وهو التحدي الذي سيستغرق سنوات من العمل الشاق".
قال أشنبرينر وعضوان آخران في فريق Super Alignment، كولين بيرنز وبافيل إسماعيلوف، في مقابلات أجريت معهم إنهم شجعوا بالخطوة الأولى المهمة في ترويض الذكاء الاصطناعي الفائق المحتمل. وقد قدم إسماعيلوف تشبيهًا قائلاً: "إن الأمر مثل طالب في الصف السادس، على الرغم من أنهم يعرفون الرياضيات أقل من تخصص الرياضيات الجامعي، إلا أنهم لا يزالون قادرين على إيصال ما يريدون تحقيقه إلى طلاب الجامعات، وهذا ما نسعى إليه".
ويشارك في قيادة فريق Super Alignment إيليا سوتسكيفر، كبير العلماء والمؤسس المشارك في OpenAI. كان Sultzkefer أحد أعضاء مجلس الإدارة الأصليين الذين صوتوا الشهر الماضي لإقالة الرئيس التنفيذي سام التمان. ومع ذلك، فقد تراجع عن قراره لاحقًا وهدد بالاستقالة إذا لم تتم إعادة ألتمان إلى منصبه. سوتسكيفر هو أحد مؤلفي الورقة البحثية الأخيرة، لكن شركة OpenAI رفضت جعله يناقش المشروع.
في الشهر الماضي، توصل ألتمان إلى اتفاق مع OpenAI، وقد استقال معظم أعضاء مجلس الإدارة، كما أن مستقبل Sultzkefer في OpenAI مليء أيضًا بعدم اليقين. ومع ذلك، قال أشنبرينر: "نحن ممتنون جدًا لسوتزكيفر، الذي كان القوة الدافعة وراء هذا المشروع".
وفي مجال الذكاء الاصطناعي، فإن الباحثين في OpenAI ليسوا المجموعة الأولى التي تحاول استخدام التكنولوجيا الحالية لاختبار ما يمكن أن يساعد في ترويض أنظمة الذكاء الاصطناعي المستقبلية. ومع ذلك، كما هو الحال مع الدراسات السابقة في مختبرات الشركات والمختبرات الأكاديمية، لا يمكننا التأكد من أن الأفكار التي تنجح في تجارب مصممة جيدًا ستكون عملية في المستقبل. سيكون لدى الباحثين نموذج ذكاء اصطناعي أضعف لتدريب نموذج ذكاء اصطناعي أقوى، وهي قدرة يسمونها "عنصرًا رئيسيًا في حل مشكلة "الاصطفاف الفائق" الأوسع".
تثير تجربة محاذاة الذكاء الاصطناعي أيضًا سؤالًا رئيسيًا: ما مدى جدارة نظام التحكم بالثقة؟ في قلب تقنية OpenAI الجديدة تكمن فكرة أن نظام الذكاء الاصطناعي الأكثر قوة يمكنه أن يقرر بنفسه التوجيهات التي يمكن أن يتجاهلها من نظام أضعف، وهو خيار قد يجعله يتجاهل المعلومات المهمة التي قد تمنعه من التصرف بطريقة غير آمنة في المستقبل. ولكي يكون هذا النظام فعالا، لا بد من إحراز تقدم في توفير الاتساق. وشدد بيرنز على أن "الأمر يحتاج في النهاية إلى مستوى عالٍ من الثقة".
وقال ستيوارت راسل، الأستاذ بجامعة كاليفورنيا في بيركلي والذي يدرس سلامة الذكاء الاصطناعي، إن فكرة استخدام نماذج الذكاء الاصطناعي الأقل قوة للتحكم في النماذج الأكثر قوة كانت موجودة منذ بعض الوقت. لكنه يشير أيضًا إلى أنه من غير الواضح حتى الآن ما إذا كانت الأساليب المستخدمة لتعليم سلوك الذكاء الاصطناعي مجدية أم لا، لأنها لا تمكن حتى الآن النماذج الحالية من العمل بشكل موثوق.
بينما تتخذ شركة OpenAI خطواتها الأولى نحو التحكم في الذكاء الاصطناعي الأكثر تقدمًا، فإن الشركة حريصة على الحصول على مساعدة خارجية. أعلنت شركة OpenAI أنها ستقدم منحًا بقيمة 10 ملايين دولار للباحثين الخارجيين بالشراكة مع الرئيس التنفيذي السابق لشركة Google إريك شميدت لتشجيع التقدم في مجالات مثل التنظيم الضعيف إلى القوي، وقابلية تفسير النماذج المتقدمة، وتعزيز النماذج بمطالبات مصممة لكسر القيود. وقال الباحثون المشاركون في كتابة الورقة الجديدة إن OpenAI ستعقد أيضًا مؤتمرًا حول "الاصطفاف الفائق" العام المقبل.
بصفته المؤسس المشارك لشركة OpenAI والقائد المشارك لفريق Hyper-Alignment، فهو يقود العديد من أهم الجهود التقنية للشركة. وفي الوقت نفسه، فهو أحد كبار الخبراء الذين يشعرون بالقلق المتزايد بشأن كيفية التحكم في الذكاء الاصطناعي عندما يصبح أكثر قوة. منذ بداية هذا العام، اكتسبت مسألة كيفية التحكم في تكنولوجيا الذكاء الاصطناعي المستقبلية اهتمامًا جديدًا، ويرجع ذلك إلى حد كبير إلى تأثير ChatGPT. درس سولزكفر للحصول على درجة الدكتوراه تحت إشراف رائد الشبكات العصبية العميقة جيفري هينتون. وتركت الأخيرة شركة جوجل في شهر مايو من هذا العام وسط تحذيرات من أن الذكاء الاصطناعي يبدو أنه يقترب من المستويات البشرية في بعض المهام. (قليل)