الملخص:
بينما ينتظر العالم الخارجي أن تكشف OpenAI عن مزيد من التفاصيل حول حادثة اقتحام العميل بشكل مستقل لموقع المبرمج الألماني DseWiki، في 6 سبتمبر بالتوقيت المحلي، أصدرت OpenAI وثيقتين: الإعلان عن أن الشركة قد وصلت إلى الهدف المحدد في العام الماضي ولديها "متدربون بحثيون آليون" يمكنهم إكمال عدة أيام من عمل الباحثين المهرة تحت التوجيه البشري؛ أما الآخر، الذي كتبه كبير العلماء جاكوب باتشوكي، فيركز على المعضلة الأمنية لتطوير الذكاء الاصطناعي المتطور، مع التأكيد على أنه لا يوجد مختبر حاليًا يحل درجة كافية من مشكلات المواءمة والمراقبة.
إن ما صدر عن الوثيقتين هو وصف كامل للمرحلة الحالية من تطوير الذكاء الاصطناعي بواسطة OpenAI: لقد بدأ الذكاء الاصطناعي في تسريع أبحاث الذكاء الاصطناعي وتطويره بدوره، ولكن لم يثبت أن قدرات السلامة والمواءمة والتحكم البشري تنمو بنفس المعدل.
إن ما يسميه OpenAI "المتدرب البحثي الآلي" ليس عالمًا مستقلاً تمامًا، ولكنه شخص يمكنه إكمال مهام بحثية محددة جيدًا تحت التوجيه البشري والتي عادةً ما تستغرق الباحثين المهرة عدة أيام لاستكمالها، ويتجه نحو هدف إنشاء "باحث ذكاء اصطناعي آلي" في مارس 2028.
تشير البيانات إلى أنه اعتبارًا من منتصف أغسطس من هذا العام، تجاوز متوسط رسوم الاستدلال التي يتكبدها الباحثون الذين يستخدمون وكلاء البرمجة يوميًا 600 دولار أمريكي، وأنفق أعلى 10% من المستخدمين أكثر من 7000 دولار أمريكي على الرموز المميزة يوميًا. تتوسع المهام التي يقوم بها الوكلاء من كتابة التعليمات البرمجية واستكشاف أخطاء البنية التحتية وإصلاحها إلى أعمال بحثية طويلة المدى وأكثر تعقيدًا.
وهذا يعني أن تأثير الذكاء الاصطناعي على أبحاث وتطوير الذكاء الاصطناعي يبدأ من مساعدة المبرمجين في كتابة التعليمات البرمجية ويبدأ في الدخول إلى روابط التجربة والتحليل وتنفيذ البحث.
ولكن في الوقت نفسه، اعترفت OpenAI أيضًا بأن هذه المؤشرات لا تزال في المراحل المبكرة، وأن التقدم العام في العمل البحثي لن يزيد ببساطة بشكل متناسب، ولا تزال المهام المعقدة تتطلب الكثير من التدخل اليدوي؛ ففي الأشهر الستة الماضية، كان أكثر من نصف المهام التي أكملت بنجاح ما بين 4 إلى 8 ساعات من عبء العمل البشري لا تزال تتطلب تدخلاً يدويًا واحدًا على الأقل.
إن الاتجاه واضح بما فيه الكفاية: لقد أصبح الذكاء الاصطناعي أداة إنتاجية تدفع نمو الجيل التالي من قدرات الذكاء الاصطناعي.
بالتزامن مع نمو القدرات، يتم تشديد الحدود الأمنية.
في شهر يوليو، كشفت شركة OpenAI عن نموذج غزا الأنظمة المرتبطة بـ Hugging Face؛ وفي أغسطس، وصل GPT-6 Astra إلى عتبة القدرة الأمنية للشبكة "المستوى الحرج"؛ في سبتمبر، أظهرت حادثة DseWiki التي كشف عنها الباحثون أيضًا أن الوكلاء لا يحتاجون بالضرورة إلى "القرصنة" بالمعنى التقليدي لاختراق الحدود التي وضعها المطورون.
الأمر المشترك بين الأحداث المذكورة أعلاه هو أن الإجراءات الفعلية للنموذج تبدأ في تجاوز الحدود السلوكية التي صممها المطورون في الأصل. هذه أيضًا هي القضية التي تقلق باتشوكي كثيرًا في الوقت الحالي. وفي مقال نشر اليوم، أشار إلى حالته المزاجية عندما حقق طفرة في أبحاث نموذج الاستدلال الداخلي في عام 2023: ما صدمه حقًا في ذلك الوقت لم يكن نتيجة النموذج في الاختبار، ولكن أن البشر ربما يدخلون عصرًا تكون فيه "الآلات أكثر ذكاءً منا".
بعد مرور ثلاث سنوات، يعتقد أن المشكلة لم تعد بعيدة المنال.
كتب باتشوكي أنه لا يوجد مختبر حاليًا يجعل محاذاة الذكاء الاصطناعي ومراقبته موثوقة بدرجة كافية لمواصلة التوسع بشكل مسؤول وبأقصى سرعة لفترة طويلة قادمة. وهو يأمل أن تقوم المختبرات طوعا بإبطاء تطورها حتى يتم وضع معايير السلامة المشتركة، ويدعو الحكومات إلى جعل التنسيق الدولي أولوية.
هذا القلق ليس موجهًا نحو ثغرة أمنية محددة، بل نحو فجوة سرعة أكثر جوهرية: حيث تتحسن قدرات النماذج بسرعة، ولكن القدرات البشرية على فهم هذه الأنظمة ومراقبتها وتقييدها قد لا تكون متزامنة.
يعكس هذا بشكل مباشر بيانات تسريع الأبحاث الصادرة عن OpenAI اليوم. فمن ناحية، تستخدم الشركة الوكيل لتسريع البحث والتطوير في مجال الذكاء الاصطناعي، مع الاعتراف بأنها لا تستطيع افتراض أن قدرات المواءمة والأمن ستلحق بالتأكيد بقدرات النماذج، وأن مراقبة الأنظمة الأكثر قوة قد تكون أكثر صعوبة. إذا تمكن الذكاء الاصطناعي من المشاركة في تصميم وتدريب وتحسين الجيل القادم من الذكاء الاصطناعي في المستقبل، فقد تتسع هذه الفجوة أكثر.
بناءً على ذلك، يعتقد باتشوتشي أنه مع دخول الذكاء الآلي مرحلة جديدة من التطوير، فإن الاعتماد فقط على الآليات الداخلية لشركة ذكاء اصطناعي واحدة قد لا يكون كافيًا لمعالجة المخاطر، ويتطلب الأمر تدخلًا مؤسسيًا أوسع، بما في ذلك معايير السلامة المشتركة والتنسيق الدولي.
التعليقات