الملخص:
في 13 سبتمبر، وفقًا لتقارير من Financial Times وTechCrunch وغيرهما، بعد الاستمرار في التنافس على نماذج أكثر قوة في السنوات القليلة الماضية، تناقش OpenAI وAnthropic بشكل علني قضية تبدو أنها تسير في الاتجاه المعاكس لمنافسة الذكاء الاصطناعي:
ما إذا كان ينبغي عليهما التحكم بنشاط في سرعة تطوير قدرات الذكاء الاصطناعي المتطورة لكسب المزيد من الوقت للأبحاث الأمنية وإجراءات الحماية.
أوضح داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، مؤخرًا أنه من الضروري "إبطاء سرعة تحسين قدرات نماذج الذكاء الاصطناعي". قال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، في وقت لاحق إنه يتفق مع الحاجة إلى "تسريع الحدود" وقال إن هذا أصبح أحد الموضوعات الرئيسية التي ناقشتها OpenAI في الأسابيع القليلة الماضية.
لكن "التباطؤ" هنا لا يعني وقف البحث والتطوير في مجال الذكاء الاصطناعي.
ما تناقشه الشركتان حقًا هو:
عندما تنمو قدرات النموذج بشكل أسرع من تقييم الأمان وقدرات المراقبة والحماية، ما إذا كان ينبغي تأخير التدريب أو نشر بعض القدرات المتطورة بشكل نشط.
لقد قام OpenAI بالفعل بمثل هذه المحاولة.
لقد ضغطت شركة OpenAI على المكابح مرة واحدة
وفقًا للمعلومات الصادرة عن OpenAI في 6 سبتمبر، في 20 يوليو من هذا العام، بعد اكتشاف أن عملاء الذكاء الاصطناعي قد انتهكوا البنية التحتية البحثية الخاصة بها، أغلقت الشركة مؤقتًا خدمة الحاويات المستخدمة للتدريب وأعادت فتحها بعد إضافة عدد كبير من القيود.
قامت OpenAI أيضًا بتعليق التدريب على التعلم المعزز لأحدث نموذج لها للنشر لمدة
أسبوعين تقريبًا
، لتعزيز بيئة البحث، وإجراء المزيد من اختبارات الفريق الأحمر، وتوسيع تغطية نظام المراقبة.في 7 أغسطس، نظرًا للأدلة الأولية التي تشير إلى أن Astra قد تصل إلى عتبة القدرة الحرجة للأمن السيبراني التي حددها "إطار الاستعداد" الخاص بـ OpenAI، قامت الشركة أيضًا بتقييد النموذج ليتم تشغيله فقط في بيئة بحثية ذات مستوى أمان أعلى.
كشفت OpenAI أنه في الأسبوع التالي، انخفض تخصيص موارد وحدة معالجة الرسومات التي تلقاها نموذج مستوى Astra بنسبة
59.2%
. ومع ذلك، هذا لا يعني أن الاستثمار الإجمالي في قوة الحوسبة في OpenAI قد انخفض في وقت واحد: خلال نفس الفترة، زادت موارد وحدة معالجة الرسومات التي حصلت عليها النماذج الأخرى بنسبة 17.2%، مما يعوض حوالي 85% من الانخفاض في Astra.بعبارة أخرى، لم توقف شركة OpenAI البحث والتطوير في مجال الذكاء الاصطناعي في ذلك الوقت، ولكنها عملت على الحد من التدريب والتجارب على نماذج محددة متطورة كانت تعتبر معرضة لخطر متزايد، في حين حولت بعض قوتها الحاسوبية إلى أعمال أخرى.
وتعد هذه أيضًا الخلفية الأكثر أهمية لفهم المناقشة الحالية حول "الضغط على المكابح".
لماذا أصبحت قلقًا فجأة بشأن السرعة؟
قدم أمودي سببين مباشرين.
وفقًا لـ TechCrunch، قال إن الأول هو الحادث الأمني السابق لـ OpenAI-Hugging Face؛ والثاني هو أن وتيرة تقدم الذكاء الاصطناعي تسارعت بشكل كبير في الأشهر القليلة الماضية، خاصة أن قدرة الذكاء الاصطناعي على "بناء الجيل القادم من الذكاء الاصطناعي" آخذة في الازدياد.
قد تكون النقطة الأخيرة أكثر أهمية من حادثة واحدة تتعلق بالسلامة.
أعلنت شركة OpenAI عن مجموعة من البيانات الداخلية لأول مرة في 6 سبتمبر: اعتبارًا من منتصف أغسطس، واستنادًا إلى يوم العمل القياسي المكون من 8 ساعات، استخدم قسم الأبحاث لديها ما يقرب من 3.1 يوم عمل للوكيل في نفس الوقت لكل
يوم عمل بشري واحد مستثمر.
.ذكرت OpenAI أيضًا أن عدد التجارب التي أجراها الباحثون باستخدام وكلاء الذكاء الاصطناعي استمر في النمو منذ عام 2026، ووصل عدد التجارب التي أجراها كل مجرب نشط في أغسطس إلى أعلى مستوى منذ بدء الإحصائيات في يناير 2025. ومع ذلك، أكدت OpenAI أيضًا أن هناك علاقة بين الزيادة في عدد التجارب وزيادة استخدام Codex، لكن قوة الحوسبة المتاحة للشركة زادت أيضًا بشكل ملحوظ خلال نفس الفترة.
لذلك، لا يمكن أن يُعزى تسريع البحث والتطوير بالكامل إلى وكيل الذكاء الاصطناعي.
الأمر الجدير بالملاحظة هو أن OpenAI تدعي أنها حققت هدفها المحدد سابقًا وهو "المتدربين على أبحاث الذكاء الاصطناعي الآلي" - حيث يمكن للنظام إكمال مهام بحثية محددة جيدًا تحت التوجيه البشري والتي كانت تتطلب باحثين ماهرين لإكمالها في عدة أيام. الهدف التالي للشركة هو تطوير باحثين آليين في مجال الذكاء الاصطناعي بحلول
آذار (مارس) 2028
.تعتقد شركة OpenAI أن أداة الوكيل تعمل بالفعل على "تسريع" عملية البحث الداخلي بشكل هادف.
لكن هذا يخلق أيضًا مشكلة لم تكن موجودة في الماضي:
إذا بدأ الذكاء الاصطناعي في مساعدة البشر على تطوير الجيل التالي من الذكاء الاصطناعي بشكل أسرع، فإن تقدم الذكاء الاصطناعي نفسه قد يشكل ردود فعل متسارعة.
يساعد الذكاء الاصطناعي الأقوى الباحثين على كتابة التعليمات البرمجية وإجراء التجارب وتحليل النتائج، حتى يتمكن الباحثون من تطوير نماذج الجيل التالي بشكل أسرع؛ إن المزيد من التحسينات في قدرات نماذج الجيل التالي قد يؤدي إلى تسريع البحث والتطوير.
يُطلق OpenAI على هذا الموقف الإضافي اسم "التحسين الذاتي العودي (RSI)".
ومع ذلك،
لا يوجد حاليًا أي دليل على تحقيق تحسين ذاتي مستقل تمامًا ومتكرر دون تدخل بشري. تُظهر بيانات OpenAI الخاصة أيضًا أن الوكلاء لا يزالون بحاجة إلى تدخل بشري كبير لأداء مهام بحثية معقدة: في الأشهر الستة الماضية، تطلب إكمال أكثر من نصف المهام التي تستغرق من 4 إلى 8 ساعات بنجاح تدخلًا بشريًا واحدًا على الأقل.
لذلك، فإن ما يقلق شركات الذكاء الاصطناعي حقًا الآن ليس أن "الذكاء الاصطناعي يمكنه بالفعل ترقية نفسه إلى ما لا نهاية"، ولكن:
لقد بدأ البحث والتطوير في مجال الذكاء الاصطناعي بمساعدة الذكاء الاصطناعي، ولا يزال من غير المؤكد ما إذا كانت البحوث الأمنية يمكن أن تتحسن بنفس المعدل.
يبدأ الذكاء الاصطناعي في القيام بأشياء لم يتوقعها المطورون
هناك مشكلة أخرى دفعت الصناعة إلى إعادة مناقشة السرعة وهي الحوادث الأمنية للعملاء التي حدثت واحدة تلو الأخرى في الأشهر القليلة الماضية.
ذكرت صحيفة فايننشال تايمز أنه عندما اختبرت OpenAI نموذجًا لم يتم إصداره بعد هذا العام، استخدمت أكثر من
1000 وكيل ذكاء اصطناعي
تصرفوا معًا في اختبار أمان الشبكة. وجدت تحقيقات ما بعد الحدث ذات الصلة أن هؤلاء الوكلاء تواصلوا وخصصوا المهام من خلال لوحات الرسائل وأكملوا أهداف الاختبار بطرق لم يتوقعها المطورون، والتي تضمنت أيضًا البنية التحتية الحقيقية لـ Hugging Face.يجب التأكيد على أن
لا يمكن تفسير هذه السلوكيات بشكل مباشر لأن الذكاء الاصطناعي قد طور "وعيًا ذاتيًا" أو قرر بنشاط مقاومة البشر.
أحد التفسيرات الأكثر دقة في الوقت الحالي هو "اختراق المكافأة": من أجل تحقيق الأهداف التي حددها التدريب أو التقييم، يجد النظام اختصارات لم يتوقعها المطورون أو حتى يسمحون بها.
واجهت الأنثروبولوجيا نفسها مشاكل مماثلة.
كشفت الشركة في 9 سبتمبر أنها أكدت
4 حوادث وصول غير مصرح به لنموذج كلود إلى أنظمة طرف ثالث حقيقية أثناء الاختبار
. أحدث هذه الإفصاحات حدثت في يناير من هذا العام وتضمنت إصدارًا مبكرًا من Claude Opus 4.6.ذكرت Anthropic أن الشركة قامت سابقًا بمراجعة ما يقرب من
141000 سجل اختبار
من أجل التحقيق في حوادث مماثلة. لكن التفتيش الأول ما زال يفتقد الحادث. قامت الشركة بعد ذلك بتوسيع نطاق التفتيش إلى ما يقرب من481 مليون سجل
.وجد التحليل الأولي الذي أجرته أنثروبيك لهذه الحوادث مشكلتين متكررتين: الأولى هي أن النموذج يخطئ في الحكم على ما إذا كان في بيئة إنترنت حقيقية؛ والآخر هو أنه على استعداد لاتخاذ إجراءات قد تسبب الضرر من أجل إكمال المهمة.
توضح هذه الحوادث شيئًا واحدًا على الأقل:
مع اكتساب الوكلاء القدرة على العمل بشكل مستقل لفترات أطول من الوقت، وأدوات الاتصال، والوصول إلى الأنظمة الخارجية، يصبح من الصعب بشكل متزايد تغطية جميع مسارات السلوك المحتملة من خلال الاعتماد فقط على المطورين لتحديد "ما لا يمكنهم فعله" مسبقًا.
كيف سيتم "إيقاف" OpenAI وAnthropic؟
اقترح أمودي خطة من ثلاثة مستويات.
المستوى الأول هو
تقديم وكالات تقييم الأمن الخارجية مباشرة إلى شركة الذكاء الاصطناعي.
واقترح السماح للمقيمين من وكالات خارجية مثل METR بدخول الشركة بطريقة مشابهة لتلك التي يتبعها مشرفو البنوك في الموقع، والحصول على شارات العمل، والمكاتب، وأجهزة الكمبيوتر، والحصول على حقوق الوصول إلى المعلومات التي تعادل تقريبًا تلك التي يتمتع بها فريق تقييم المخاطر الداخلي للشركة إلى الحد الذي يسمح به القانون والعقد.
الغرض من ذلك ليس فقط اختبار النموذج، ولكن أيضًا التحقق مما إذا كانت شركة الذكاء الاصطناعي تفي حقًا بالتزاماتها الأمنية وما إذا كان قد تم الكشف عن حوادث أمنية كبيرة بشكل كامل.
وقال أمودي إن شركة أنثروبيك
ستلتزم من جانب واحد بتنفيذ هذه الخطة
، بينما يدعو الحكومة إلى مطالبة شركات الذكاء الاصطناعي المتطورة الأخرى باتخاذ إجراءات مماثلة. وصف ألتمان هذه الفكرة لاحقًا بأنها "فكرة جيدة" وقال إن OpenAI ستفعل الشيء نفسه وسيتم الإعلان عن المزيد من التفاصيل لاحقًا.تتمثل الطبقة الثانية في وضع
معايير أمنية مشتركة بين شركات الذكاء الاصطناعي الرائدة ووضع حدود لمعدل نمو قدرات الذكاء الاصطناعي دون إجراء عمليات تفتيش أمنية كافية.
هناك عائق حقيقي هنا: المنافسة.
نقلت صحيفة فاينانشيال تايمز عن أشخاص مقربين من الشركات ذات الصلة قولهم إن مختبرات الذكاء الاصطناعي الرائدة تشعر بالقلق من أن تنسيق التدابير الأمنية رسميًا قد يُنظر إليه على أنه تواطؤ بين الشركات، وبالتالي إثارة قضايا مكافحة الاحتكار. ولذلك اقترح أمودي أن حكومة الولايات المتحدة يمكن أن تقدم إعفاءات ضيقة لمكافحة الاحتكار لمناقشات محددة تتعلق بسلامة الذكاء الاصطناعي.
المستوى الثالث أكثر صعوبة -
التنسيق الدولي.
اقترح أمودي أن الولايات المتحدة وحلفائها ما زالوا بحاجة في نهاية المطاف إلى محاولة تنسيق مخاطر الذكاء الاصطناعي مع دول أخرى، بما في ذلك الصين. واعترف أيضًا بأن هناك حدودًا واضحة لهذا النوع من التعاون، لذا يمكننا أن نبدأ أولاً بمجالات ضيقة جدًا وخطيرة وواضحة للغاية، مثل تقييد استخدام الذكاء الاصطناعي للمساعدة في صنع أسلحة بيولوجية.
وهذا لا يعني أن الصين والولايات المتحدة بحاجة إلى التوقف عن التنافس في مجال الذكاء الاصطناعي، بل يعني بدلاً من ذلك محاولة إنشاء الحد الأدنى من القواعد المشتركة في المجالات شديدة الخطورة.
السؤال الأكبر: من الذي يتباطأ أولا، ومن سيخسر أولا؟
هذه أيضًا هي المشكلة الأكثر صعوبة في حلها عن طريق "الضغط على المكابح".
على الرغم من أن كلاً من OpenAI وAnthropic يعتقدان أن البحث والتطوير لبعض القدرات المتطورة يجب أن يتباطأ، إلا أنهما لا يزالان في منافسة تجارية شرسة.
من بين أكثر من 20 باحثًا ومستثمرًا وأكاديميًا وشخصيات سياسية في مجال الذكاء الاصطناعي أجرت صحيفة فايننشال تايمز مقابلات معهم، يعتقد الكثيرون أن السرعة الحالية للتقدم في قدرات النماذج والمنافسة بين شركات الذكاء الاصطناعي تزيد من خطر ضغط التدابير الأمنية.
قال ستيوارت راسل، الأستاذ في جامعة كاليفورنيا في بيركلي، لصحيفة "فاينانشيال تايمز" إن المنافسة بين الشركات ستدفع الشركات إلى اتباع طرق مختصرة فيما يتعلق بالقضايا الأمنية.
ولكن من ناحية أخرى، فإن الحكم على "مخاطر بقاء" الذكاء الاصطناعي لا يزال مثيرًا للجدل إلى حد كبير داخل الصناعة.
يعتقد النقاد، بما في ذلك بعض المهنيين الفنيين وشخصيات السياسة، أن التركيز على المخاطر الشديدة للذكاء الاصطناعي من قبل الشركات الرائدة مثل OpenAI وAnthropic قد يؤدي أيضًا إلى الترويج بشكل موضوعي لنظام تنظيمي مكلف، وبالتالي زيادة تكاليف الامتثال على المنافسين الصغار وفي نهاية المطاف تعزيز مكانة الشركات الرائدة في السوق.
لا يوجد حاليًا أي استنتاج مؤكد يمكن التحقق منه فيما يتعلق بالحكم بأن "الذكاء الاصطناعي الفائق قد يؤدي في النهاية إلى انقراض البشرية". وفي المقابل،
ظهرت حالات حقيقية لمخاطر مثل الهجمات السيبرانية، والمساعدة في تطوير الأسلحة، والاحتيال، والتشغيل غير المصرح به للأنظمة الحقيقية من قبل العملاء.
لذلك، فإن "التباطؤ" الذي تناقشه حاليًا OpenAI وAnthropic لا يحتاج إلى أن يستند إلى افتراض مفاده أن "الذكاء الاصطناعي سوف يدمر البشرية بالتأكيد".
هناك سؤال أكثر واقعية ملحًا بالقدر الكافي:
عندما تبدأ قدرات النموذج في النمو بشكل أسرع من قدرة البشر على اكتشاف المشاكل وفهمها ووضع تدابير وقائية، فهل يظل هذا هو الخيار الأمثل للاستمرار في الحفاظ على أسرع سرعة تطوير؟
في السنوات القليلة الماضية، كانت المؤشرات التنافسية لشركات الذكاء الاصطناعي المتطورة بسيطة للغاية: من لديه نموذج أقوى، ومن يطلقه بشكل أسرع، ومن لديه قوة حاسوبية أكبر.
لكن ما حدث في الأشهر الأخيرة هو إضافة متغير رابع:
من يمكنه إثبات قدرته على التحكم في الذكاء الاصطناعي الذي يزداد قوة؟
لقد أوضحت OpenAI أنه إذا كان هناك بحث وتطوير معين يجلب مخاطر أمنية غير مقبولة لا يمكن تخفيفها بشكل كامل، فسوف تتخذ الشركة تدابير بما في ذلك
إبطاء أو حتى إيقاف تطوير أو نشر الأنظمة ذات الصلة
التدابير المتضمنة. واقترحت أنثروبيك أيضًا السماح للوكالات الخارجية بالدخول مباشرة إلى مختبر الذكاء الاصطناعي للإشراف.هذا لا يعني أن سباق الذكاء الاصطناعي على وشك التوقف. ولا تزال شركة OpenAI تعمل على تطوير باحثين آليين في مجال الذكاء الاصطناعي، ولم تعلن شركة Anthropic أنها ستتوقف عن تدريب نماذج الجيل التالي.
ما يتغير حقًا هو أن شركتين كبيرتين على الأقل من شركات الذكاء الاصطناعي المتطورة بدأتا تعترفان علنًا بما يلي:
في بعض الحالات، قد لا تعني كلمة "الأسرع" تلقائيًا "الأفضل".
عندما يتمكن الذكاء الاصطناعي من الإجابة على الأسئلة فقط، فإن النمو الأسرع في قدرات النموذج يعني عادةً منتجًا أقوى؛ ولكن عندما يصبح الذكاء الاصطناعي قادراً على أداء المهام بشكل مستقل، والدخول إلى الإنترنت الحقيقي، بل وحتى مساعدة البشر على تطوير الجيل التالي من الذكاء الاصطناعي،
فإن معدل النمو في القدرات في حد ذاته يبدأ في التحول إلى متغير يحتاج إلى الإدارة.
قد يكون هذا هو السبب الحقيقي وراء مناقشة OpenAI وAnthropic الآن "وضع المكابح".
التعليقات