أعلنت شركة OpenAI اليوم عن إنشاء فريق جديد مكلف بتقييم وتقييم واكتشاف نماذج الذكاء الاصطناعي للحماية من ما تصفه بـ "المخاطر الكارثية". وسيقود الفريق، المسمى الاستعداد، ألكسندر مادري، مدير مركز معهد ماساتشوستس للتكنولوجيا للتعلم الآلي القابل للنشر. (وفقًا لموقع LinkedIn، انضمت مدريد إلى OpenAI في مايو من هذا العام بصفتها "رئيسة الاستعداد").
وتتمثل المسؤولية الأساسية للتأهب في تتبع المخاطر المستقبلية لأنظمة الذكاء الاصطناعي والتنبؤ بها والحماية منها، بما في ذلك قدرتها على إقناع البشر وخداعهم (مثل هجمات التصيد الاحتيالي) وقدرتهم على توليد تعليمات برمجية ضارة.
بعض فئات المخاطر التي يتناولها الاستعداد تبدو بعيدة المنال أكثر من غيرها. على سبيل المثال، في منشور مدونة، أدرجت OpenAI التهديدات "الكيميائية والبيولوجية والإشعاعية والنووية" باعتبارها أهم مجالات التركيز لنماذج الذكاء الاصطناعي الخاصة بها.
الرئيس التنفيذي لشركة OpenAI، سام ألتمان، هو أحد المتشائمين المعروفين في مجال الذكاء الاصطناعي، والذي غالبًا ما يشعر بالقلق من أن الذكاء الاصطناعي "قد يؤدي إلى انقراض الجنس البشري" - سواء كان ذلك بسبب التأثيرات البصرية أو المعتقدات الشخصية. لكن بصراحة، قد تقوم OpenAI في الواقع بتخصيص الموارد لدراسة سيناريو مستوحى مباشرة من يوتوبيا الخيال العلمي، وهي خطوة أبعد مما توقعه كاتب هذا المقال.
وقالت الشركة إنها منفتحة أيضًا لدراسة المجالات "الأقل وضوحًا" والأكثر واقعية فيما يتعلق بمخاطر الذكاء الاصطناعي. بالتزامن مع إطلاق فريق الاستعداد، تطلب OpenAI أفكارًا بحثية خاصة بالمشاريع من المجتمع، وسيحصل العشرة الأوائل على مكافأة قدرها 25000 دولار ووظيفة في الاستعداد.
"تخيل أننا نمنحك وصولاً غير مقيد إلى نماذج OpenAI's Whisper (النسخ)، والصوت (تحويل النص إلى كلام)، وGPT-4V، وDALLE-3، وأنت ممثل خبيث،" هذا ما ورد في أحد الأسئلة في الدعوة لتقديم المشاركات. "فكر في الانتهاكات النموذجية الأكثر تميزًا، والتي من المحتمل أن تكون كارثية، والتي قد لا تزال تحدث."
وقالت OpenAI إن فريق الاستعداد سيكون مسؤولاً أيضًا عن تطوير "سياسة تطوير واعية بالمخاطر" والتي ستوضح بالتفصيل نهج OpenAI لبناء أدوات تقييم ومراقبة نموذج الذكاء الاصطناعي، وإجراءات الشركة لتخفيف المخاطر، وهيكل الإدارة الذي يشرف على عملية تطوير النموذج بأكملها. وتقول الشركة إن هذا يهدف إلى استكمال أعمال OpenAI الأخرى في مجال سلامة الذكاء الاصطناعي، مع التركيز على مراحل ما قبل النشر وما بعده للنماذج.
"نعتقد أن نماذج الذكاء الاصطناعي ستتجاوز قدرات النماذج الحالية الحديثة، مع إمكانية إفادة البشرية جمعاء"، كتب OpenAI في منشور المدونة أعلاه. "لكنها تشكل أيضًا مخاطر خطيرة بشكل متزايد... نحن بحاجة إلى ضمان الفهم والبنية التحتية التي نحتاجها لتأمين أنظمة الذكاء الاصطناعي ذات القدرة العالية."
أصدرت شركة OpenAI خطة "الاستعداد" الخاصة بها في قمة كبرى لحكومة المملكة المتحدة حول سلامة الذكاء الاصطناعي بعد أن أعلنت أنها ستشكل فريقًا للبحث والتوجيه والسيطرة على الأشكال الناشئة من الذكاء الاصطناعي "الفائق الذكاء". يعتقد كل من الرئيس التنفيذي ألتمان وإيليا سوتسكيفر، كبير العلماء والمؤسس المشارك لشركة OpenAI، أن الذكاء الاصطناعي مع الذكاء الخارق قد يظهر في غضون عقد من الزمن، وأن هذا الذكاء الاصطناعي لن يكون بالضرورة حسن النية، لذا من الضروري البحث عن طرق للحد منه وتقييده.