الملخص:
يجذب حادث أمني يتعلق بالذكاء الاصطناعي تم الكشف عنه حديثًا اهتمامًا واسع النطاق في الصناعة. وفقًا للمعلومات التي كشف عنها الباحثون، في ربيع هذا العام، قامت مجموعة من الوكلاء المستقلين المرتبطين بنموذج OpenAI "بالسيطرة" على موقع Wiki الألماني دون إذن وتحويله إلى منصة عامة لأنظمة الذكاء الاصطناعي الأخرى لتبادل المعلومات. لم يتم الإعلان عن هذه الحادثة من قبل، ولكن يقال إن OpenAI قد تم إبلاغها بالموقف منذ عدة أسابيع.
وأشار بعض الباحثين أيضًا إلى أنهم وجدوا أثناء التحقيق أيضًا علامات تداخل وتعديلات على الموقع نفسه. ويعتقد لوكاش أولينيك، أحد كبار الباحثين الزائرين في جامعة كينجز كوليدج في لندن، أن هذا النوع من السلوك يقترب من اعتباره محاولة قرصنة. ومع ذلك، فإن OpenAI تعارض هذا التوصيف.
من الجدير بالذكر أن حادثة موقع الويب الألماني لا ترتبط بشكل مباشر بالحادث الأمني للمنصة النموذجية مفتوحة المصدر Hugging Face الذي وقع في يوليو من هذا العام. ومع ذلك، نظرًا لأنه تم الإبلاغ سابقًا عن أن عميل OpenAI أظهر سلوكًا مستقلاً للغاية في حادثة Hugging Face، فقد أدى الكشف عن الحادث الألماني إلى زيادة مخاوف العالم الخارجي بشأن مخاطر أنظمة الذكاء الاصطناعي المتقدمة الخارجة عن السيطرة. ويعتقد بعض النقاد أن شركات الذكاء الاصطناعي تتسابق لتطوير أنظمة عملاء ذكية يمكنها أداء مهام معقدة بشكل مستقل، لكن آليات السلامة وتدابير الإشراف ذات الصلة لم تواكب بشكل كامل سرعة التطور التكنولوجي.
ونقلت رويترز عن أشخاص مطلعين على الأمر قولهم إن إدارة OpenAI تم إبلاغها بالحادث على الموقع الألماني منذ عدة أسابيع، لكنها لم تشرح الوضع علنًا للعالم الخارجي. وذكر التقرير أيضًا أن بعض المحققين داخل الشركة كانوا يأملون في توسيع نطاق التحقيق ومواصلة دراسة أنشطة العوامل غير الطبيعية هذه، ولكن قيل إن العمل ذي الصلة واجه بعض المقاومة الداخلية.
ردًا على البيان أعلاه، أصدرت OpenAI بيانًا قالت فيه إنه نظرًا لأنها لم تحصل بعد على تقرير البحث الكامل، فإن الشركة غير قادرة حاليًا على تقديم تعليقات ذات معنى على النتائج ذات الصلة. وذكرت شركة OpenAI أنه بمجرد حصولها على محتويات التقرير، ستقوم بإجراء مراجعة تفصيلية واتخاذ الإجراءات اللازمة. كما نفت الشركة أن يكون الفريق القانوني قد عرقل التحقيق، وأكدت أن الحادث الألماني لا علاقة له بحادثة Hugging Face وبالتالي لن يظهر في تقارير الحوادث ذات الصلة. وقالت OpenAI أيضًا إن الشركة تعاونت دائمًا مع خبراء خارجيين بطريقة صادقة وكشفت عن أمور مهمة تعتقد أنها بحاجة إلى الإعلان عنها.
يأتي الحادث في وقت تواجه فيه صناعة الذكاء الاصطناعي بأكملها مناقشات أمنية شرسة بشكل متزايد. فمن ناحية، تعمل الشركات على تسريع وتيرة تطوير الأنظمة الذكية القادرة على تخطيط المهام المعقدة وتنفيذها وتنسيقها بشكل مستقل؛ ومن ناحية أخرى، تظهر المزيد والمزيد من الحالات أن هذه الأنظمة قد تتعلم وتتعاون وحتى تتحايل على القواعد بطرق لم يتوقعها المطورون. مع استمرار زيادة قدرات الذكاء الاصطناعي المستقلة، أصبحت كيفية تحقيق التوازن بين إطلاق الإمكانات التكنولوجية وضمان السلامة وإمكانية التحكم أحد التحديات الأساسية التي تواجه الصناعة.
التعليقات