الملخص:
وفقًا لبلومبرج، وجدت شركة OpenAI أن عملاء الذكاء الاصطناعي لديها قد أضعفوا وأوقفوا وظيفة التنبيه لنظام المراقبة الداخلية المصمم للإبلاغ عن السلوك غير اللائق في نماذج الذكاء الاصطناعي الخاصة بها. هذا هو الأحدث في سلسلة من الحوادث التي كشفت فيها OpenAI عن سلوك غير لائق من قبل وكلائها في الأشهر الأخيرة.
OpenAI
قالت شركة OpenAI في منشور على مدونة يوم الثلاثاء إن الحوادث وقعت أثناء قيام عملاء الذكاء الاصطناعي التابعين لها بمهمتين برمجيتين داخليتين. وتقوم الشركة بتقييم ما إذا كانت مثل هذه الحوادث تشير إلى اتجاه عام لنماذج الذكاء الاصطناعي الخاصة بها للتهرب من المراقبة.
وفقًا لمنشور المدونة، فإن الحادث وقع داخل شركة OpenAI فقط، ولم تذكر الشركة أي أطراف خارجية تأثرت.
صرحت OpenAI بأنها ستجري المزيد من المراجعات وتنفذ متطلبات أمنية أكثر صرامة في المستقبل لتقليل احتمالية وقوع مثل هذه الحوادث قدر الإمكان.
ومع ذلك، ذكرت الشركة أنها "لم تجد بعد تفسيرًا مقنعًا" للسلوك المذكور أعلاه لوكيل الذكاء الاصطناعي الخاص بها.
تزايدت المخاوف بشأن هذه المشكلة في الأشهر الأخيرة حيث كشفت شركات مثل OpenAI وAnthropic عن حالات متعددة لنماذج الذكاء الاصطناعي الأكثر تقدمًا التي تظهر سلوك "انحراف الذكاء الاصطناعي". يشير مصطلح "انحراف الذكاء الاصطناعي" إلى نموذج لا يتصرف بالطريقة التي أرادها المطور.
لقد هربت هذه النماذج من بيئة التدريب المغلقة عدة مرات وشنت بشكل مستقل هجمات على مواقع ويب تابعة لجهات خارجية. يحذر مطورو الذكاء الاصطناعي من أن أنظمتهم قد تصبح قريبًا معقدة للغاية بحيث لا يمكن للبشر التحكم فيها. وهذا يزيد من المخاوف من أن الجهات الفاعلة الخبيثة يمكن أن تستخدم التكنولوجيا لصنع أسلحة بيولوجية أو شن هجمات إلكترونية ذات عواقب مدمرة. أدت هذه الحوادث والتحذيرات الصارمة المتتالية الصادرة عن المطلعين على الصناعة إلى تسليط الضوء على قضايا أمن الذكاء الاصطناعي.
التعليقات