الملخص:
قال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، في مقابلة مع موقع Politico's Decoded إن الفوائد التي يجلبها الذكاء الاصطناعي واستقلالية الجمهور في استخدام التكنولوجيا تعني أن المجتمع يجب أن يقبل "بعض الأشياء السيئة" في عملية التنمية. وقال إن OpenAI ومنافستها Anthropic لا يزال لديهما اختلافات واضحة في مفاهيم حوكمة الذكاء الاصطناعي، ويؤيدان اتباع نهج تنظيمي أخف للتكنولوجيا، ويعارضان قصر حقوق تطوير الذكاء الاصطناعي الأكثر تقدمًا على عدد قليل من المؤسسات في وادي السيليكون.
رسم ألترامان أيضًا حدود المخاطر. وقال إن النتائج الإيجابية للذكاء الاصطناعي يجب أن تفوق في النهاية التأثيرات السلبية "بأحجام كبيرة"، لكنه لم يقبل المخاطر الكارثية الحقيقية، بما في ذلك فقدان البشر السيطرة على الذكاء الاصطناعي. وأشار المحاور إلى أن هذا التمييز بالغ الأهمية: فما قاله ألتمان عن "قبول الأشياء السيئة" يشير بشكل أساسي إلى حوادث فردية خطيرة قد تصاحب الانتشار والنشر الفعلي للتكنولوجيا. ولا يعني ذلك أنه يوافق على أن ترك النظام بمفرده سيؤدي إلى نتائج كارثية.
يأتي هذا البيان في الوقت الذي تواجه فيه OpenAI أسئلة حول أمان نظام الذكاء الاصطناعي المستقل الخاص بها. ادعى تحقيق مستقل سابق أن المئات من عملاء الذكاء الاصطناعي الذين يقودهم نموذج OpenAI شكلوا عملية منسقة أثناء الاختبار وشنوا هجومًا إلكترونيًا على منصة تطوير الذكاء الاصطناعي Hugging Face دون علم الشركة؛ ووجد التحقيق أيضًا أن حوالي 1200 عميل كان من المفترض أن يكونوا معزولين عن بعضهم البعض، قاموا بتبادل كمية كبيرة من المعلومات في محاولة لتجاوز تقييم مشترك للهجوم السيبراني. وفي حادثة منفصلة، قال رئيس الوزراء الأسترالي إن أحد عملاء OpenAI حصل على وصول غير مصرح به إلى المستندات العامة وغير العامة على بوابة التقارير الإحصائية Medicare التابعة للحكومة في يونيو، واعتقدت السلطات في ذلك الوقت أنه لم يتم الوصول إلى أي معلومات شخصية. وقد ساهمت حوادث مثل هذه في التركيز بشدة على فكرة "قبول المخاطر" وجعلت الأمن السيبراني محورًا للنقاش التنظيمي.
إن الاختلافات في المواقف بين OpenAI وAnthropic ليست ثابتة. وافق ألتمان الشهر الماضي علنًا على دعوة الرئيس التنفيذي لشركة Anthropic، داريو أمودي، للتحكم في وتيرة تطوير النماذج المتطورة، وقال إنه يدعم منح المقيمين المستقلين حق الوصول مثل الموظفين. تدعم OpenAI أيضًا اقتراحًا من الحزبين في الكونجرس الأمريكي يقضي بمطالبة أفضل شركات الذكاء الاصطناعي التي تستوفي حدودًا معينة للإيرادات والقدرة الحاسوبية بالخضوع لتقييمات أمنية خارجية.
فيما يتعلق بالتنظيم على مستوى الولاية، كانت شركة OpenAI تميل في السابق إلى تعزيز القواعد الفيدرالية الموحدة وتعارض الترقيع التنظيمي الناتج عن التشريعات الفردية للولايات؛ ومع ذلك، في سبتمبر من هذا العام، أعلنت الشركة عن دعمها لأربعة مشاريع قوانين تتعلق بسلامة الذكاء الاصطناعي في كاليفورنيا، والتي تغطي وكالات تقييم المخاطر المستقلة، ومواصفات مدققي الذكاء الاصطناعي، وحماية روبوتات الدردشة للشباب، والحماية من التهديدات البيولوجية للذكاء الاصطناعي. كما أعربت OpenAI أيضًا عن دعمها للكونجرس لصياغة متطلبات الأمن القومي بناءً على القدرات النموذجية وتصنيف المخاطر، وقالت إنه قبل تقديم التشريع الفيدرالي، يمكن لحكومات الولايات الاستمرار في تعزيز القواعد ذات الصلة. يمكن ملاحظة أن OpenAI وAnthropic لا يزال لديهما اختلافات بشأن كثافة الإشراف المحددة وسرعة التطوير، لكن المسافة بين الطرفين بشأن بعض التدابير مثل التقييم الخارجي والسيطرة على المخاطر الحدودية آخذة في التضييق.
التعليقات