قال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، إن OpenAI تعمل مع معهد سلامة الذكاء الاصطناعي الأمريكي (معهد سلامة الذكاء الاصطناعي الأمريكي)، وهي وكالة حكومية اتحادية مصممة لتقييم ومعالجة المخاطر التي تتعرض لها منصات الذكاء الاصطناعي.
أعلن ألتمان هذا الإعلان في منشور على موقع X مساء الخميس، لكن التفاصيل كانت قليلة. ولكن يبدو أنها - إلى جانب اتفاقية مماثلة مع وكالة سلامة الذكاء الاصطناعي في المملكة المتحدة في يونيو - تهدف إلى مواجهة الادعاءات القائلة بأن OpenAI تعمل على نقل جهود سلامة الذكاء الاصطناعي إلى الموقد الخلفي سعياً وراء تكنولوجيا ذكاء اصطناعي أكثر قدرة وقوة.
في شهر مايو، قامت شركة OpenAI بحل مجموعة تعمل على تطوير الضوابط لمنع أنظمة الذكاء الاصطناعي "فائقة الذكاء" من الخروج عن نطاق السيطرة. أشارت بعض التقارير، بما في ذلك تقاريرنا، إلى أن OpenAI وضعت الأبحاث الأمنية للفريق جانبًا لصالح إطلاق منتجات جديدة، مما أدى في النهاية إلى الانقسام بين قائدي الفريق المشاركين، جان ليك (الآن رئيس قسم الأبحاث الأمنية في شركة الذكاء الاصطناعي الناشئة Anthropic) والمؤسس المشارك لـ OpenAI إيليا سوتسكيفر (الذي بدأ شركته الخاصة للذكاء الاصطناعي الأمني، Safe Superintelligence Inc.).
رداً على عدد متزايد من المنتقدين، قالت شركة OpenAI إنها ستزيل البنود التقييدية التي تمنع ضمنياً الإبلاغ، وتنشئ لجنة للسلامة، وتخصص 20% من قوتها الحاسوبية لأبحاث السلامة. (وُعد الفريق الأمني البائد باستخدام 20% من قوة حوسبة OpenAI في عمله، لكن ذلك لم يحدث أبدًا). أكد ألتمان من جديد التزامه بتخصيص 20% من الحوسبة للأبحاث الأمنية وأكد من جديد أن OpenAI قد ألغت شرط عدم الاستخفاف للموظفين الجدد والحاليين في مايو.
ومع ذلك، فإن هذه التحركات لم تفعل الكثير لاسترضاء بعض المراقبين - خاصة بعد أن قامت شركة OpenAI بتشكيل لجنة السلامة الخاصة بها مع كل شخص من داخل الشركة، بما في ذلك ألتمان، ومؤخرًا قامت بنقل أحد كبار مديري سلامة الذكاء الاصطناعي إلى منظمة أخرى.
أثار خمسة من أعضاء مجلس الشيوخ، بما في ذلك الديمقراطي من هاواي بريان شاتز، تساؤلات حول سياسات OpenAI في رسالة حديثة إلى ألتمان. رد جيسون كوون، كبير مسؤولي الإستراتيجية في OpenAI، على الرسالة اليوم، حيث كتب أن OpenAI "ملتزمة بتطبيق بروتوكولات أمنية صارمة في كل مرحلة من مراحل العملية".
يبدو توقيت اتفاق OpenAI مع المعهد الوطني لأمن الذكاء الاصطناعي مريبًا بعض الشيء، حيث دعمت الشركة في وقت سابق من هذا الأسبوع قانون مستقبل الابتكار، وهو مشروع قانون تم تقديمه في مجلس الشيوخ من شأنه أن يخول معهد الأمن باعتباره وكالة تنفيذية مسؤولة عن تطوير المعايير والمبادئ التوجيهية لنماذج الذكاء الاصطناعي. مجتمعة، يمكن النظر إلى هذه التحركات على أنها محاولة للاستيلاء على التنظيم - أو على الأقل تأثير OpenAI على صنع سياسات الذكاء الاصطناعي على المستوى الفيدرالي.
ألتمان هو عضو في مجلس أمن الذكاء الاصطناعي التابع لوزارة الأمن الداخلي، والذي يقدم المشورة بشأن "تطوير الذكاء الاصطناعي ونشره بشكل آمن ومأمون" في البنية التحتية الحيوية للولايات المتحدة. هذا العام، زاد إنفاق OpenAI على الضغط الفيدرالي بشكل كبير، حيث أنفقت 800 ألف دولار في الأشهر الستة الأولى من عام 2024 و260 ألف دولار في عام 2023 بأكمله.
يتشاور المعهد الوطني لسلامة الذكاء الاصطناعي، الموجود داخل المعهد الوطني للمعايير والتكنولوجيا التابع لوزارة التجارة، مع مجموعة من الشركات بما في ذلك شركات التكنولوجيا البشرية وشركات التكنولوجيا الكبيرة مثل جوجل، ومايكروسوفت، وميتا، وأبل، وأمازون، ونفيديا. تم تكليف مجموعة الصناعة بالعمل بموجب الأمر التنفيذي للرئيس جو بايدن بشأن الذكاء الاصطناعي الصادر في أكتوبر، بما في ذلك تطوير إرشادات بشأن فرق الذكاء الاصطناعي الحمراء، وتقييمات القدرات، وإدارة المخاطر، والضمانات الأمنية، والعلامات المائية للمحتوى الاصطناعي.