وقع البيت الأبيض وعمالقة التكنولوجيا وأعلنوا عن اتفاقية صناعة الذكاء الاصطناعي التي تتطلب إنشاء آلية مراقبة أمنية من أربع طبقات.

الملخص:

في 29 سبتمبر/أيلول، أعلن ترامب عن اتفاقية صناعة الذكاء الاصطناعي التي روج لها البيت الأبيض. وسبق أن وقع ترامب ومديرون تنفيذيون في عدد من شركات التكنولوجيا الكبرى على هذه الوثيقة، ووصفها ترامب بأنها التزام صناعي "ملزم أخلاقيا".

تم نشر هذه الاتفاقية المكونة من صفحة واحدة علنًا من قبل ترامب من خلال منصته الاجتماعية Truth Social. وتدعو الوثيقة الشركات المشاركة إلى إنشاء آلية للرقابة والتدقيق الأمني ​​من أربع طبقات لتعزيز الإشراف وإدارة المخاطر لأنظمة الذكاء الاصطناعي المتقدمة.

وفقًا لمتطلبات الاتفاقية، يجب على الشركات أولاً إنشاء نظام رقابة داخلية كامل للمراقبة المستمرة لقدرات ومواءمة نماذج الذكاء الاصطناعي أثناء التدريب والنشر، مع التركيز على مجالات مثل الأمن السيبراني والأمن البيولوجي والمخاطر الكيميائية لضمان عدم غزو النماذج للأنظمة أو الوصول إلى المرافق التقنية بطرق غير متوقعة.

تتطلب الاتفاقية أيضًا من الشركات إنشاء فريق داخلي مخصص للإشراف على تشغيل آليات المراقبة والرصد والكشف ذات الصلة، والتأكد من أن التدابير الأمنية المختلفة يمكن أن تعمل وفقًا لأهداف التصميم، وتحديد المشكلات المحتملة وحلها في الوقت المناسب.

فيما يتعلق بالإشراف الخارجي، توصي الوثيقة بأن تتعاون الشركات مع مؤسسات التدقيق المستقلة أو وكالات التقييم لإجراء تقييمات مستقلة لأنظمة مراقبة ومراقبة الذكاء الاصطناعي للشركة للتحقق مما إذا كانت هذه الآليات الأمنية تحقق بالفعل النتائج المتوقعة.

بالإضافة إلى ذلك، تقترح الاتفاقية أيضًا إنشاء لجنة مستقلة على مستوى مجلس إدارة الشركة. اللجنة مسؤولة عن تلقي التقارير من الفرق الداخلية ومؤسسات المراجعة الخارجية، والإشراف على حوكمة أمن الذكاء الاصطناعي للمؤسسة، وتعزيز تنفيذ تدابير التحسين بناءً على المشكلات المكتشفة.

ومن بين الشركات المشاركة في توقيع الاتفاقية مشاركين مهمين في صناعة الذكاء الاصطناعي في الولايات المتحدة مثل Google وAnthropic وMeta وOpenAI وX Platform وNVIDIA. ووقع ترامب بنفسه على الوثيقة بصفته رئيسا.

يشير الاتفاق إلى أنه مع تطور الصناعة، قد يكون من الضروري إضفاء الطابع الرسمي على هذه الممارسات إلى متطلبات قانونية أو تنظيمية في المستقبل. ومع ذلك، بغض النظر عما إذا كانت الحكومة ستقدم في نهاية المطاف متطلبات إلزامية، فإن الشركات المشاركة تعتقد أن تنفيذ آليات الرقابة والتدقيق هذه أمر بالغ الأهمية لضمان التطوير الآمن للذكاء الاصطناعي، وبالتالي تعد بتعزيز التدابير ذات الصلة بشكل استباقي.

تقترح الوثيقة أيضًا أن تعقد الشركات المشاركة اجتماعات منتظمة لصياغة معايير الصناعة وأفضل الممارسات بشكل مشترك لمواصلة تحسين أمن أنظمة الذكاء الاصطناعي.

في وقت سابق من اليوم، أجرى ترامب محادثات مع عدد من قادة صناعة التكنولوجيا في البيت الأبيض. وكان من بين الحضور المؤسس المشارك لـ OpenAI جريج بروكمان، والرئيس التنفيذي لشركة Anthropic داريو أمودي، والرئيس التنفيذي لشركة Meta مارك زوكربيرج، والرئيس التنفيذي لشركة Google ساندر بيتشاي، والرئيس التنفيذي لشركة Nvidia جنسن هوانغ، من بين آخرين.

بعد اللقاء، قال ترامب إن هذه الاتفاقية "تشبه الدستور بمعنى ما"، ووصفها بأنها آلية حماية مهمة لصناعة الذكاء الاصطناعي. وأكد أن الصناعة تتمتع بقدرات قوية للتنظيم الذاتي، ويعتقد أن مبادرة الشركات لوضع لوائح السلامة لها أهمية كبيرة للتنمية المستدامة للتكنولوجيا.

تتمثل خلفية هذه الاتفاقية في أنه مع التحسن السريع في قدرات الذكاء الاصطناعي، تحظى المخاطر الأمنية ذات الصلة بمزيد من الاهتمام. في السابق، كشفت شركات بما في ذلك OpenAI وAnthropic أن بعض أنظمة عملاء الذكاء الاصطناعي تصرفت بشكل يفوق التوقعات، مما أثار مناقشات حول سلامة النماذج وإمكانية التحكم فيها. وفي الوقت نفسه، فإن قضايا استهلاك الطاقة والتأثير المجتمعي الناجم عن بناء مراكز بيانات واسعة النطاق تسبب أيضًا جدلاً في العديد من مناطق الولايات المتحدة.

على الرغم من أن إدارة ترامب عارضت في السابق إدخال لوائح خاصة صارمة للغاية فيما يتعلق بالذكاء الاصطناعي، فإن هذا الضغط على الصناعة للتوقيع على اتفاقية أمان طوعية يُنظر إليه على أنه إجراء جديد من قبل حكومة الولايات المتحدة سعيًا إلى تحقيق التوازن بين تشجيع الابتكار التكنولوجي والاستجابة للمخاوف المتعلقة بالسلامة.