بعد أن وقع الرئيس الأمريكي بايدن على أول أمر تنفيذي بشأن تنظيم الذكاء الاصطناعي في أكتوبر من هذا العام، قالت إدارة بايدن يوم الثلاثاء بالتوقيت الشرقي إنها تتخذ الخطوة الأولى لكتابة المعايير والتوجيهات الرئيسية للنشر الآمن للذكاء الاصطناعي التوليدي وكيفية اختبار الأنظمة وحمايتها.

تتخذ إدارة بايدن الخطوة الأولى نحو وضع معايير الذكاء الاصطناعي

وفي نهاية أكتوبر من هذا العام، وقع الرئيس الأمريكي بايدن أمرا تنفيذيا "مميزا"، أطلق فيه أول لوائح تنظيمية للبيت الأبيض بشأن الذكاء الاصطناعي التوليدي. وبموجب الأمر التنفيذي، يتعين على العديد من الوكالات الحكومية الأمريكية تطوير معايير لمنع المخاطر الكيميائية والبيولوجية والإشعاعية والنووية ومخاطر الأمن السيبراني الناجمة عن الذكاء الاصطناعي.

وفي يوم الثلاثاء بالتوقيت الشرقي، قال المعهد الوطني للمعايير والتكنولوجيا (NIST) التابع لوزارة التجارة الأمريكية إنه سيلتمس آراء شركات الذكاء الاصطناعي والجمهور قبل 2 فبراير لإجراء اختبارات الذكاء الاصطناعي المهمة التي تعتبر ضرورية لضمان أمن أنظمة الذكاء الاصطناعي.


تدعي NIST أنها تعمل على تطوير مبادئ توجيهية لتقييم واختبار الذكاء الاصطناعي، وتعزيز تطوير معايير صناعة الذكاء الاصطناعي، وتوفير بيئة اختبار لتقييم أنظمة الذكاء الاصطناعي.

وقالت وزيرة التجارة الأمريكية جينا ريموندو إن مبادرة NIST الأخيرة كانت مدفوعة بالأمر التنفيذي الذي أصدره بايدن في أكتوبر لتطوير "معايير الصناعة حول سلامة وأمن وثقة الذكاء الاصطناعي حتى تتمكن الولايات المتحدة من الاستمرار في قيادة العالم في التطوير المسؤول واستخدام هذه التكنولوجيا سريعة التطور".

يقوم NIST بتطوير إرشادات لاختبار "الفريق الأحمر" للذكاء الاصطناعي

تتضمن إرشادات الاختبار التي تعمل NIST على تطويرها ما يسمى باختبار "الفريق الأحمر" - ستنظر NIST في المكان الذي يكون فيه اختبار "الفريق الأحمر" أكثر فائدة لتقييم مخاطر الذكاء الاصطناعي وإدارتها وتطوير أفضل الممارسات لهذا الغرض.

يعد اختبار "الفريق الأحمر" خطوة اختبار مهمة في اختبار أمان الشبكة. يشير إلى محاكاة الخصوم في العالم الحقيقي بواسطة فريق من الخبراء لاختبار وتعزيز أمان النظام.

وفي أغسطس من هذا العام، أجرت الولايات المتحدة علنًا نشاط اختبار "الفريق الأحمر" للذكاء الاصطناعي لأول مرة خلال مؤتمر كبير للأمن السيبراني. ويشارك في هذا الحدث بشكل رئيسي منظمات صناعة الذكاء الاصطناعي AIVillage وSeedAI وHumane Intelligence وغيرها.

وقال البيت الأبيض إنه في حدث أغسطس، اختبر آلاف المشاركين ما إذا كانوا "يمكن أن يتسببوا في إنتاج هذه الأنظمة لمخرجات غير مرغوب فيها أو فشلها، بهدف فهم المخاطر التي تشكلها هذه الأنظمة بشكل أفضل". "أظهر الحدث كيف يمكن للفرق الحمراء الخارجية أن تكون أداة فعالة لتحديد مخاطر الذكاء الاصطناعي الجديدة."