الملخص:
الجمهورية. رو خانا، وهو ديمقراطي من ولاية كاليفورنيا، على وشك تقديم مشروع قانون تنظيمي شامل للذكاء الاصطناعي إلى الكونجرس، على أمل إنشاء الإطار التنظيمي الفيدرالي الأكثر صرامة حتى الآن لتكنولوجيا الذكاء الاصطناعي المتطورة. ولا يدعو الاقتراح إلى تنفيذ نظام المسؤولية الصارمة فحسب، بل يخطط أيضًا لحظر استخدام أنظمة الذكاء الاصطناعي ذات قدرات "التحسين الذاتي العودية" حتى تنشئ الحكومة الفيدرالية نظامًا كاملاً للسلامة والأمن.
يسمى مشروع القانون هذا "قانون التحكم البشري في الذكاء الاصطناعي". وتأتي خلفية تقديم مشروع القانون في وقت تتزايد فيه المخاوف في دوائر التكنولوجيا والسياسة الأمريكية بشأن المخاطر المحتملة للذكاء الاصطناعي المتقدم. في السنوات الأخيرة، حذر العديد من المديرين التنفيذيين لشركات الذكاء الاصطناعي علنًا من أن بعض أنظمة الذكاء الاصطناعي قد تتجاوز قدرات التحكم البشرية في المستقبل، لكن الكونجرس لم يقم بعد بصياغة خطة تنظيمية شاملة.
قال رو كانا في إحدى المقابلات إن الذكاء الاصطناعي لا ينطوي على خطر إساءة استخدامه فحسب، بل قد يؤدي أيضًا إلى خطر فقدان السيطرة. ويرى أن الإنسان يجب أن يأخذ هذين النوعين من القضايا على محمل الجد لأن تطور التقنيات ذات الصلة قد لامس قضايا أمنية على المستوى الحضاري.
وفقًا لمحتوى مشروع القانون، سيتم حظر ما يسمى بالذكاء الاصطناعي "التحسين الذاتي العودي". يتم تعريف هذا النوع من النظام على أنه نموذج ذكاء اصطناعي يمكنه تحسين قدراته بشكل مستقل أو تعديل أهدافه الأساسية وآليات التحكم وقواعد الإغلاق.
كما هو مطلوب في الاقتراح، لن يُسمح بأي أنشطة ذات صلة حتى يتم وضع قواعد السلامة الفيدرالية. وحتى لو تم فتحه في المستقبل، فسوف يحتاج إلى موافقة الهيئات التنظيمية المتخصصة.
يخطط مشروع القانون أيضًا لإنشاء وكالة تنظيمية اتحادية جديدة للذكاء الاصطناعي للإشراف على الشركات التي تطور نماذج متطورة مثل OpenAI، وAnthropic، وGoogle DeepMind، وxAI.
ستتولى الوكالة مسؤوليات متعددة، بما في ذلك صياغة لوائح سلامة الذكاء الاصطناعي، وإنشاء نظام ترخيص للتدريب على النماذج ونشرها، وإجراء عمليات تدقيق متطورة للنماذج، وتطوير معايير للاختبار المستمر والتحكم البشري الفعال.
وفي الوقت نفسه، ستكون الوكالة الجديدة مسؤولة أيضًا عن صياغة سلسلة من متطلبات الأمان الفنية، بما في ذلك بيئات الاختبار المعزولة، وإجراءات عزل الشبكة، وأنظمة الإغلاق في حالات الطوارئ، وآليات التحكم لمنع النماذج من مغادرة البيئة التجريبية والدخول في عملية الإنترنت المفتوحة.
بموجب الخطة، يجب أن تخضع جميع المختبرات التي تعمل على تطوير النماذج المتطورة لعمليات تدقيق مستقلة. سيبقى المدققون في المؤسسات ذات الصلة لفترة طويلة ويقدمون تقاريرهم مباشرة إلى السلطات التنظيمية بدلاً من تمرير المعلومات من خلال إدارة الشركات.
بالإضافة إلى النموذج التنظيمي نفسه، يخطط مشروع القانون أيضًا لإدخال بعض شرائح الذكاء الاصطناعي المتقدمة وموارد الطاقة الحاسوبية في نطاق الإشراف لزيادة تعزيز الإشراف على أنشطة تطوير الذكاء الاصطناعي عالية المخاطر.
يتخذ مشروع القانون موقفًا صارمًا بالتأكيد بشأن نظام المسؤولية.
يتطلب الاقتراح من شركات الذكاء الاصطناعي شراء تأمين مسؤولية واسع النطاق قبل إطلاق نماذج متقدمة لضمان القدرة على التعويض عن الأضرار المستقبلية.
وفي الوقت نفسه، يقدم مشروع القانون أيضًا آلية المسؤولية الجنائية. أي موظف يقوم عن قصد بإيقاف الحماية الأمنية، أو تعطيل التوقف في حالات الطوارئ، أو التلاعب بسجلات السجل، أو خرق أنظمة العزل، أو نشر النماذج عن عمد دون تصريح، قد يواجه عقوبات جنائية.
والأمر الأكثر إثارة للقلق هو أن مشروع القانون يهدف أيضًا إلى وضع أحكام المسؤولية الجنائية المتعلقة بـ "الأفعال التي تعرض الإنسانية للخطر". إذا تسببت بعض أنظمة الذكاء الاصطناعي في أضرار مدنية واسعة النطاق، فإن سلوكيات النشر ذات الصلة قد تؤدي إلى عواقب قانونية أكثر خطورة.
قال رو كانا إن مشروع القانون هذا هو أحد المقترحات التنظيمية الأكثر شمولاً لسلامة الذكاء الاصطناعي حاليًا. وأكد أن محتوى مشروع القانون يأتي بشكل أساسي من التبادلات طويلة الأمد مع مجموعات أبحاث سلامة الذكاء الاصطناعي، بدلاً من صياغته بناءً على آراء شركات التكنولوجيا الكبرى.
في الوقت نفسه، دعا خانا أيضًا الحكومة الأمريكية إلى تعزيز التعاون الأمني في مجال الذكاء الاصطناعي على المستوى الدولي، بما في ذلك التوصل إلى اتفاقية أمنية قابلة للتنفيذ مع الصين وإنشاء آليات للتحقق والمراجعة والسيطرة للحد من مخاطر انتشار أنظمة الذكاء الاصطناعي الخطيرة في المستقبل.
يعتقد المحللون أن هذا الاقتراح يمثل صوتًا متزايدًا داخل الكونجرس الأمريكي بأن الذكاء الاصطناعي المتطور لا ينبغي أن يعتمد فقط على الانضباط الذاتي للشركات، بل يحتاج إلى إنشاء آلية إشراف حكومية مماثلة للنظام التنظيمي للأدوية.
ومع ذلك، لا يزال هناك قدر كبير من عدم اليقين بشأن ما إذا كان من الممكن إقرار مشروع القانون بسلاسة في المستقبل. ويعتقد المؤيدون أن التنظيم يمكن أن يقلل من خطر فقدان السيطرة، في حين يشعر المعارضون بالقلق من أن القيود الصارمة للغاية قد تضعف قدرة الولايات المتحدة على الابتكار في منافسة الذكاء الاصطناعي العالمية.
ومع ذلك، مع استمرار تحسن قدرات الذكاء الاصطناعي، دخل الجدل الدائر حول "ما إذا كان على البشر أن يضعوا حدودًا قبل أن تخرج التكنولوجيا عن السيطرة" رسميًا إلى المستوى التشريعي في الولايات المتحدة.
التعليقات