الملخص:
تقوم شركة أنثروبيك، وهي شركة أمريكية للذكاء الاصطناعي، بالترويج لمشروع قانون تنظيم السلامة لأنظمة الذكاء الاصطناعي المتقدمة، على أمل وضع قواعد قانونية واضحة لتطوير واختبار ونشر نماذج الذكاء الاصطناعي المتطورة. وفقًا لتقرير صادر عن موقع الأخبار السياسية الأمريكي بوليتيكو في 16 أكتوبر 2026، قدمت أنثروبيك بشكل خاص مشروع القانون هذا إلى بعض المشرعين في الكابيتول هيل. وتحاول الخطة وضع حد بين منع الضرر الجسيم الذي قد يسببه الذكاء الاصطناعي المتقدم وتجنب التدخل الحكومي المفرط في البحث والتطوير التكنولوجي.
وفقًا لتقرير بوليتيكو الذي نقلته رويترز، ينص مشروع القانون على أنه فقط عندما يُنظر إلى نموذج الذكاء الاصطناعي المتطور على أنه يشكل مخاطر كبيرة متوقعة ووشيكة، يمكن للحكومة الأمريكية منع إطلاق النموذج أو استخدامه من خلال الإجراءات القضائية. ويجب أن تستوفي المخاطر ذات الصلة حدودًا معينة، بما في ذلك احتمال التسبب في خسائر تتجاوز مليار دولار أو تؤدي إلى وفاة أو إصابة خطيرة لأكثر من 50 شخصًا.
وهذا يعني أن مشروع القانون لا يمنح الحكومة سلطة التدخل بشكل تعسفي في جميع أنظمة الذكاء الاصطناعي المتقدمة، ولكنه يحاول قصر تعليق إصدار النموذج أو استخدامه على عدد قليل من المواقف الخطيرة. وتركز المسودة على ثلاثة أنواع من المخاطر: استخدام الذكاء الاصطناعي لإنشاء أو إطلاق أسلحة بيولوجية، وخروج أنظمة الذكاء الاصطناعي عن سيطرة المطورين، واستخدام الذكاء الاصطناعي لتنفيذ هجمات إلكترونية.
تجدر الإشارة إلى أن هذا لا يزال مشروع قانون تم تقديمه إلى المشرعين من قبل Anthropic، وليس قانونًا أمريكيًا تم إقراره بالفعل. ولا يزال يتعين مناقشة محتواه النهائي وسلطة المنظمين وما إذا كان الكونجرس سيمضي قدمًا في التشريع.
تقترح المسودة أيضًا إنشاء آلية تقييم مستقلة. وفقًا للتقارير، يحتاج مطورو الذكاء الاصطناعي المتطور ونماذجهم إلى الخضوع لتقييمات مستقلة منتظمة للتحقق من قدرات النموذج والتدابير الأمنية والمخاطر المحتملة. يجب على المقيمين التسجيل لدى وزارة التجارة الأمريكية وإجراء أعمال المراجعة الأمنية المستمرة.
وفقًا للخطة المقترحة، يمكن لشركات الذكاء الاصطناعي دفع رسوم لوكالات التقييم المستقلة، ولكن يجب ألا تكون المكافأة مرتبطة بنتائج التقييم. ويهدف هذا الحكم إلى تقليل احتمال قيام المقيمين بالتقليل من المخاطر من أجل تلبية احتياجات شركات التمويل، مع السماح للشركات باستخدام الوكالات المهنية الخارجية لإجراء المراجعات الفنية.
إذا قرر المُقيّم أن نموذج الذكاء الاصطناعي المتطور يشكل خطرًا كبيرًا وشيكًا كما هو محدد في القانون، فيجب عليه إبلاغ وزارة التجارة الأمريكية في غضون 72 ساعة بعد إكمال التقييم. وتهدف هذه المتطلبات الزمنية إلى منع المخاطر الجسيمة من البقاء داخل المؤسسة لفترة طويلة دون الدخول في العملية التنظيمية الحكومية في الوقت المناسب.
فيما يتعلق بسلطة التدخل الحكومي، تعتمد المسودة قيودًا صارمة نسبيًا. وبعد تحديد وصول الخطر إلى المعايير القانونية، يمكن لوزارة التجارة الأمريكية التقدم بطلب إلى المحكمة لإصدار أمر بتعليق إصدار النموذج أو استخدامه، ولكن لا يُسمح للإدارات الفيدرالية الأخرى والوكالات الحكومية والمسؤولين بوقف تطوير نماذج الذكاء الاصطناعي أو نشرها أو استخدامها الداخلي من تلقاء نفسها.
سيتم اتخاذ القرار النهائي بشأن تعليق النموذج من قبل قاضٍ في المحكمة الجزئية الأمريكية لمقاطعة كولومبيا. بمعنى آخر، وفقًا لهذه المسودة، لا يمكن للسلطات التنظيمية أن تحظر بشكل مباشر نموذجًا يعتمد على الحكم الإداري وحده، ولكن يجب عليها أن تسعى إلى التدخل من خلال الإجراءات القضائية.
يحاول هذا التصميم المؤسسي حل مشكلتين مترابطتين. فمن ناحية، تحتاج الحكومة إلى أن تكون قادرة على التعامل مع أنظمة الذكاء الاصطناعي التي قد تتسبب في خسائر بشرية جماعية أو خسائر اقتصادية؛ ومن ناحية أخرى، إذا تمكنت الحكومة من إيقاف هذا النموذج في أي وقت لأسباب عامة أو غامضة تتعلق بالسلامة، فقد يكون من الصعب على الشركات التنبؤ بالمخاطر التنظيمية التي يواجهها البحث والتطوير وإطلاق المنتجات.
إن كتابة حدود التدخل والحدود الزمنية للإبلاغ وإجراءات الموافقة القضائية في القانون يمكن أن تجعل السلطة التنظيمية أكثر وضوحًا. ومع ذلك، ما إذا كانت هذه الآلية كافية للتعامل مع مخاطر الذكاء الاصطناعي سريعة التغير بعد التشغيل الفعلي، وما إذا كانت عتبة الخسائر والإصابات الكبيرة صارمة للغاية، ستظل قضايا مهمة في المناقشات التشريعية.
وقال المتحدث باسم شركة Anthropic لرويترز إن مشروع القانون هذا يعكس بعض مقترحات السياسة في "إطار عمل الذكاء الاصطناعي المتقدم" الذي اقترحته الشركة سابقًا. وتأمل الشركة في تمرير تشريع يمنح الحكومات القدرة على منع نشر أخطر أنظمة الذكاء الاصطناعي المتقدمة، في حين يطلب من المطورين إجراء اختبارات أمنية، وزيادة الشفافية، وقبول التقييمات المستقلة.
تعمل شركة Anthropic على الترويج لإنشاء آلية أكثر منهجية للإشراف على السلامة لأنظمة الذكاء الاصطناعي المتقدمة هذا العام. وتعتقد الشركة أنه مع زيادة قدرات النموذج، لم يعد يكفي للمطورين أن يحكموا على ما إذا كان المنتج آمنًا بمفرده، بل يجب تقديم التقييم الخارجي والإشراف الحكومي.
ينعكس هذا الموقف أيضًا في ترتيبات تقييم الطرف الثالث التي أعلنت عنها شركة Anthropic مؤخرًا. بدأت الشركة في السماح لستة باحثين في منظمة الأبحاث غير الربحية METR بالحصول على وصول داخلي مماثل لموظفي الشركة لإجراء فحص أعمق للنماذج التي لم يتم إصدارها وعملية التقييم الأمني للشركة. وقالت أنثروبيك إن المقيمين يمكنهم نشر استنتاجاتهم البحثية علنًا، ولا يمكن للشركة رفض تقريرها بشكل مباشر، ولكن يمكنها طلب حذف محتوى محدد يتضمن بيانات العملاء وهندسة النماذج والمعلومات السرية قانونيًا.
يتقاسم هذا الترتيب اتجاهًا مشتركًا مع مشروع القانون المقترح: لا ينبغي ترك سلامة الذكاء الاصطناعي المتقدم للحكم على المطورين فقط، ولكن يجب أن يكون هناك وكالات مستقلة تشارك في التقييم واستخلاص استنتاجات مهمة مفتوحة للمراجعة الخارجية. ومع ذلك، لا يزال هناك فرق بين تقييمات الطرف الثالث التي تجريها الشركات طوعًا والمتطلبات الإلزامية بموجب القانون. ويعتمد النطاق والسلطة المحددة للأولى على الترتيب بين الشركة ووكالة التقييم، في حين أن الأخيرة قد تضع متطلبات دنيا موحدة للصناعة بأكملها.
تتمثل خلفية هذه الدفعة من أجل مشروع القانون في أن المجتمع الأمريكي يشعر بقلق متزايد بشأن مخاطر أنظمة الذكاء الاصطناعي المتقدمة. وبما أن الذكاء الاصطناعي قادر على أداء مهام معقدة بشكل متزايد، فإن المخاطر لا تقتصر على توليد معلومات غير صحيحة، ولكنها تشمل أيضًا المساعدة في إنشاء أسلحة بيولوجية، وتنفيذ هجمات إلكترونية، وتنفيذ عمليات تتجاوز توقعات المطور بعد الحصول على مستويات عالية من الاستقلالية.
في الآونة الأخيرة، كشفت العديد من شركات الذكاء الاصطناعي عن حالات سلوك غير طبيعي للنماذج أثناء الاختبار أو التشغيل الفعلي. أصدرت لجنة التجارة الفيدرالية الأمريكية أيضًا مذكرات استدعاء مدنية لشركات مثل OpenAI وAnthropic، تطلب منها تقديم مواد تتعلق بحوادث سلامة المستهلك. يقوم المنظمون بالتحقيق فيما إذا كانت أنظمة الذكاء الاصطناعي تتصرف بطرق خادعة أو مسيئة أو غير مصرح بها وما هي التدابير التي تتخذها الشركات لمنع مثل هذه المشاكل.
وضعت هذه الحوادث مراقبة سلامة الذكاء الاصطناعي تحت ضغط أكثر واقعية. في الماضي، كانت المناقشات المتعلقة بالمخاطر المحيطة بالذكاء الاصطناعي المتقدم تميل إلى التركيز على السيناريوهات المتطرفة المحتملة في المستقبل؛ والآن، مع تمكن وكلاء الذكاء الاصطناعي من الوصول إلى الشبكات، وتشغيل البرامج، وتنفيذ مهام متعددة الخطوات، تحتاج الجهات التنظيمية أيضًا إلى معالجة المشكلات الأمنية الفعلية التي نشأت بالفعل.
ومع ذلك، فإن كيفية تعريف "الخطر الكبير الوشيك" لا تزال معقدة للغاية. قد تتغير قدرات نماذج الذكاء الاصطناعي اعتمادًا على بيئة النشر والأدوات المتاحة وطرق استخدام المستخدم، وقد لا يتم تحديد الضرر المحتمل بدقة. قد يكون للنموذج عواقب وخيمة في ظل ظروف معينة ولكنه يكون أقل خطورة في ظروف أخرى. وسوف يتعين على الهيئات التنظيمية والمحاكم أن تقرر ما إذا كان الخطر محددا بالقدر الكافي، واحتمال حدوثه مرتفعا بالقدر الكافي، وما إذا كان تعليق النموذج إجراء ضروريا ومناسبا.
إن عتبات الخسارة الاقتصادية والإصابات المنصوص عليها في المسودة توفر معايير كمية لهذه الأحكام، لكنها لا تلغي جميع النزاعات. على سبيل المثال، كيف ينبغي حساب الخسائر التي تتجاوز مليار دولار، وما إذا كانت المخاطر يجب أن تعزى إلى النموذج نفسه، وما إذا كانت هناك حاجة إلى الجمع بين الأحداث المترابطة المتعددة وتقييمها، قد تصبح جميعها مسائل قانونية أثناء التنفيذ في المستقبل.
بالإضافة إلى ذلك، يعمل مشروع القانون على مركزية سلطة التدخل الحكومي في وزارة التجارة الأمريكية ويتطلب تقديم طلبات أوامر التعليق من خلال المحاكم الفيدرالية. ويساعد هذا الترتيب على الحد من قيام الإدارات الحكومية المختلفة باتخاذ إجراءات منفصلة، ولكنه يعني أيضًا أن الهيئات التنظيمية بحاجة إلى استكمال إجراءات مثل التقييم وإعداد التقارير والتطبيقات القضائية بعد اكتشاف المخاطر. في مواجهة التطور التكنولوجي السريع، فإن كيفية موازنة الإجراءات بين الحكمة وسرعة الاستجابة ستصبح اختبارًا مهمًا لتصميم النظام.
في الوقت الحالي، لم تعلن منظمة الأنثروبيك علنًا أن هذه المسودة قد تم اقتراحها رسميًا من قبل أعضاء الكونجرس أو أنها دخلت عملية المراجعة التشريعية. ولم ترد وزارة التجارة الأمريكية على الفور على طلب للتعليق. ولذلك، فمن غير المؤكد ما إذا كان الاقتراح سيحصل على دعم من مختلف الأحزاب، وما إذا كان سيتم تنقيحه في مناقشات الكونجرس، وما إذا كان مطورو الذكاء الاصطناعي الآخرون سيدعمون قواعد مماثلة.
من منظور الصناعة، أخذت Anthropic زمام المبادرة لتقديم مشروع القانون إلى المشرعين، وهو ما يعكس اتجاه شركات الذكاء الاصطناعي المشاركة في صياغة القواعد التنظيمية للصناعة. ولا تأمل الشركات أن تتمكن الحكومة من التعامل مع المخاطر الشديدة فحسب، بل تأمل أيضاً أن يكون للمعايير التنظيمية حدود واضحة لمنع الإشراف على السلامة من التطور إلى تدخل إداري يفتقر إلى معايير موحدة.
ومع ذلك، فإن الخطط التنظيمية التي تقترحها الشركات تحتاج أيضًا إلى الخضوع للتفتيش الخارجي. ومن الممكن أن تحمي عتبات التدخل الصارمة أنشطة البحث والتطوير العادية، ولكنها قد تجعل من الصعب أيضًا على بعض المخاطر الجسيمة التي لم تصل بعد إلى معايير كمية أن تؤدي إلى الإشراف؛ يمكن للتقييم المستقل أن يزيد من الشفافية، لكن استقلالية وكالة التقييم وقدراتها المهنية وحقوق الوصول إلى المعلومات ستؤثر أيضًا على التأثير النهائي.
لذا، فإن جوهر مشروع القانون هذا لا يقتصر فقط على مطالبة شركات الذكاء الاصطناعي بإجراء اختبارات السلامة، بل محاولة توضيح ثلاث قضايا: من سيقيم مخاطر الذكاء الاصطناعي المتقدم، وما هو مستوى المخاطر الكافي للحكومة للتدخل، وما هي الإجراءات التي يجب على الحكومة اتباعها لتعليق إصدار النماذج أو استخدامها.
إذا دخلت الخطة ذات الصلة أخيرًا إلى العملية التشريعية، فقد يتحول الإشراف الأمريكي المتقدم على الذكاء الاصطناعي من الالتزامات الطوعية للشركات وسياسات السلامة اللامركزية إلى آلية إشراف بمعايير قانونية موحدة. ومع ذلك، حتى يتم تقديم المسودة رسميًا ومراجعتها من قبل الكونجرس وتصبح قانونًا، فإنها تظل مجرد خطة سياسية مقترحة من قبل Anthropic ولا يمكن اعتبارها أن الولايات المتحدة قد أنشأت نظامًا تنظيميًا جديدًا لسلامة الذكاء الاصطناعي.
التعليقات