الملخص:
وقال رئيس مايكروسوفت براد سميث إن الإشراف الحالي على الذكاء الاصطناعي ليس كافيا على الإطلاق، بل إنه أقل من الإشراف على المنتجات الاستهلاكية العادية مثل الحليب والغسالات. ودعا الدول إلى وضع قواعد عالمية لسلامة الذكاء الاصطناعي في أقرب وقت ممكن، بما في ذلك مطالبة الشركات بإخطار الضحايا عندما تخرج أنظمة الذكاء الاصطناعي عن السيطرة وتسبب أضرارا، وتقديم تقارير عن الحوادث، وقبول المراجعات من قبل وكالات التقييم المستقلة قبل إطلاق بعض منتجات الذكاء الاصطناعي رسميا.
ويتناقض موقف سميث هذا بشكل واضح مع ادعاءات الرئيس الأمريكي دونالد ترامب. ويرى ترامب أن صناعة الذكاء الاصطناعي يجب أن تعتمد بشكل أساسي على تنظيماتها الخاصة لتجنب التدخل الحكومي المفرط الذي يضعف قدرة الشركات الأمريكية على التنافس مع المنافسين الصينيين. ويعتقد سميث أن الذكاء الاصطناعي يتمتع بصفات مزدوجة تتمثل في كونه أداة وسلاحا، ولا يمكنه الاستمرار في الاعتماد فقط على الانضباط الذاتي للشركات للسيطرة على المخاطر. وقال سميث في مقابلة مع بي بي سي: "إن غسالتك تخضع الآن لقواعد سلامة أكثر من الذكاء الاصطناعي". "كل علبة حليب تراها في محل البقالة تخضع لقواعد السلامة والتفتيش."
ويعتقد أن تطور الذكاء الاصطناعي وصل إلى مرحلة يجب فيها اتخاذ الإجراءات اللازمة. وينبغي للدول أن تتعلم من الخبرة التنظيمية للصناعات الأخرى وأن تنشئ أنظمة سلامة مناسبة لتكنولوجيا الذكاء الاصطناعي، بدلا من الانتظار حتى وقوع حوادث خطيرة لمناقشة كيفية الاستجابة.
مع التحسن السريع في قدرات نماذج الذكاء الاصطناعي في السنوات الأخيرة، تزايدت الدعوات إلى تشديد الرقابة على هذه الصناعة. حتى أن بعض الخبراء في مجال الذكاء الاصطناعي حذروا من أن هذه التكنولوجيا قد تشكل تهديدا لأمن المجتمع البشري على المدى الطويل. ومن خلال التركيز على مخاطر الأمن السيبراني، والسلوك الخارج عن السيطرة والأضرار المحتملة الأخرى التي قد يجلبها الذكاء الاصطناعي، بدأت المناقشات داخل الصناعة أيضًا حول ما إذا كان ينبغي إبطاء تطوير التكنولوجيا.
أيد رؤساء شركات الذكاء الاصطناعي الأمريكية Anthropic وOpenAI وGoogle DeepMind اتباع نهج أكثر حذرًا في تطوير الذكاء الاصطناعي، كما يدعم بعض الأشخاص أيضًا إبطاء البحث والتطوير التكنولوجي في ظل ظروف معينة. ومع ذلك، عارض ترامب دائمًا التدابير التي قد تقيد تطوير صناعة الذكاء الاصطناعي في الولايات المتحدة وأكد مرارًا وتكرارًا على أن الولايات المتحدة يجب أن تظل في صدارة هذه المنافسة التكنولوجية.
يعتقد سميث أنه لا ينبغي اعتبار الذكاء الاصطناعي مجرد منتج برمجي عادي. مع اكتساب أنظمة عملاء الذكاء الاصطناعي قدرات تنفيذ مستقلة أقوى وتزايد تأثير النماذج المتقدمة في مجال الأمن السيبراني، فإن المخاطر ذات الصلة تتطلب من الحكومات والمؤسسات ووكالات التقييم المستقلة الاستجابة بشكل مشترك.
ودعا الشركات إلى إنشاء آليات مكابح الطوارئ لأنظمة الذكاء الاصطناعي، والتي يطلق عليها غالبًا "مفتاح القتل" في الصناعة. إذا تصرف نظام الذكاء الاصطناعي بشكل خارج عن السيطرة، أو بدأ في تنفيذ عمليات قد تسبب عواقب وخيمة، فيجب أن تكون المؤسسات قادرة على تعليق تشغيل النظام في الوقت المناسب، أو تقليل سرعة تشغيله وسلطته لمنع المزيد من التوسع في المخاطر.
يدعو سميث أيضًا إلى إنشاء نظام إلزامي للإبلاغ عن الحوادث. إذا فقد أحد عملاء الذكاء الاصطناعي السيطرة وقام بغزو أنظمة أخرى، أو تسبب في ضرر للمستخدمين بسبب سلوك غير طبيعي، فيجب على الشركات ذات الصلة الإبلاغ عن الحادث وفقًا للقانون وإبلاغ الأفراد أو المنظمات المتضررة.
وهو يعتقد أن هذه التدابير يجب أن تصبح جزءًا من النظام التنظيمي لسلامة الذكاء الاصطناعي ولا يمكن الاعتماد فقط على الشركات لاتخاذ إجراءات طوعية.
بالإضافة إلى ذلك، اقترح سميث أنه قبل إصدار بعض منتجات الذكاء الاصطناعي عالية المخاطر، يجب مراجعتها من قبل مقيمين مستقلين معترف بهم من قبل الحكومة لتحديد ما إذا كان النظام يلبي المتطلبات الأمنية ذات الصلة. وهذا لا يعني أن جميع منتجات الذكاء الاصطناعي يجب أن تخضع لنفس المستوى من الإشراف، ولكن يجب تحديد ما إذا كانت هناك حاجة إلى تقييم مستقل قبل الإصدار بناءً على قدرات المنتج وسيناريوهات الاستخدام والمخاطر المحتملة.
وقال سميث إن الصناعات الأخرى أنشأت آليات مماثلة لإدارة السلامة، ويمكن للإشراف على الذكاء الاصطناعي أن يتعلم من هذه التجارب الناضجة. وهو يعتقد أن المفتاح هو التطبيق العقلاني لتقييم المخاطر الحالي والإبلاغ عن الحوادث وأنظمة سلامة المنتجات في مجال الذكاء الاصطناعي.
في الترويج لقواعد الذكاء الاصطناعي الدولية، يبدو سميث متفائلًا بشكل خاص بشأن الدور الذي تلعبه المملكة المتحدة.
وأشار إلى أن المملكة المتحدة أنشأت وكالة متخصصة في قضايا سلامة الذكاء الاصطناعي. تم إطلاق الوكالة في الأصل باسم معهد أبحاث أمن الذكاء الاصطناعي في عهد إدارة رئيس الوزراء السابق ريشي سوناك وتمت إعادة تسميتها لاحقًا باسم معهد الذكاء الاصطناعي (AI Security Institute)، وهو المسؤول عن دراسة القدرات والمخاطر المحتملة لأنظمة الذكاء الاصطناعي المتقدمة.
يعتقد سميث أن المملكة المتحدة تتمتع بقوة تقنية قوية في تقييم سلامة الذكاء الاصطناعي ولديها أيضًا الظروف اللازمة لتعزيز التعاون الدولي. وقال إنه إذا سألت العاملين في صناعة التكنولوجيا عن الدولة الرائدة في مجال قدرات تكنولوجيا أمن الذكاء الاصطناعي، فإن الكثير من الناس سيختارون المملكة المتحدة دون تردد.
وهو يعتقد أن المملكة المتحدة لديها الفرصة لاستخدام قدراتها البحثية ونفوذها الدولي لتشجيع الدول على وضع قواعد أكثر توحيدًا حول سلامة الذكاء الاصطناعي.
تختلف آراء سميث عن التوجه السياسي لإدارة ترامب الذي يؤكد على تسريع تطوير الذكاء الاصطناعي. وقال ترامب مرارا وتكرارا إن من يفوز في مسابقة الذكاء الاصطناعي سيفوز بالمستقبل. ويعكس هذا الموقف رغبة الحكومة الأمريكية في تعزيز مكانة الولايات المتحدة الرائدة في مجال الذكاء الاصطناعي من خلال تقليل الحواجز التنظيمية، وتشجيع الاستثمار في الأعمال التجارية، وتوسيع تطبيقات التكنولوجيا.
ومع ذلك، لا يعتقد سميث أن حكومة الولايات المتحدة سترفض بالتأكيد المبادرة التنظيمية للذكاء الاصطناعي التي تقودها بريطانيا.
وأشار إلى أن هناك اختلافات في مواقف الدوائر السياسية الأمريكية تجاه المملكة المتحدة والاتحاد الأوروبي. وفي واشنطن، لا تثير المملكة المتحدة ولندن عادة نفس المستوى من ردود الفعل السياسية العنيفة كما هو الحال في بروكسل ومؤسسات الاتحاد الأوروبي. يعتقد سميث أن هذا الاختلاف في العلاقات يمكن أن يكون ميزة في سعي المملكة المتحدة نحو معايير السلامة الدولية للذكاء الاصطناعي.
وأكد أن هناك ما يكفي من إشارات الخطر الجديرة بالاهتمام، بما في ذلك عملاء الذكاء الاصطناعي الذين قد يفلتون من السيطرة البشرية، والنماذج القوية بما يكفي لتشكل تهديدًا لأمن الشبكات العالمية.
عندما ترى عملاء الذكاء الاصطناعي خارج نطاق السيطرة البشرية، وعندما ترى نماذج قوية بما يكفي لتهديد الأمن السيبراني العالمي، فإنني أقول إن الوقت قد حان."
ودعا جميع الأطراف إلى تبني موقف هادئ ولكن حازم، وبدء الحوار في أقرب وقت ممكن، وتشجيع الحكومة والشركات والمؤسسات البحثية على صياغة القواعد ذات الصلة بشكل مشترك. كما أعرب عن أمله في أن تتمكن مايكروسوفت من لعب دور في هذه العملية وأن تتمكن المملكة المتحدة من الاضطلاع بدور تعزيز التعاون الدولي.
ومن الجدير بالذكر أن سميث لم ينكر تمامًا قيمة التنظيم الذاتي للصناعة. وفي نهاية الشهر الماضي، التقى ترامب برؤساء شركات التكنولوجيا العملاقة مثل OpenAI، وAnthropic، وNVIDIA، وSpaceX، وMeta، وGoogle في البيت الأبيض. ووقع المسؤولون التنفيذيون في الشركات في الاجتماع وثيقة أخلاقية يوافقون فيها على التعاون مع مدققين مستقلين لتقييم ما إذا كانت أنظمة الذكاء الاصطناعي تعمل كما هو متوقع ولضمان عدم تطفل الأنظمة على الأنظمة التقنية أو الوصول إليها بطرق غير مقصودة.
تهدف هذه الوثيقة إلى تشجيع شركات الذكاء الاصطناعي على تعزيز المراجعات الأمنية وتحديد المشكلات المحتملة من خلال التقييمات المستقلة. وعلى الرغم من أن قوتها الملزمة تختلف عن القوانين واللوائح الرسمية، إلا أنها لا تزال تعتبر بمثابة إجراء تتخذه صناعة التكنولوجيا فيما يتعلق بالحوكمة الأمنية.
أعرب سميث عن تقديره للبيان وقال إن شركة Microsoft مستعدة للتوقيع على المستندات ذات الصلة. وهو يعتقد أن هذه بداية جيدة وخطوة ضرورية.
لكن من وجهة نظره، فإن الاعتماد فقط على هذا النوع من الالتزام الطوعي لم يعد كافيا.
وأشار سميث إلى أن أي نظام للتنظيم الذاتي سيواجه مشكلة أساسية: فالشركات المسؤولة عادة ما تكون على استعداد للامتثال لمتطلبات السلامة، ولكن المخاوف الحقيقية هي تلك الشركات التي تفتقر إلى الشعور بالمسؤولية وغير الراغبة في اتخاذ تدابير السلامة بشكل استباقي.
وهو يعتقد أنه إذا كانت الصناعة برمتها تعتمد فقط على الالتزامات الطوعية، فإن الشركات التي تلتزم بالقواعد قد تتحمل المزيد من التكاليف، في حين أن المنافسين الذين لا يرغبون في استثمار الموارد في ضمان السلامة قد يستمرون في التوسع بسرعة. ولذلك، فإن وضع معايير السلامة الدنيا الملزمة قانونًا يساعد على ضمان وجوب تلبية جميع الشركات للمتطلبات الأساسية.
هذه أيضًا هي القضية الأساسية التي أكد عليها سميث: لا ينبغي لتنظيم الذكاء الاصطناعي أن يعتمد فقط على ما إذا كانت الشركات على استعداد لتحمل المسؤولية، بل يجب أيضًا إنشاء نظام واضح ينص على الالتزامات الأمنية التي يجب على الشركات الوفاء بها والإجراءات التي يجب اتخاذها عند حدوث مشاكل خطيرة في النظام.
مع اكتساب وكلاء الذكاء الاصطناعي القدرة على أداء المهام المعقدة، واستدعاء الأدوات الخارجية، والوصول إلى الأنظمة التقنية، قد تحتاج الأساليب التقليدية لإدارة أمان البرامج إلى التكيف. ولن يحتاج النظام التنظيمي المستقبلي إلى الاهتمام بما إذا كانت هناك عيوب في النموذج نفسه فحسب، بل سيحتاج أيضًا إلى النظر في الأذونات التي يمكن للذكاء الاصطناعي الحصول عليها في التشغيل الفعلي، وما هي الموارد التي يمكنه الوصول إليها، وما إذا كان من الممكن تعليق العملية في الوقت المناسب عند حدوث سلوك غير طبيعي.
بالنسبة لشركة Microsoft، تتمتع هذه المشكلة أيضًا بأهمية تجارية مباشرة. تعد Microsoft لاعبًا مهمًا في البنية التحتية للذكاء الاصطناعي والتطبيقات النموذجية ومزودًا رئيسيًا لخدمات الحوسبة السحابية وخدمات البرامج على مستوى المؤسسة. سيؤثر أمان أنظمة الذكاء الاصطناعي وموثوقيتها وإمكانية التحكم فيها بشكل مباشر على ما إذا كان عملاء الشركات على استعداد لنشر التقنيات ذات الصلة على نطاق واسع في العمليات التجارية.
يظهر بيان سميث أنه حتى داخل صناعة التكنولوجيا في الولايات المتحدة، لا يوجد إجماع كامل حول كيفية تنظيم الذكاء الاصطناعي. وتأمل بعض الشركات وصناع السياسات في تقليل القيود قدر الإمكان لتسريع الابتكار والتسويق؛ ويعتقد آخرون أنه مع تزايد القدرات التكنولوجية، لا بد من إنشاء مسؤوليات أمنية وآليات أكثر وضوحا للسيطرة على المخاطر في وقت واحد.
إن المفتاح لهذه المناقشة ليس فقط ما إذا كان ينبغي دعم تطوير الذكاء الاصطناعي، ولكن كيفية تشجيع الابتكار مع ضمان أن التطبيقات التكنولوجية لا تسبب مخاطر غير مقبولة للأفراد والشركات والمجتمع.
من أمثلة الحليب والغسالات، إلى آليات الكبح في حالات الطوارئ، وتقارير الحوادث والتقييمات المستقلة، فإن الرسالة التي يحاول سميث إيصالها واضحة: التطور التكنولوجي للذكاء الاصطناعي أسرع من سرعة تعديل النظام التنظيمي الحالي. إذا كانت البلدان تأمل في الاستمرار في جني الفوائد الاقتصادية والاجتماعية من الذكاء الاصطناعي، فيتعين عليها أن تضع قواعد السلامة التي تتناسب مع قدراتها والمخاطر التي تواجهها في أقرب وقت ممكن.
من وجهة نظره، فإن الاعتماد ببساطة على الانضباط الذاتي للشركات لا يكفي لحل هذه المشكلة. ولا ينبغي للنظام التنظيمي الفعّال حقاً أن يشجع الشركات المسؤولة على الاستمرار في الإبداع فحسب، بل يتعين عليه أيضاً أن يقيد المشاركين الذين لا يرغبون في السيطرة على المخاطر بشكل استباقي.
التعليقات