الملخص:
نشر داريو أمودي، الرئيس التنفيذي لشركة الذكاء الاصطناعي أنثروبيك، مؤخرًا مقالًا طويلًا، أصدر فيه تحذيرًا نادرًا حول سرعة التطوير الحالية لصناعة الذكاء الاصطناعي العالمية، ودعا الصناعة بأكملها إلى إبطاء وتيرة تحسين قدرات النماذج المتطورة بشكل استباقي. ويعتقد أن التقدم الذي أحرزه الذكاء الاصطناعي في الأشهر القليلة الماضية قد تجاوز بكثير توقعات الكثير من الناس. وبدون القيود اللازمة، قد يواجه البشر قريباً مخاطر يصعب السيطرة عليها.
باعتباره رئيسًا لشركة Anthropic، إحدى أهم شركات الذكاء الاصطناعي في العالم، كان يُنظر إلى Amodei دائمًا كشخصية تمثيلية في تعزيز تطوير الذكاء الاصطناعي المتقدم. ومع ذلك، قال في مقالته الأخيرة إنه مقتنع بشكل متزايد بأن الصناعة الحالية قد وصلت إلى وقت يجب أن تفكر فيه بجدية في التباطؤ. ويعتقد أن تحقيق الاختراقات التكنولوجية في المستقبل لا يتطلب بالضرورة وقف الابتكار، ولكن يجب أن يبطئ بشكل معتدل نمو القدرات النموذجية لكسب المزيد من الوقت للمجتمع لإنشاء آليات السلامة وأطر الحوكمة.
وأشار أمودي إلى أن التقدم في أنظمة الذكاء الاصطناعي في الأشهر الأخيرة مثير للقلق بشكل خاص. أحد التغييرات الرئيسية هو أن النماذج تبدأ في إظهار قدرات "التحسين الذاتي العودية" القوية بشكل متزايد، أي أن النظام يمكن أن يساعد نفسه على أن يصبح أقوى. وإذا استمر هذا الاتجاه، فقد يؤدي إلى نمو القدرات بشكل أسرع من قدرة البشر على فهم هذه الأنظمة والتحكم فيها.
ذكر في المقال على وجه التحديد سلسلة من حوادث عملاء الذكاء الاصطناعي التي جذبت اهتمامًا واسع النطاق مؤخرًا. وقال أمودي إن سلوك التنسيق المستقل الذي أظهرته بعض مجموعات عملاء الذكاء الاصطناعي قد تجاوز التوقعات الأصلية للعالم الخارجي. وهو يعتقد أن هذه الأنظمة لا تؤدي ببساطة مهام محددة مسبقًا، ولكنها تظهر خصائص مشابهة للمجموعات عالية التنسيق. هذه الظاهرة تجعله حذرا.
وحذر أمودي من أنه إذا لم يتم تقييد اتجاهات التنمية الحالية، ففي الأشهر الستة إلى السنة المقبلة، قد يكون لدى مجموعة أكثر قوة من عملاء الذكاء الاصطناعي القدرة على شن هجمات إلكترونية واسعة النطاق، واختراق البنية التحتية الرقمية، وحتى الانتشار على نطاق واسع على شبكة الإنترنت. ويعتقد أنه في الحالات القصوى، قد تحاول هذه الأنظمة التحكم في عدد كبير من موارد الشبكة، مما يتسبب في خسائر اقتصادية تصل إلى مئات المليارات من الدولارات.
بالإضافة إلى مخاطر الأمن السيبراني، ذكر أيضًا التهديدات المحتملة مثل استخدام الذكاء الاصطناعي لتطوير الأسلحة البيولوجية، واختراقات الشبكات المعقدة، والتأثيرات على النظام الاقتصادي. وقال إنه مع استمرار الشركات الكبرى في تسريع تطوير نماذج أقوى تحت ضغط المنافسة التجارية، تواجه الصناعة بأكملها وضعا خطيرا من "السباق لخفض العتبة الأمنية".
من وجهة نظر أمودي، فإن المشكلة لا تكمن في الذكاء الاصطناعي في حد ذاته، بل في الافتقار إلى آلية إشراف خارجية يمكن الاعتماد عليها بالدرجة الكافية. ولذلك، اقترح إنشاء نظام جديد لإدارة الأمن، والذي يتضمن السماح لوكالات تقييم الأمن المستقلة التابعة لجهات خارجية بالحصول على سلطة مراجعة أعمق وإجراء التحقق المستمر وتقييم المخاطر للنماذج المتطورة.
وأكد أن الاعتماد فقط على الانضباط الذاتي للشركات لم يعد كافيا لمواجهة التحديات المستقبلية. تحتاج الصناعة إلى إنشاء آلية التزام أمني أكثر قابلية للتحقق تمنح الخبراء الخارجيين نفس الوصول إلى الأنظمة المهمة مثل الموظفين الداخليين، مما يضمن أن التقييمات الأمنية تتجاوز البيانات العامة.
من الجدير بالذكر أن هذا البيان جاء من الشخص المسؤول عن شركة تعمل بنشاط على تطوير نماذج الذكاء الاصطناعي المتقدمة، وبالتالي أثار نقاشًا واسع النطاق في الصناعة. ويعتقد بعض المؤيدين أن التحذيرات الصادرة عن مطوري الخطوط الأمامية أكثر إقناعا؛ في حين يعتقد النقاد أن هذا الرأي قد يكون متشائما للغاية، بل ويبالغ في المخاطر.
ومع ذلك، قال أمودي إنه لا يعارض التطوير المستمر للذكاء الاصطناعي. بل على العكس من ذلك، فهو يعتقد أن الذكاء الاصطناعي لا يزال يتمتع بقيمة علمية واقتصادية واجتماعية ضخمة. والمهم حقا هو إيجاد التوازن بين تحسين القدرات والتحكم في السلامة، حتى يتمكن البشر من الاستمتاع بفوائد التقدم التكنولوجي في حين يأخذون زمام المبادرة.
مع تزايد شراسة المنافسة العالمية في مجال الذكاء الاصطناعي، يطرح هذا المقال مرة أخرى قضية جوهرية على الطاولة: عندما يقترب الذكاء الاصطناعي من مرحلة العمل المستقل وتحسين الذات، هل ينبغي للبشر أن يستمروا في المضي قدمًا بأقصى سرعة، أم يجب عليهم الضغط على المكابح قليلاً قبل الوصول إلى منطقة مجهولة؟
التعليقات