الملخص:
صرح نيت سواريز، رئيس معهد أبحاث الذكاء الآلي (MIRI)، مؤخرًا في مقابلة استضافها نيكولاس طومسون، الرئيس التنفيذي لمجلة أتلانتيك الشهرية، أنه يعتقد أن هناك فرصة تزيد عن 50٪ في أن يؤدي الذكاء الاصطناعي المتقدم إلى انقراض الإنسان في أقل من عشر سنوات. وكشف أيضًا أنه لم يعد يدخر للتقاعد: على الرغم من أنه لا يزال يحتفظ بحساب التقاعد 401 (ك) الذي فتحه أثناء عمله في جوجل، إلا أنه لم يستمر في تقديم المساهمات لمدة عشر سنوات.
لقد درس سواريز منذ فترة طويلة مشكلة محاذاة الذكاء الاصطناعي، أي جعل سلوك أنظمة الذكاء الاصطناعي القوية يتوافق مع نوايا الإنسان. لقد عمل مهندسًا في Google وMicrosoft وشارك في تأليف كتاب "إذا فعلها شخص ما، سيموت الجميع". ولا يتمثل قلقه بشأن هذا الخطر في أن الذكاء الاصطناعي سوف يكره البشر، بل في أن النظام الفائق الذكاء ربما لا يهتم ببساطة بما إذا كان البشر سيبقون على قيد الحياة أم لا؛ فإذا اعترض البشر طريق تحقيق أهدافها، أو حاولوا إغلاقها وتطوير أنظمة منافسة، فقد يُنظر إلى البشر على أنهم عقبة.
وفي مسار المخاطر الذي تصوره، فإن المفتاح ليس فقط ما إذا كان الذكاء الاصطناعي قادرا على شن الهجمات، بل ما إذا كان قادرا على تحقيق الاكتفاء الذاتي: إذا تمكن النظام بشكل مستقل من الحصول على الطاقة والرقائق وغيرها من الموارد، وإنشاء بنية تحتية آلية لا تعتمد على البشر، فإن قدرة البشر على السيطرة عليها قد تتراجع. ووصف سواريز أن الناس قد لا يعرفون مسبقا الطرق المحددة التي سيتسبب بها الذكاء الفائق في كارثة، لكنهم قد يظلون يحكمون بأنهم يواجهون خصما قويا للغاية.
ودعا إلى أن تتوقف الحكومة عن تدريب أنظمة الذكاء الاصطناعي العامة وتحويل تركيز البحث والتطوير إلى استخدامات محددة مثل أبحاث السرطان والقيادة الذاتية الأكثر أمانًا. وقال أيضًا إن الكوارث ليست حتمية وأنه لا يزال يبذل قصارى جهده لمنع هذه النتيجة. وأكد أن الحل ليس إنشاء نظام يمكن أن يقتل الجميع.
إن حكم سواريز هو تقييم شخصي للمخاطر، وليس تنبؤًا علميًا مثبتًا، كما أنه لا يمثل إجماعًا موحدًا بين الباحثين في مجال الذكاء الاصطناعي. إن تصريحه بأنه توقف عن زيادة مدخراته التقاعدية يعكس وجهة نظره بشأن المخاطر المستقبلية ولا ينبغي تفسيره على أنه نصيحة بشأن القرارات المالية للآخرين.
التعليقات