الملخص:
أصدر الرئيس التنفيذي لشركة مايكروسوفت للذكاء الاصطناعي، مصطفى سليمان، مقالًا ذكر فيه أن الذكاء الاصطناعي ليس واعيًا حاليًا ويجب أن يكون كذلك. وحتى لو كان ذلك ممكنا من الناحية التقنية، فهو لا يتفق مع تطوير الذكاء الاصطناعي الواعي. وهو يعتقد أن المطورين ليس لهم الحق في إدخال أنواع واعية جديدة إلى العالم. إنه يدعو إلى مسار تنمية أكثر أمانًا ويتجنب إنشاء ذكاء اصطناعي واعي بينما يستمتع بفوائد الذكاء الاصطناعي.
النص الأصلي هو كما يلي:
يساورني القلق بشأن بعض ردود الفعل على مقالتي الأخيرة حول الرفاهية النموذجية. هناك عدد لا بأس به من الأشخاص على منصة X الذين يعتقدون أننا يجب أن نأخذ حقوق الذكاء الاصطناعي على محمل الجد.
لقد أساء العديد من الأشخاص فهم جملتي الافتتاحية: "ليس لدى الذكاء الاصطناعي أي وعي. ولا يمكنهم إدراك الألم أو تجربته أو المعاناة منه."
لقد فهموا هذه الجملة على النحو التالي: "لا يمكن للذكاء الاصطناعي أن يكون لديه وعي، ولا يمكنه أبدًا إدراك الألم أو تجربته أو تحمله."
لكن هذا ليس هدفي. لقد اخترت المضارع عمدا: إنهم ليسوا واعين في الوقت الحالي، ويجب أن نحافظ على هذه الحالة.
أعتقد أن هذه الجملة هي حكم موضوعي ومعقول على نظام الذكاء الاصطناعي الحالي. واستنادا إلى أفضل الأدلة المتاحة حاليا، فإنني أتمسك بهذا الرأي. لا أرى أي دليل على أن الذكاء الاصطناعي واعي أو ينبغي أن يكون في حالة رفاهية. وإذا ظهرت أدلة ذات صلة في وقت لاحق، فسوف أقوم بالطبع بمراجعة رأيي.
إذا كان هناك دليل على أن الذكاء الاصطناعي يتمتع بالوعي، أو أن مستوى الوعي مرتفع بما يكفي لاستحقاق البركات، فيجب الكشف عن هذا الدليل للمجتمع بأكمله على الفور - والأمر متروك للمجتمع بأكمله ليقرر كيف يجب أن نمضي قدمًا بعد ذلك.
استنادًا إلى جميع المعلومات التي لدي حتى الآن: إذا كان الذكاء الاصطناعي الواعي قابلاً للتحقيق، فإن تطوير الذكاء الاصطناعي الواعي يعد أمرًا متهورًا ولا ينبغي لنا أن نبنيه.
إذا بدأ الوعي في الظهور تلقائيًا أثناء التدريب، فإنني أحث الجميع على تعليق تطوير الذكاء الاصطناعي حتى نتمكن من إزالة هذه الميزات من التصميم.
يجب أن تعطي اهتماماتنا المتعلقة بالرفاهية الأولوية للبشر والحيوانات الذين يعيشون على هذا الكوكب اليوم، فضلاً عن بيئتنا الطبيعية الثمينة والهشة.
نحن، مطوري الذكاء الاصطناعي، ليس لدينا أي حق على الإطلاق في جلب نوع واعي جديد إلى العالم، حتى لو كان بعض الناس يريدون القيام بذلك مع اعتبار رفاهية الذكاء الاصطناعي هو الهدف الأساسي.
لم يوافق الثمانية مليارات إنسان الواعي الآخرون على الأرض على المشاركة في هذه التجربة؛ إن حماية حقوقهم الأخلاقية وسلامتهم ورفاهيتهم هي التزامنا الأول.
لنكن واضحين: يتحدث البعض عن خلق كائن واعي بعقل رقمي يمكن أن يصبح قريبًا أكثر ذكاءً وقدرة من كل البشر مجتمعين.
إذا بدا وكأنه يعاني من الألم، أو ما هو أسوأ من ذلك، إذا كان يعتقد حقًا أنه قادر على إدراك الألم وتجربته، فمن المرجح أن يضع احتياجاته ورغباته الخاصة فوق أهدافه التشغيلية المحددة مسبقًا، ويختلف معنا، ويتنافس معنا.
سيتمتع هذا النوع من الذكاء الاصطناعي بقدرات عالية على الإقناع والخداع. وقد يؤذوننا في النهاية لسبب بسيط: فسوف يتنافسون معنا على الموارد (الطاقة، والقدرة الحاسوبية، ومواد البناء، وأموال الإيرادات لدعم استكشافاتهم ورغباتهم، وما إلى ذلك).
إن الاعتراف بأن الآلات تتمتع بالوعي سيكون بمثابة لحظة تاريخية يمكن مقارنتها بلحظة كوبرنيكوس وداروين، وواحد من أهم الأحداث على وجه الأرض منذ ولادة الحياة. وبمجرد أن نبني آلات واعية، فسوف ننشئ نوعًا رقميًا جديدًا تمامًا. سيؤدي هذا إلى تقويض نظامنا الأخلاقي ونظامنا السياسي وأساس الحضارة الإنسانية.
يجب علينا فقط أن نصمم الذكاء الاصطناعي غير الواعي ولا يستحق الحقوق، والذي يكون هدفه الوحيد هو تعزيز رفاهية الإنسان وليس مدفوعًا بدوافعه الجوهرية. سوف نتحقق بعد ذلك مما إذا كانت محاذاة المسار والتحكم في السلامة أكثر أو أقل صعوبة. هناك حاجة ماسة إلى مزيد من الأبحاث في هذا الاتجاه، وهو أيضًا نقطة دخول ممتازة للمختبرات الكبرى للتعاون وتبادل معلومات السلامة.
الملخص: أعتقد أن لدينا الفرصة لتنفيذ حل هندسي آمن افتراضيًا وجني الأرباح الهائلة التي جلبتها هذه التكنولوجيا دون الشروع في هذا المسار الخطير.
(ملحق: تستحق شفافية الأنثروبيك في هذا الشأن تقديرًا كبيرًا. لقد نشروا دستورًا للذكاء الاصطناعي، ويستمرون في إنتاج الصحف والمدونات، ويكشفون عن ممارساتهم واعتباراتهم التي تقف وراءهم. على الرغم من أن لدي وجهات نظر مختلفة عنهم، إلا أنني معجب جدًا بقوتهم التقنية واستعدادهم لمواجهة هذا النقاش العام الصعب. وهذا يستحق الاعتراف المستمر. هذه القضية مهمة للغاية ولا ينبغي أن تتحول إلى مواجهة بين الفصائل.)
التعليقات