الملخص:
هل تعلم أنه حتى بالمقارنة مع الأوبئة والمناخ والحروب والتهديدات النووية، فإن الشيء الأكثر احتمالا لتدمير البشرية قبل عام 2100 هو الذكاء الاصطناعي؟ يأتي هذا الاستنتاج المذهل من التقرير الرسمي لمجلة The Lancet. وكتبت مجلة لانسيت في تقرير لجنة "التهديدات الصحية العالمية في القرن الحادي والعشرين" الصادر في 11 أكتوبر، أنه من بين 17 تهديدًا، بما في ذلك تغير المناخ والأوبئة والتلوث، احتل الصراع النووي والاستخدام الضار للذكاء الاصطناعي المرتبة الأولى، وقد يؤدي إلى انقراض الإنسان قبل عام 2100.
تم كتابة هذا التقرير من قبل 35 من كبار الخبراء، وغطت الدراسة بأكملها 204 دولة ومنطقة حول العالم. وذكر التقرير أيضًا أن هذه التهديدات قد تتفاعل وتضخم بعضها البعض.
الجزء الأكثر إثارة للخوف في التقرير هو أنه على الرغم من أن الذكاء الاصطناعي والصراع النووي يمثلان أكبر مشكلة في تدمير البشرية، إلا أن الضرر الذي يسببه الذكاء الاصطناعي يتجاوز بكثير الضرر الذي يحدثه الصراع النووي.
إذا قال العمودي هذا عن نهاية الذكاء الاصطناعي، فربما أستمع إليه من أجل المتعة فقط. بعد كل شيء، هناك بالفعل الكثير من الكلمات المشابهة لدرجة أن أذني أصبحت متصلبة تقريبًا.
لكن هذه المرة قالتها مجلة The Lancet، وكنت خائفًا حقًا.
ماذا تقول مجلة لانسيت؟
تم قيادة تقرير لانسيت من قبل معهد القياسات الصحية والتقييم (IHME) في جامعة واشنطن. وقاموا بترتيب التهديدات التي قد تؤثر على صحة الإنسان خلال الـ 75 عامًا القادمة في "هرم التهديدات" حسب شدتها، مع فئة منفصلة في الأعلى:
تهديدات قد تؤدي إلى انقراض الإنسان قبل عام 2100.
هناك شيئان فقط في هذه الفئة، أحدهما هو "المجاعة النووية" الناجمة عن الصراع النووي، والآخر هو الاستخدام الضار للذكاء الاصطناعي.
وحتى اصطدام الكويكبات بالأرض والانفجارات البركانية الفائقة لم تصل إلى قمة الهرم، لأن اللجنة ترى أن احتمال حدوثها خلال الـ 75 عاما المقبلة "منخفض للغاية".
لكن هذا لا يعني أن "الذكاء الاصطناعي سوف يبيد البشرية بالتأكيد".
يشير النص الأصلي للتقرير إلى أن "احتمال حدوث هذين النوعين من المخاطر لا يزال منخفضا للغاية"، ولكن بمجرد حدوثهما ستكون العواقب على المستوى الإنساني بأكمله.
توجد وحدة في التقرير تسمى "DALYs"، والتي تعني "سنوات الحياة المعدلة للإعاقة". ببساطة، هو إجمالي عدد سنوات الحياة الصحية التي فقدها الشخص بسبب المرض أو الإعاقة أو الوفاة المبكرة.
استخدمته اللجنة لقياس مدى "خسارة الحياة الصحية" التي قد يسببها كل تهديد في نهاية المطاف بحلول عام 2100.
قد يتسبب الاستخدام الضار للذكاء الاصطناعي في خسائر تبلغ حوالي 10.4 مليار سنة مصححة للعجز بحلول عام 2100، وهو ما يعادل تقريبًا نفس مقياس السمنة. من شأن الصراع النووي أن يتسبب في وفاة ما يقرب من 133 مليون شخص وخسارة ما يقرب من 9.35 مليار من سنوات العمر المصححة باحتساب العجز.
تعتقد مجلة لانسيت أن الذكاء الاصطناعي أكثر خطورة من الأسلحة النووية. لقد بذلت اللجنة قصارى جهدها للتأكيد على أن هذا كان مصممًا لقياس "الأدوات القابلة للتنفيذ" بدلاً من التهويل على النتيجة الأكثر مأساوية.
إذًا، كيف "يبيدنا" الذكاء الاصطناعي؟ هل هو Skynet من فيلم Terminator؟ أو "موس" من "الأرض المتجولة"؟
لا. تعتقد مجلة لانسيت أن هناك طريقًا واحدًا فقط أمام الذكاء الاصطناعي لتدمير البشرية، ألا وهو الأسلحة البيولوجية.
يستخدم بعض الأشخاص الذكاء الاصطناعي بشكل ضار لتصميم أو تعديل مسببات الأمراض أو السموم التي يمكن أن تسبب إصابات جماعية.
تتمثل حجة مجلة لانسيت في أن الذكاء الاصطناعي يعمل على خفض عتبة القيام بأشياء خطيرة.
في الماضي، كان تعديل الفيروس يتطلب مختبرات من الدرجة الأولى، ومعدات باهظة الثمن، فضلاً عن "الإحساس" والمعرفة الضمنية التي تراكمت لدى الباحثين على مر السنين. ما يمكن أن يفعله النموذج الكبير هو مساعدة الأشخاص في البحث في الأدبيات، وتصميم الخطط التجريبية، وكتابة مواد التطبيق، وشرح سبب القيام بكل خطوة.
في 10 سبتمبر 2026، أصدرت Anthropic تقريرًا استخباراتيًا للتهديدات، كشف عن عدة أنواع من الانتهاكات التي اعترضتها في الفترة ما بين ديسمبر 2025 وأغسطس 2026. ومن بينها، كانت هناك 5 حالات استخدم فيها المستخدمون كلود بطريقة "قد تدعم تطوير أسلحة بيولوجية":
• في شهر مايو من هذا العام، طلب أحد الأشخاص من كلود المساعدة في كتابة طلب منحة لدراسة الطفرات في فيروس الشيكونغونيا التي يمكن أن تجعله ينتشر بكفاءة أكبر ويهرب من الجهاز المناعي بسهولة أكبر.
• يستخدمه بعض الأشخاص للتخطيط لتجارب تهدف إلى جعل فيروسات أنفلونزا الطيور شديدة الإمراض أكثر قدرة على التكيف مع الثدييات المضيفة.
• تمت صياغة مقترح لدراسة كيفية تغيير ضراوة عائلة فيروسات الجدري العظمي التي ينتمي إليها مرض الجدري وجدري القرود.
• كان أحد الأشخاص يعمل في مشروع تطوير أدوية لتجميع خريطة للسموم.
• استخدم باحث آخر كلود للمساعدة في إعادة تصميم الكمبيوتر لمجموعة من السموم، بما في ذلك سموم بكتيرية وبروتين من فيروس رئيسي يهدد الأمراض، واستخدم مصطلحات غامضة عمدًا للإشارة إلى هذه السموم عند كتابة التقارير المرحلية.
لذلك، فإن إساءة استخدام الذكاء الاصطناعي ستسبب بالتأكيد ضررًا كبيرًا للجنس البشري بأكمله.
تم تقسيم نظرية يوم القيامة للذكاء الاصطناعي إلى معسكرين
في الواقع، قبل صدور تقرير لانسيت، كانت نظريات الذكاء الاصطناعي تظهر كل شهر. على سبيل المثال، في سبتمبر/أيلول، كانت جميع مناحي الحياة تناقش ما إذا كان الذكاء الاصطناعي سيجلب يوم القيامة.
في الثامن من سبتمبر/أيلول، أعلن الباحث الأنثروبي السابق جاكوب كوكسون استقالته، وذكر علنًا أن كلا من OpenAI وAnthropic "يراهنان على حياة البشر" وأن الذكاء الاصطناعي "يمكن أن يقتلنا جميعًا قبل نهاية هذا العقد". وقد حصل المنشور على أكثر من 100 مليون مشاهدة في فترة قصيرة من الزمن.
في اليوم التالي، كتب إيفان هوبنجر، رئيس قسم علوم المحاذاة في Anthropic: "نحن نعتقد جديًا أن الذكاء الاصطناعي قد يقتل الجميع، وأنا شخصيًا أعتقد أن الاحتمال يزيد عن 10% خلال السنوات العشر القادمة."
وقال عراب الذكاء الاصطناعي هينتون في وقت لاحق إن نسبة الـ 10% "لم تكن فظيعة".
بعد ثلاثة أيام، قدم العمودي بيانًا أكثر تحديدًا. ويعتقد أنه في غضون 6 إلى 12 شهرا، قد تستولي مجموعة من العملاء على الإنترنت بالكامل، مما يتسبب في خسائر بمئات المليارات من الدولارات.
يقف ألترامان وماسك، العدوان اللدودان، على نفس الجبهة ويدعمان "إبطاء وتيرة تطوير الذكاء الاصطناعي".
على الرغم من أن القوة النارية للجانب الإيجابي شرسة، إلا أن قوة الجانب السلبي ليست ضعيفة أيضًا.
ذكر هوانغ رينكسون في المقابلة أن احتمال تدمير الذكاء الاصطناعي للعالم قبل عام 2030 هو 0%. وهو يعتقد أن "احتمال 10٪ لقتل الذكاء الاصطناعي للجميع" الذي ذكره إيفان ليس له أساس علمي وهو حدس "غير مسؤول".
"لا ينبغي إطلاق سراح الذكاء الاصطناعي الذي لا يمكن التحكم فيه بشكل آمن." قال هوانغ رينكسون.
وتعتقد هايدي خلاف، كبيرة العلماء في معهد الذكاء الاصطناعي الآن، أنه سواء كانت 10% أو 20% "فإنها ليست قابلة للتفنيد ولا يمكن التحقق منها، لذا فهي غير علمية بطبيعتها".
قال عالم الإدراك غاري ماركوس إن فكرة "سيطرة العملاء على الإنترنت" هي فكرة "سخيفة".
ويرجع السبب وراء ذلك إلى أن معظم البنية التحتية الأساسية للإنترنت تقع في أيدي شركات كبيرة مثل Cloudflare وGoogle وAmazon AWS. وبدون تدخل القوات الحكومية، من الصعب أن نتصور أنه سيتم اختراقها أو السيطرة عليها لفترة طويلة.
واستشهد أيضًا بتقرير تقييمي صادر عن معهد أبحاث أمن الذكاء الاصطناعي البريطاني، مفاده أن أقوى نموذج ميثوس في الأنثروبيك لا يمكنه اختراق الأنظمة "الصغيرة وضعيفة الحماية" إلا بشكل مستقل. وطالما قام الطرف الآخر بتحسين الحماية الأمنية لشبكته، فإن Mythos ستكون عاجزة.
بالنظر معًا، ستجد جانبًا مثيرًا للاهتمام للغاية في هذه المناقشة:
يتحدث الجانب الإيجابي عن "العواقب"، بينما يتحدث الجانب السلبي عن "الأدلة".
من ناحية، تؤكد على أنه طالما أن الاحتمال ليس صفرًا، فإن العواقب لا تطاق؛ ومن ناحية أخرى، تؤكد أنك لا تستطيع حتى شرح كيفية حساب هذا الاحتمال، فلماذا تثير قلق العالم كله؟
بالإضافة إلى ذلك، وعلى الرغم من أن أمودي وألتمان دعيا إلى إبطاء وتيرة الانتخابات، إلا أن وسائل الإعلام اتهمتهما ببناء خندق لأنفسهما باسم الأمن لمنع المنافسين اللاحقين من الدخول.
الدوائر الأكاديمية أكثر دعمًا لتشنغ فانغ.
على سبيل المثال، الورقة البحثية "كيف يمكن للذكاء الاصطناعي القضاء على البشر؟" جاء في "تحليل وضع الفشل لمخاطر الحضارة" (arXiv:2610.08878) أن
مخاطر الذكاء الاصطناعي الكارثية لا تتطلب أن يكون الذكاء الاصطناعي واعيًا أو عدائيًا أو لديه نية واضحة للإيذاء.
يمكن أن تنشأ المخاطر من خلال عدة مسارات متشابكة: عدم الدقة الذاتية، والاستخدام الضار من قبل البشر، والفشل التنظيمي، والنشر التنافسي. كما ذكر المؤلف على وجه التحديد أن الورقة "غير عملية" وتحلل الأسباب فقط ولا تقدم طرقًا لفعل الشر.
ولكن حتى الآن، لم "يفز" أحد حقًا بهذه المناقشة.
التعليقات