في 30 مارس، انفجر تعليق على مقطع فيديو مُعاد توجيهه على منصة X. قام المستخدم @malmesburyman بإعادة تغريد مقطع مقابلة مع الرئيس التنفيذي لشركة Anthropic Dario Amodei، مع التعليق: يمكنك أن تشعر حقًا من هذا الرجل لماذا وجد ترومان أوبنهايمر مثيرًا للاشمئزاز.
وفي الفيديو، يكرر أمودي خطابه المألوف:
إن نماذجنا قريبة جدًا بالفعل من مستوى الذكاء البشري، لكن المجتمع يفتقر إلى الوعي الواسع النطاق بالمخاطر القادمة.
أثار التعليق الاستقطاب. يعتقد المؤيدون أن أمودي يتظاهر بأنه قديس بينما يقوم بتطوير ذكاء اصطناعي قوي، تمامًا مثلما قال أوبنهايمر "يداه مليئتان بالدماء" بعد بناء القنبلة الذرية؛
ويقول المعارضون إن هذا التشبيه ببساطة لا يصمد. ولم يعبر أوبنهايمر عن ذنبه إلا بعد أن قتلت القنبلة الذرية مئات الآلاف من الأشخاص، في حين حذر أمودي من المخاطر قبل أن تتسبب التكنولوجيا في وقوع كارثة.
لكن السؤال الأعمق هو: لماذا يتم التشكيك في دوافع جميع القادة الذين يطورون الذكاء الاصطناعي المتطور، بغض النظر عن كيفية قيامهم بذلك؟
معضلة أمودي: التمسك بالخطوط الحمراء والتحول إلى تهديد لسلسلة التوريد؟
ليست هذه هي المرة الأولى التي يتم فيها توبيخ أمودي لتحذيره من مخاطر الذكاء الاصطناعي.
وفي شهر فبراير/شباط الماضي، رفض بند "جميع الاستخدامات المشروعة" الذي أقره البنتاغون، وأصر على الخطين الأحمرين اللذين حددتهما الأنثروبيك.
ونتيجة لذلك، أعلن وزير الدفاع بيت هيجسيث أن الأنثروبيك يمثل "تهديدًا أمنيًا لسلسلة التوريد"، وأمر ترامب جميع الوكالات الفيدرالية بإلغاء تنشيط كلود في غضون 6 أشهر.
هذا التصنيف، الذي يستخدم عادة ضد الخصوم الأجانب، لم يتم تطبيقه مطلقًا على شركة أمريكية.
صرح أمودي بصراحة في مذكرة داخلية مسربة أن السبب الحقيقي وراء عدم إعجاب البنتاغون وإدارة ترامب بالأنثروبيك هو:
لم نتبرع لترامب، ولم نمنح ترامب الثناء الديكتاتوري، ودعمنا تنظيم الذكاء الاصطناعي (الذي يتعارض مع أجندتهم)، وتحدثنا بصراحة عن قضايا سياسة الذكاء الاصطناعي (مثل استبدال الوظائف)، والتزمنا في الواقع بالخطوط الحمراء بدلاً من التواطؤ معهم لمسرح "الدراما الأمنية".
وبعد أسبوع اعتذر أمودي عن لهجة المذكرة قائلا "إنها لا تمثل وجهات نظري المدروسة".
إذا التزمت بمبادئك، فسوف يتم معاملتك كعدو.
إذا حذرت من المخاطر ورفضت التعاون، فسوف يتم استجوابك على أنك تسعى إلى السلطة أو تكتسب مكانة أخلاقية عالية.
معضلة ألتمان: دعم الخطوط الحمراء واتهامها بالانتهازية
إذا تم قمع أمودي لالتزامه بالخط الأحمر، فقد أخبرنا ألتمان أنه حتى لو دعمتم ذلك، فسوف يتم توبيخكم.
في 28 فبراير، بعد ساعات فقط من انهيار المحادثات بين الأنثروبيك والبنتاغون، أعلن ألتمان أن شركة OpenAI قد توصلت إلى اتفاق مع وزارة الدفاع.
وذكر أن OpenAI، مثل Anthropic، يحظر المراقبة الجماعية والأسلحة المستقلة بالكامل.
انفجر العالم الخارجي متهمًا شركة OpenAI بإضعاف موقف الأنثروبيك في لحظة حرجة:
ولو كانت هذه الشركات جادة حقا بشأن التزاماتها الأمنية، لكان عليها أن تتحد معا للوقوف في وجه البنتاغون بدلا من السماح للحكومة باستغلال بعضها البعض كمنافسين في السوق.
والأمر الأكثر إحراجًا هو أن موظفي OpenAI وقعوا للتو على خطاب مفتوح الأسبوع الماضي يدعمون الأنثروبيك ويعارضون البنتاغون.
الآن استدار المدير ووقع العقد، وشعر الموظفون بالخيانة.
اعترف ألتمان يوم الاثنين:
لا ينبغي لنا حقًا أن نتعجل في إصدار هذه الاتفاقية يوم الجمعة. لقد أردنا بصدق وقف تصعيد الوضع وتجنب نتيجة أسوأ، لكن الأمر بدا انتهازيًا ومتسرعًا.
ولكن حتى لو قامت شركة OpenAI بتغيير شروط العقد، فإن الخبراء القانونيين والمراقبين ما زالوا يتساءلون عما إذا كانت القيود ملزمة بالفعل.
وقال ألتمان للموظفين في اجتماع داخلي إن البنتاغون أوضح أن شركة OpenAI "لا يمكنها المشاركة في صنع القرار القتالي"، وأن الشركة يمكنها فقط تقديم الخبرة الفنية والمشورة، لكنها لا تستطيع التعبير عن رأيها بشأن جودة العمليات العسكرية.
معضلة هاسابيس: بعد عشر سنوات، تغير العالم
الوقت يغير كل شيء، بما في ذلك التزاماتك.
عندما استحوذت جوجل على شركة ديب مايند في عام 2014، وعدت جوجل بأن تكنولوجيا ديب مايند لن تستخدم أبدًا للأغراض العسكرية أو لأغراض الأسلحة.
وفي عام 2018، وقع مؤسسا هاسابيس وديب مايند على رسالة مفتوحة تدعو إلى وضع "معايير وأنظمة وقوانين دولية قوية ضد الأسلحة الفتاكة المستقلة".
ولكن بحلول عام 2025، قامت جوجل بمراجعة مبادئ الذكاء الاصطناعي الخاصة بها وحذفت التزامها بعدم تطوير التكنولوجيا العسكرية.
لقد تم الآن دمج تقنية DeepMind في برنامج Google Cloud وبيعها للجيش في العديد من البلدان، بما في ذلك الولايات المتحدة وإسرائيل.
تساءلت مجلة TIME: "هل قمت بالتسوية من أجل تحقيق أهداف الذكاء الاصطناعي العام؟" وكان جواب حسابيس:
أنا لا أعتقد ذلك. لقد قمنا مؤخرًا بتحديث بعض سياساتنا، جزئيًا استجابةً للزيادة الكبيرة في حالة عدم اليقين الجيوسياسي العالمي.
لسوء الحظ، أصبح العالم مكانًا أكثر خطورة. أعتقد أننا لم يعد بوسعنا أن نعتبر أن القيم الديمقراطية سوف تنتصر - فالأمر ببساطة غير واضح. لذلك أعتقد أننا بحاجة إلى العمل مع الحكومة.
في شهر مايو من هذا العام، وقع ما يقرب من 200 موظف في شركة DeepMind على خطاب داخلي يدعو الشركة إلى التخلي عن العقود العسكرية.
وفي اجتماع داخلي في يونيو/حزيران، ردت مديرة العمليات ليلى إبراهيم بأن DeepMind لن تصمم أو تنشر أي تطبيقات ذكاء اصطناعي للأسلحة أو المراقبة الجماعية، وأن عملاء Google Cloud ملتزمون بالشروط.
لا يوجد حل لهذه المعضلة، لكن التحذير لا يمكن أن يتوقف
أمودي وألتمان وهاسابيس، ثلاثة أشخاص سلكوا ثلاثة طرق مختلفة، لكنهم تعرضوا للتوبيخ جميعًا.
التمسك بالخط الأحمر؟ أنت تبحث عن أرضية أخلاقية عالية وميزة تنظيمية.
التسوية والتعاون؟ أنت منافق ولا تطابق كلامك مع أفعالك.
تغيير موقفك؟ أنت تبيع روحك من أجل المال.
عندما تكون مطورًا ومدافعًا عن الأمان، يتم تفسير كل تحذير تقوم به على أنه "إنك تقدم معروفًا لشركتك".
قد تكون هذه التوقعات صحيحة وقد تكون خاطئة.
ولكن هناك شيء واحد مؤكد. وبغض النظر عن أمودي أو ألتمان أو حسبي، وبغض النظر عما يقولونه أو يفعلونه، فإن بعض الناس سوف يشككون في دوافعهم.
ولكن ربما يظل الاستمرار في التحذير أثناء الجدل خيارًا أكثر مسؤولية بدلاً من انتظار وقوع الكارثة ثم القول "لقد حذرتك".