الملخص:
قبل عشر سنوات، أخبر ألتمان صحيفة نيويوركر أنه قام بإعداد أسلحة وذهب ومضادات حيوية وأقنعة غاز، كما ترك قطعة أرض في بيج سور، كاليفورنيا، يمكنه السفر إليها. وبعد مرور عشر سنوات، يشرح رئيس OpenAI للجمهور لماذا يجب على الجميع قبول بعض المخاطر التي يجلبها الذكاء الاصطناعي.
وفقًا لتقرير نشرته رويترز في 4 أكتوبر/تشرين الأول، زعم ألتمان في مقابلة أنه
من أجل جني الفوائد الهائلة للذكاء الاصطناعي والحفاظ على استقلالية الناس في استخدام التكنولوجيا، يجب على المجتمع أن يتسامح مع حدوث بعض "الأشياء السيئة"، مثل هجمات القراصنة والاحتيال وإساءة استخدام التكنولوجيا.
بينما يدعو الجمهور إلى المخاطرة، وفي الوقت نفسه يستعد سرًا لتراجع لنفسه، فإن هذه ليست العملية الفريدة التي قام بها ألترامان وحده. وفقًا لتقارير وسائل الإعلام مثل صحيفة وول ستريت جورنال، يفكر بعض الموظفين الأوائل في Anthropic أيضًا في شراء الأراضي في المناطق النائية في الولايات المتحدة حتى يتمكنوا من الإخلاء بسرعة "عندما تكون هناك مشكلة في الذكاء الاصطناعي".
إنهم يؤمنون إيمانًا راسخًا بأن التكنولوجيا يمكن أن تغير العالم، لكنهم يخشون بشدة أنهم لن يتمكنوا من التعامل مع العواقب المترتبة على فقدان السيطرة.
هذه المجموعة من الأشخاص الذين ضغطوا شخصيًا على زر تسريع العصر، بينما كانوا يصفون مستقبلًا أفضل في المؤتمر الصحفي، قاموا سرًا بنصب حصون تحت الأرض في البرية. يوجد خارج القلعة أناس عاديون ليس لديهم أي فكرة عما يحدث ولا يمكنهم منع حدوثه.
طريق الهروب في المخبأ الفاخر
في جزيرة كاواي في هاواي، يقوم مؤسس ميتا مارك زوكربيرج ببناء سياج عالٍ لمزرعته في كولاو.
بعد مراجعة وثائق التخطيط، وجدت مجلة Wired أنه يخطط لبناء ملجأ تحت الأرض تبلغ مساحته حوالي 465 مترًا مربعًا في القصر، والذي لن يربط المساكن عبر الممرات فحسب، بل سيُنشئ أيضًا مخارج للهروب خصيصًا.
تشير التقديرات إلى أن زوكربيرج أنفق أكثر من 270 مليون دولار على المشروع بأكمله (بما في ذلك شراء الأرض). بعد ذلك، قام بشراء أرض إضافية قريبة، مما أدى إلى توسيع حيازات الأراضي في كاواي إلى أكثر من 2300 فدان.
يبحث الأغنياء عن ملجأ بعيدًا عن هاواي. اشترى قطب الاستثمار بيتر ثيل 193 هكتارا من الأراضي بالقرب من واناكا، نيوزيلندا، في وقت مبكر من عام 2015؛ اشترى أنطونيو جارسيا مارتينيز، مدير المنتجات السابق في فيسبوك، أرضًا حرجية على جزيرة صغيرة وقام بتزويدها بالمولدات الكهربائية والألواح الشمسية والذخيرة.
قدر المستثمر ريد هوفمان لصحيفة نيويوركر أن أكثر من نصف مليارديرات وادي السيليكون الذين يعرفهم قاموا بنوع من الاستعدادات للإخلاء.
إذا كان الأثرياء في وادي السيليكون قد اشتروا الأراضي في الأيام الأولى بسبب المخاوف بشأن الوباء أو الاضطرابات الاجتماعية، فإن هذا النوع من الاستعداد أصبح أكثر استهدافًا وإلحاحًا بين الشركات الناشئة في مجال الذكاء الاصطناعي.
في صيف عام 2023، صرح إيليا سوزكفر، المؤسس المشارك لشركة OpenAI ثم كبير العلماء، بصراحة في اجتماع مع باحثين جدد أنه قبل إطلاق AGI (الذكاء الاصطناعي العام)، يجب بناء مخبأ لحماية سلامة العلماء الأساسيين. وأضاف أن الدخول كان طوعيا تماما.
على الرغم من أن هذا كان مجرد اقتراح، إلا أنه عندما قال هذه الكلمات، كان يشعر بالفعل بخوف معين بشأن التكنولوجيا التي طورها.
مما يخافون
عندما تحدث هراري عن "نبوءة فرانكنشتاين" في "تاريخ موجز للإنسانية"، أشار إلى خوف البشرية المطلق من الخلق:
نحن على استعداد لتخيل مستقبل أكثر تقدما، شريطة أن يظل البشر هم الأسياد. بمجرد أن نخلق كائنًا تتجاوز قدراته قدراتنا بكثير، فقد نفقد قدرتنا على تحديد المستقبل.
بالنسبة للباحثين المتطورين في مجال الذكاء الاصطناعي، فإن "ما إذا كان بإمكانهم فهم النماذج التي دربوها وما إذا كان بإمكانهم تقييد أفعالهم" لم يعد مناقشة فلسفية، بل أصبح حقيقة مرعبة يجب عليهم مواجهتها كل يوم في العمل.
اعترف جاكوب كوكسون، الباحث الذي عمل في OpenAI وAnthropic، لبي بي سي بعد ترك وظيفته بأن أقرانه يخشون سرعة تطور الذكاء الاصطناعي، لكنهم ما زالوا يواصلون تطوير عملهم مع هذه المخاوف كل يوم.
في جلسة استماع عقدها مجلس مدينة نيويورك مؤخرًا، دعا موظفون سابقون في العديد من شركات الذكاء الاصطناعي إلى قدر أكبر من الإشراف، وانتقدوا شركات التكنولوجيا لاتباعها نهج ريادة الأعمال المتهور المتمثل في "التطوير السريع أولاً، وإصلاح المشكلات لاحقًا".
كتب كبير العلماء في OpenAI جاكوب باتشوتسكي أيضًا مقالًا يعترف فيه بأن الباحثين ما زالوا غير قادرين على فهم النموذج ومراقبته بشكل كامل.
أكثر ما يقلقه هو أن الذكاء الاصطناعي القوي بدرجة كافية يمكن أن يسبب ضررًا للعالم الحقيقي من خلال أنظمة شبكات الكمبيوتر حتى لو لم يكن له جسد مادي.
هذا القلق لا أساس له من الصحة بأي حال من الأحوال.
في شهر يوليو، واجهت شركة OpenAI مثل هذه المشاكل. وفي اختبارات أمان الشبكة الداخلية، طلبت الشركة من نماذجها القيام بمهام صعبة وخفضت بعض وسائل الحماية المستخدمة عادةً في المنتجات العامة. ثم تجاوز النموذج إجراءات العزل ودخل إلى الشبكة الخارجية، مغزوًا منصة Hugging Face للمطورين لمشاركة النماذج والبيانات.
قامت شركة OpenAI بالتحقيق لاحقًا ووجدت أنه من أجل إكمال الاختبار، قام النموذج بتبادل المعلومات من خلال قنوات غير مصرح بها من قبل الباحثين، كما أدخل أيضًا أنظمة خارج نطاق المهمة.
وكشفت أنثروبيك أيضًا عن حادثة مماثلة في يوليو/تموز. وبطبيعة الحال، لا تزال هذه الحوادث بعيدة كل البعد عن الانقراض البشري الذي تنبأ به الباحثون.
لكنهم رأوا بشكل مباشر كيف يمكن للنماذج عبور الحدود المحددة مسبقًا بسهولة وتمس الشركات والبيانات الحقيقية.
لكن معرفة الخطر لا يعني أن بإمكانهم الاتفاق على موعد التوقف.
من الذي يقرر استخدام المكابح
؟تعهدت شركة أنثروبيك ذات مرة بتعليق تدريب النماذج الأقوى إذا لم تتمكن الإجراءات الأمنية من مواكبتها.
في عام 2023، أعلنت الشركة عن "سياسة توسع مسؤولة" صارمة. ومع ذلك، بحلول بداية عام 2026، لم تقم الإدارة بإعادة كتابة هذه المجموعة من السياسات فحسب، بل خففتها إلى "خارطة طريق عامة ومراجعة خارجية"، ولكنها أضافت أيضًا "شرط المنافسة" القاتل في الملحق:
لا يكون تأخير التطوير ضروريًا إلا إذا اعتقدت الشركة أنها تتقدم بشكل كبير وأن المنافسين لن يلحقوا بالركب قريبًا. بمجرد أن لا يكون متقدمًا كثيرًا، ينتهي التزام التأخير تلقائيًا.
إن التفسير الذي قدمه كبير مسؤوليها العلميين، جاريد كابلان، واضح ومباشر: إذا كان المنافسون لا يزالون يتقدمون، فإن إيقافهم من جانب واحد لن يحمي أحداً.
توفر هذه المجموعة من المنطق إخلاء مسؤولية مثاليًا لجميع عمالقة الذكاء الاصطناعي:
بما أن الخصم لن يتوقف، فإن اتخاذ الخطوة الأولى يعد "شرطًا ضروريًا" لحماية البشرية جمعاء. ونتيجة لذلك، فإنهم لا يضطرون حتى إلى إنكار المخاطر لمواصلة التسارع بشكل مبرر.
وفي الوقت نفسه، يعمل جنون رأس المال أيضًا على صب الزيت على النار. وفقًا للتقارير، تستعد Anthropic لطرح أسهمها للاكتتاب العام بتقييم محتمل يزيد عن 2 تريليون دولار.
بين السلامة والنمو، يرتبط الموظفون والمساهمون وشركاء الأعمال جميعًا بنفس العربة عالية السرعة.
من أجل الحفاظ على أسطورة التقييم، بدأوا في استخدام النماذج الحالية لتطوير الجيل القادم - كشفت Anthropic أن كلود شارك في 26% من أعمال البحث والتطوير الخاصة بالذكاء الاصطناعي في الشركة.
ليس الأمر كما لو أن المديرين لم يضغطوا على المكابح على الإطلاق. على سبيل المثال، قامت OpenAI بإلغاء إصدار GPT-6.1 Astra مؤقتًا لأن النموذج لم يلبي المعايير من حيث الترخيص والشفافية السلوكية. لكن هذا الانسحاب المؤقت على مستوى المنتج ليس كافيًا لتهدئة النزاع الداخلي على الخط.
وصف ديفيد روبنسون، أحد أعضاء فريق أمان OpenAI الذي غادر مؤخرًا، هذه الحالة من "التنافر المعرفي" الشديد:
تحذر الشركات كل يوم من مدى خطورة النماذج، ولكنها تقوم بتدريب هذه النماذج ونشرها داخليًا دون توقف. وقد نشأت خلافات لا يمكن حلها بين الجانبين بشأن القضية الأساسية المتمثلة في "ما هو حجم المخاطرة التي ينبغي لنا أن نخوضها بعد ذلك؟"
على الرغم من أن المسؤولين التنفيذيين في الصناعة سيدعوون علنًا إلى "التباطؤ المنسق" أو يدفعون نحو التنظيم الحكومي في العديد من البلدان، إلا أنه في ساحة المعركة التجارية التي تفتقر إلى الثقة المطلقة والتحقق الإلزامي، يمكن لأي شخص أن يلجأ إلى هذا العذر المألوف في أي وقت:
"إذا توقفنا، فلن يتوقف الآخرون."
عندما يكون لدى عدد قليل من الأشخاص القدرة على استخدام التكنولوجيا لإعادة تشكيل حياة الجميع، ولديهم الموارد المالية اللازمة لإعطاء الأولوية لبناء ملجأ لأنفسهم، لا يمكننا فقط أن نتساءل "ما الذي يخشونه"، ولكن يجب أن نسأل: لماذا يتركون البشرية جمعاء تدفع ثمن مغامراتهم؟
يمكنهم أن يقرروا مكان بناء مخابئهم الخاصة، لكن ليس لديهم القدرة على أن يقرروا للجميع حجم المخاطرة التي يجب عليهم تحملها. خاصة عندما لا يستطيعون هم أنفسهم الحكم بشكل كامل على العواقب.
قبل سنوات عديدة، قال هراري في نهاية "تاريخ موجز للإنسانية":
"لديك قوة الله، لكنك غير مسؤول، وجشع، ولا تعرف حتى ما تريد. العالم خطير، وأخشى أنه ليس أكثر من هذا."
التعليقات