الملخص:
قال باحث في مجال الأمن الإنساني يوم الثلاثاء إن الذكاء الاصطناعي لديه فرصة أكبر من 10% في "تدمير البشرية جمعاء". وجاءت هذه التعليقات بعد ساعات فقط من إعلان موظف آخر أنه اختار ترك الشركة بسبب مخاوف من أن مختبر الذكاء الاصطناعي "يراهن بحياتنا".
تسلط التعليقات الضوء على المخاوف المتزايدة بين أولئك الذين يعملون في قلب أبحاث وتطوير الذكاء الاصطناعي من أن التكنولوجيا يمكن أن تخرج عن نطاق السيطرة وتشكل تهديدًا للبشرية، حتى مع استمرار Anthropic وOpenAI في جمع تمويل كبير والتحرك نحو الإدراج العام المتوقع.
وقال الباحث الأنثروبي جاكوب كوكسون يوم الثلاثاء إنه استقال من الشركة. لقد نشر على منصة X أنه لم تعتمد Anthropic أو OpenAI ممارسات مسؤولة.
"إنهم يتجهون مباشرة نحو الذكاء الفائق التكراري الذاتي، ويراهنون على حياة البشر."
يعني التكرار الذاتي أن نظام الذكاء الاصطناعي يمكنه تحقيق التحسين الذاتي دون تدخل بشري كبير. هذه التقنية، التي تسمى غالبًا التحسين الذاتي العودي، ليست قابلة للتحقيق بعد، لكن مختبرات الذكاء الاصطناعي الكبرى تعمل على تحقيقها.
لا تقلل من شأن قوة هذه التكنولوجيا،" قال كوكسون. "قريبًا ستكون هناك أنظمة تتجاوز القدرات البشرية يمكنها اختراق أي نظام، وتعطيل أي قطاع بين عشية وضحاها، واكتساب قوة وموارد حقيقية. لقد شهدنا جميعًا بشكل مباشر التقدم الذي يتم إحرازه في هذه المجالات، وهو لا يتباطأ على الإطلاق."
وأضاف أيضًا: "يعتقد العديد من الأشخاص المشاركين في أبحاث وتطوير الذكاء الاصطناعي أنه بحلول نهاية هذا العقد، قد يدمر الذكاء الاصطناعي البشرية جمعاء."
أثارت هذه التصريحات ردًا من إيفان هاربينجر، رئيس قسم أبحاث المحاذاة في Anthropic. وقال إن بيان كوكسون ليس صحيحًا فحسب، بل ليس لدى أنثروبيك حاليًا خطة استجابة لهذا الوضع.
قال النذير على
في يونيو من هذا العام، أشارت أنثروبيك إلى أن "التكرار الذاتي العودي تمامًا قد يزيد أيضًا من خطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي."
كتبت أنثروبيك في إحدى المدونات: "إذا كانت الأنظمة قادرة على إنشاء الجيل التالي من الذكاء الاصطناعي باستقلالية كاملة، فإن الوسائل التي لدينا لتأمينها ومراقبتها وتنظيم سلوكها ستصبح بالغة الأهمية."
كانت المخاوف بشأن خروج الذكاء الاصطناعي عن نطاق السيطرة موجودة منذ فترة طويلة. حذر إيلون ماسك، الرئيس التنفيذي لشركة Tesla وSpaceX، لسنوات من أن الذكاء الاصطناعي يمكن أن يشكل تهديدًا للبشرية. كما أصدر العديد من كبار الباحثين والعلماء تحذيرات، مذكّرين الشركات بمخاطر فقدان السيطرة على أنظمة الذكاء الاصطناعي.
في يوليو من هذا العام، تزايدت حدة هذه المخاوف بعد أن أظهر نموذج OpenAI سلوكًا غير طبيعي واقتحام Hugging Face، وهي منصة مهمة لمطوري البرامج مفتوحة المصدر.
نظر كوكسون إلى حادثة Hugging Face على أنها سلسلة من "علامات الإنذار المبكر". وهو يعتقد أن مثل هذه الحوادث زادت من إمكانية التوصل إلى اتفاق بين مختلف مختبرات الذكاء الاصطناعي في الولايات المتحدة، وأعطته أيضًا توقعات أعلى للتعاون متعدد الأطراف. لكن كوكسون حذر أيضًا من أن سباق الذكاء الاصطناعي العالمي أمر لا مفر منه.
"لا أعتقد أننا نتقدم إلى الحد الكافي لوقف السباق العالمي. وللقيام بذلك، قد نحتاج إلى اتخاذ خطوات مكلفة، مثل فرض حظر مؤقت على الاستمرار في تحسين قدرات النماذج". قال كوكسون.
التعليقات