وفقا لصحيفة وول ستريت جورنال، دعت شركة أنثروبيك الناشئة للذكاء الاصطناعي أفضل مختبرات الذكاء الاصطناعي في العالم إلى النظر في إبطاء وتيرة البحث والتطوير على أساس أن أنظمة الذكاء الاصطناعي الحالية تتقدم بسرعة كبيرة للغاية وقد تتمكن قريبا من تحسين نفسها دون تدخل بشري، مما يشكل مخاطر اجتماعية كبيرة. وقالت شركة أنثروبيك في تدوينة يوم الخميس إنه إذا تمكنت من إبطاء وتيرة تطوير الذكاء الاصطناعي العالمي، فإن ذلك "سيكون على الأرجح أمرًا جيدًا". كشفت المقالة أيضًا عن البيانات الداخلية لشركة Anthropic، والتي توضح مدى سرعة تحسن قدرات نماذج الذكاء الاصطناعي الأكثر تقدمًا لديها.

كتب هذا المقال رئيس قسم الأبحاث والسياسات الداخلية في الأنثروبيك. تنص على،يبدو أن تطوير النماذج يتحرك في اتجاه "التحسين الذاتي العودي"، حيث يمكن لأنظمة الذكاء الاصطناعي تحسين نفسها دون تدخل بشري.ويرى البعض في صناعة الذكاء الاصطناعي أن هذه العتبة علامة على خطر محتمل واضطرابات اجتماعية ضخمة.

"نعتقد أنه سيكون أمرًا جيدًا إذا تمكن العالم من اختيار إبطاء أو إيقاف تطوير أحدث تقنيات الذكاء الاصطناعي للسماح للبنية الاجتماعية وأبحاث المواءمة بمواكبة التقدم التكنولوجي"، كما كتب المؤلفان مارينا فافارو وجاك كلارك. تقترح المقالة اتفاقًا عالميًا حول كيفية إبطاء تطوير الذكاء الاصطناعي، بالإضافة إلى آلية التحقق للتحقق مما إذا كان المنافسون يلتزمون بالاتفاق.

ويحذر المقال من أن التحسين الذاتي العودي لم يحدث بعد وليس حتميًا، "لكنه قد يصل في وقت أقرب مما تكون معظم المنظمات مستعدة له".


مدونة الأنثروبي

أكملت Anthropic مؤخرًا جولة تمويل تقدر قيمة الشركة بحوالي 1 تريليون دولار وقدمت وثائق سرية لبدء عملية طرح أسهمها للاكتتاب العام. وقد برزت الشركة مؤخرًا كشركة رائدة في المنافسة الشرسة مع OpenAI من أجل تفوق الذكاء الاصطناعي. ومن المتوقع أيضًا أن تقدم OpenAI المستندات المتعلقة بالاكتتاب العام قريبًا.

لقد ركزت الشركة على سلامة الذكاء الاصطناعي منذ إنشائها، لكنها تعرضت لانتقادات طويلة من قبل العالم الخارجي، معتقدة أن اقتراح سياستها هو في الواقع محاولة لإبطاء التقدم في أبحاث وتطوير الذكاء الاصطناعي لدى المنافسين. اتهم ديفيد ساكس، وهو صاحب رأس مال مغامر ومستشار غير رسمي للرئيس ترامب، قيادة شركة أنثروبيك باتباع "أجندة السيطرة التنظيمية" التي تستخدم التنظيم لقمع المنافسين.

وفي تدوينة صوتية حديثة، قال ساكس إن "أجندة السيطرة التنظيمية" هذه في واشنطن يمكن أن تؤدي في النهاية إلى حظر ما يسمى بنموذج المصدر المفتوح. عادةً ما تكون هذه النماذج أقل تكلفة وأسهل على الشركات والمؤسسات نشرها وتطويرها بمفردها.

ويعتقد آخرون أن تحذيرات شركة أنثروبيك بشأن الإمكانات الخطيرة لأدواتها الخاصة يمكن أن يُنظر إليها أيضًا على أنها حيلة تسويقية.يشير هؤلاء المتشككون إلى قرار Anthropic بالحد من إصدار نموذج الأمن السيبراني القوي "Mythos"، والذي يمكنه العثور على نقاط الضعف والمشكلات في التعليمات البرمجية، باعتباره حيلة ترويجية ذكية للترويج لقدرات منتجها.

وفي هذا الصدد، ذكرت قيادة Anthropic أن الشركة تأخذ قضايا أمن الذكاء الاصطناعي على محمل الجد وتلتزم بتعزيز المزيد من المناقشات الاجتماعية حول المخاطر ذات الصلة.