وفقًا لمجلة تايم، حققت شركة Anthropic الأمريكية الناشئة في مجال الذكاء الاصطناعي نجاحًا كبيرًا وتعتبر نفسها الشركة الأكثر تركيزًا على السلامة بين أفضل مختبرات أبحاث الذكاء الاصطناعي. ومع ذلك، قال المسؤولون التنفيذيون الأنثروبيون لصحيفة التايمز:تتخلى الشركة عن الوعد الأساسي لسياسة السلامة الرئيسية الخاصة بها.
وعدت شركة Anthropic في عام 2023 بأنها لن تقوم أبدًا بتدريب نظام الذكاء الاصطناعي ما لم تتمكن من ضمان التدابير الأمنية الكافية مسبقًا. ويصبح هذا الالتزام ركيزة أساسية لسياسة التوسع المسؤول (RSP) الخاصة بشركة Anthropic. لسنوات، روج المديرون التنفيذيون لشركة Anthropic لهذا الالتزام باعتباره دليلاً على أنهم شركة مسؤولة يمكنها مقاومة إغراءات السوق وليست في عجلة من أمرها لتطوير تكنولوجيا يحتمل أن تكون خطرة.
لكن في الأشهر الأخيرة، قررت الشركة إجراء إصلاح شامل لـ RSP.يتضمن القرار التخلي عن الالتزام الأصلي بعدم إصدار نماذج الذكاء الاصطناعي دون ضمان اتخاذ التدابير المناسبة لتخفيف المخاطر مقدمًا.
وقال جاريد كابلان، كبير مسؤولي العلوم في Anthropic، لمجلة TIME في مقابلة حصرية: "نعتقد أن إيقاف تدريب نماذج الذكاء الاصطناعي لا يساعد أي شخص في الواقع". "مع تقدم الذكاء الاصطناعي بسرعة،ولا نشعر أنه من المعقول بالنسبة لنا أن نقدم التزامات أحادية عندما يتقدم منافسونا بسرعة."
تتضمن سياسة Anthropic الجديدة التي استعرضتها The Times ما يلي: الالتزام بمزيد من الشفافية بشأن المخاطر الأمنية للذكاء الاصطناعي، بما في ذلك الكشف الإضافي عن أداء نماذج Anthropic الخاصة في الاختبارات الأمنية؛ والالتزام بالاستثمار وتجاوز مستوى المنافسين في مجال الأمن؛ والالتزام بـ "تأخير" عملية تطوير الذكاء الاصطناعي لشركة Anthropic إذا اعتقدت القيادة أن Anthropic هي الرائدة في سباق الذكاء الاصطناعي وتعتقد أن احتمال حدوث مخاطر كارثية مرتفع.
ولكن بشكل عام، أدى هذا التعديل في نظام RSP إلى تقليل القيود المفروضة على سياسة الأمن الأنثروبي بشكل كبير. في السابق، كانت السياسة تحظر بشكل صريح على الشركات تدريب النماذج بما يتجاوز مستوى معين دون اتخاذ تدابير أمنية مناسبة.
تواجه Anthropic حاليًا منافسة شديدة من المنافسين مثل OpenAI، وElon Musk’s xAI، وGoogle، وجميعها تطلق أدوات متطورة بشكل منتظم. وتخوض الشركة أيضًا نزاعًا مع وزارة الدفاع الأمريكية حول استخدام أداة كلود الخاصة بها. وكانت أنثروبيك قد أبلغت البنتاغون سابقًا أن الأدوات لا يجوز استخدامها للمراقبة الداخلية أو العمليات القاتلة المستقلة. ومع ذلك، أصدرت وزارة الدفاع الأمريكية أيضًا إنذارًا نهائيًا لشركة Anthropic، مهددة بإنهاء عقد Anthropic إذا تم تقييد استخدامه.
ذكرت أنثروبيك أن هذا التعديل على السياسة الأمنية كان بمثابة تحديث يعتمد على سرعة تطوير الذكاء الاصطناعي ونقص اللوائح ذات الصلة على المستوى الفيدرالي.
وقال متحدث باسم الأنثروبي أن هذا التعديلمصممة لمساعدة الشركات على التنافس مع منافسين متعددين في سياق سياسات غير متكافئ.وفي هذه البيئة، يتعين على الشركات أن تحكم بنفسها على مدى كفاية الضمانات الأمنية. وقالت أيضًا إن الالتزام الأمني ليس له علاقة بمفاوضات البنتاغون.
وقالت أنثروبيك في تدوينة تعلن عن هذا التغيير: "لقد تحولت بيئة السياسات نحو إعطاء الأولوية للقدرة التنافسية للذكاء الاصطناعي والنمو الاقتصادي، في حين أن المناقشات الموجهة نحو السلامة لم تكتسب بعد أرضية كبيرة على المستوى الفيدرالي". وقالت الشركة إنها لا تزال ملتزمة بالالتزام بمعايير السلامة الرائدة في الصناعة.