في 14 يونيو، وفقا لصحيفة وول ستريت جورنال، قال أشخاص مطلعون على الأمر إن إدارة ترامب قررت التوقف عن السماح للأجانب باستخدام نماذج الذكاء الاصطناعي الأكثر تقدما من شركة أنثروبك.ويأتي القرار من الرئيس التنفيذي لشركة أمازون آندي جاسي(آندي جاسي)مع وزير الخزانة الأمريكي سكوت بيسانت(سكوت بيسنت)التواصل بين المسؤولين.
وفقًا لأشخاص مطلعين على الأمر، أخبر جاسي المسؤولين الأمريكيين أن باحثي أمازون استخدموا سلسلة من الكلمات السريعة للقيام بذلكيوفر التشغيل الناجح لنموذج Anthropic's Fable 5 معلومات محظورة يمكن استخدامها لمساعدة الهجمات الإلكترونية. كان المسؤولون التنفيذيون في صناعة التكنولوجيا على اتصال منتظم مع الحكومة حول قوة أدوات الذكاء الاصطناعي المتطورة.
وبعد فترة وجيزة، عقد مسؤولو البيت الأبيض اجتماعًا لمناقشة الرد، وبدأ الباحثون الأمنيون في التحقق من مزاعم أمازون. وفقا لمسؤولين حكوميين، طلب المسؤولون الأنثروبيونإصلاح نقاط الضعف ذات الصلة، وإلا فإنه سوفتمت إزالتها من الرفوفالنموذج.
وقال أشخاص مطلعون على الأمر إن المسؤولين الأمريكيين قرروا في النهاية أن الطريقة الأكثر مباشرة للقضاء على الخطر هي منع الحكومات والشركات والأفراد الأجانب من استخدام الأداة. وقال مسؤول كبير في البيت الأبيض إن الرئيس ترامب وافق في النهاية على هذه الخطوة على الرغم من المخاوف من أنها قد تعيق الابتكار.
يقوم جاسي، الرئيس التنفيذي لشركة أمازون، بإبلاغ المسؤولين الأمريكيين عن المشكلات النموذجية
لقد زعمت الحكومة الأمريكية منذ فترة طويلة أن شركة أنثروبيك، إحدى الشركات الرائدة في سباق الذكاء الاصطناعي في الولايات المتحدة، لا يمكن الوثوق بها لإدارة المخاطر الأمنية التي تفرضها نماذجها الجديدة بشكل صحيح. وقال أشخاص مطلعون على الأمر إن مكالمة بين بعض المسؤولين الحكوميين والرئيس التنفيذي لشركة أنثروبيك داريو أمودي يوم الجمعة عززت هذا الرأي.
ردًا على خطوة الحكومة، قالت أنثروبيك إنها ستفعل ذلك لضمان الامتثالقم بقطع وصول المستخدم إلى نماذج Mythos وFable، مما قد يعيق الجهود التي تبذلها الشركات في جميع أنحاء العالم لاستخدام هذه الأدوات لتحديد نقاط الضعف في البرامج. وقالت الشركة إن العديد من الباحثين في شركة أنثروبيك ولدوا في الخارج، مما يعني أن اللوائح الحكومية تمنعهم فعليًا من العمل على أحدث نماذجها.
يعكس التواصل بين حكومة الولايات المتحدة وأمازون مدى عمل الشركات الأمريكية الكبيرة والحكومة معًا للاستجابة للقدرات الجديدة التي توفرها تكنولوجيا الذكاء الاصطناعي. تعد أمازون مستثمرًا رئيسيًا في Anthropic، ولا تقوم بتوريد الرقائق لمراكز البيانات الخاصة بها فحسب، بل تنشر أيضًا نماذجها الأكثر تقدمًا لتحديد نقاط الضعف في البرامج. وأظهرت سلسلة من الأحداث التي حدثت بسرعة يوم الجمعة أنه في مجال الذكاء الاصطناعي، يمكن للاكتشافات الجديدة والنتائج التجريبية أن تؤثر بسرعة على السياسات التنظيمية الحكومية وقد تؤثر بشكل أكبر على آفاق التنمية ومصير السوق للشركات.
ورد متحدث باسم أمازون: "باعتبارنا مزود خدمات سحابية رائدًا يخدم عددًا كبيرًا من عملاء القطاعين الخاص والعام، ليس من غير المألوف أن تتشاور الحكومات معنا بشأن المخاطر الأمنية المحتملة. وعندما تحدث هذه المواقف، فإننا لا نكشف عن تفاصيل المناقشات".
وقالت أنثروبيك إن نقاط الضعف التي أشارت إليها أمازون هي في الواقع مشكلات أساسية نسبيًا. وقالت الشركة إن النماذج الأخرى المتاحة للجمهور قادرة أيضًا على اكتشاف نقاط الضعف هذه، وأن هذه المشكلات لا تشكل ما يسمى بـ "الهروب من السجن" بشكل كامل. يتفق بعض الباحثين الأمنيين المطلعين على أبحاث أمازون مع ذلك.
وقالت Anthropic أيضًا إنها نشرت إجراءات أمنية كافية، ومن المعروف أن الشركة تأخذ الأمن على محمل الجد. وكانت الشركة قد أوقفت في السابق توسيع نطاق الوصول إلى نماذج Mythos، بعد توجيهات من البيت الأبيض.
تقرير أمازون
وتأتي ضوابط التصدير يوم الجمعة في أعقاب تقارير تفيد بأن أحد المستخدمين تجاوز إجراءات الحماية الأمنية لنموذج Anthropic Fable 5، مما زاد المخاوف من إمكانية استخدامه للمساعدة في الهجمات الإلكترونية.
أظهر تقرير شاركته أمازون مع خبراء الأمن السيبراني حول نموذج Fable أنه عندما تم الاستعلام عن Fable باستخدام مجموعة محددة من الكلمات السريعة، كان النموذج قادرًا على اكتشاف الثغرات الأمنية في أربعة برامج على الأقل، وفقًا لأشخاص مطلعين على الأمر والذين اطلعوا على التقرير. وقال أندرو موريس، مؤسس شركة الأمن السيبراني GreyNoise Intelligence، إن هذه المعلومات لا يتم توفيرها عادةً من قبل Fable، لكنها لا تزال بعيدة عن معلومات الأمن السيبراني الخطيرة حقًا.
وقال إن العديد من الأدوات الأخرى تمكنت من العثور على نقاط ضعف مماثلة. ومع ذلك، فقد اجتذب برنامج Anthropic الكثير من الاهتمام لأنه يُعتقد أنه قادر على تحويل معلومات الثغرات الأمنية إلى "رمز استغلال" يمكن تشغيله بالفعل. ويمكن استخدام مثل هذا الرمز لاقتحام شبكات الكمبيوتر، لكن لا يوجد دليل على أن باحثي أمازون نجحوا في الحصول على هذه القدرة المحمية بواسطة آلية الحماية الأمنية Fable.
وفقًا لأشخاص مطلعين على الأمر، اعتبر البعض مكالمة الرئيس التنفيذي لشركة أمازون جاسي للمسؤولين الحكوميين بمثابة تذكير عام، لكن الأمر تصاعد بسرعة، مما أدى في النهاية إلى الحظر الكامل الذي فرضته وزارة التجارة على وصول المستخدمين الأجانب إلى نماذج Mythos وFable. وشارك في المناقشة المدير السيبراني الوطني شون كيرنكروس ووزير التجارة هوارد لوتنيك. وزارة التجارة مسؤولة عن ضوابط التصدير على التكنولوجيات الرئيسية.
بدأت Anthropic في معاينة نموذج Mythos لشركة Amazon وشركات التكنولوجيا الأخرى في وقت سابق من هذا العام، وتعمل مع إدارة ترامب على نهج تدريجي، بهدف السماح للمستخدمين الرئيسيين باستخدام النموذج للعثور على نقاط الضعف في البرامج وإصلاحها قبل فتح الوصول إلى الجمهور الأوسع.
هذه الإجراءات التي اتخذتها الحكومة الأمريكية يوم الجمعة أشعلت مرة أخرى الصراع الطويل الأمد بين إدارة الأنثروبيك وترامب. وقد ذهب الطرفان بالفعل إلى المحكمة بشأن استخدام نماذج الذكاء الاصطناعي. لا تزال إدارة ترامب غير واثقة من الشركة الناشئة، مستشهدة بعلاقاتها مع الجهات المانحة لقضايا ليبرالية وتحذيراتها بشأن مخاطر الذكاء الاصطناعي. وسبق أن عينت أنثروبيك العديد من المسؤولين السابقين في إدارة بايدن، كما انتقد أمودي ترامب وإدارته.
وحضر أمودي وبيسانت ورئيسة موظفي البيت الأبيض سوزي وايلز اجتماعا في أبريل اعتبر فرصة لحسن النية والمصالحة، لكنه تضمن أيضا مناقشات أمنية.