وفقا لمجلة MIT Technology Review، تخطط وزارة الدفاع الأمريكية لتحول كبير: بناء بيئة تدريب سرية للغاية لشركات الذكاء الاصطناعي التوليدي حتى تتمكن من تدريب الإصدارات العسكرية من النماذج الكبيرة على بيانات الاستخبارات العسكرية السرية. وهذا يعني أن النماذج التي كانت في الأصل "تقرأ" و"تجيب على الأسئلة" فقط في بيئة سرية قد تستخدم البيانات السرية بشكل مباشر كمواد تدريبية في المستقبل، وبالتالي "تكتب" معلومات حساسة في النموذج نفسه.
وبالفعل، يتم نشر بعض نماذج الذكاء الاصطناعي التوليدية، مثل كلود من أنثروبك، في بيئات سرية للإجابة على الأسئلة وتحليل المساعدات، بما في ذلك الأهداف الإيرانية. ومع ذلك، تقوم هذه النماذج حاليًا بمعالجة المعلومات السرية فقط استنادًا إلى الإمكانات الحالية، ولن تعيد استخدام البيانات لتدريب النماذج نفسها وتحديثها. وإذا سمح للنموذج بالتدريب على البيانات السرية، فمن المتوقع أن يكون أكثر دقة وكفاءة في أداء مهام عسكرية محددة، ولكنه سيقدم أيضًا مخاطر أمنية غير مسبوقة.
وقال مسؤول دفاعي أمريكي لم يذكر اسمه، إن تدريب النموذج العسكري المخصص على البيانات السرية من المتوقع أن يؤدي إلى تحسين أدائه وموثوقيته بشكل كبير في مهام محددة. وتأتي الخطة وسط تزايد الطلب على نماذج ذكاء اصطناعي أكثر قوة في الجيش الأمريكي: توصل البنتاغون إلى اتفاقيات مع OpenAI و Musk's xAI لتشغيل نماذجه في بيئة سرية، ويتبع استراتيجية جديدة للذكاء الاصطناعي تهدف إلى تحويل الجيش الأمريكي إلى "قوة قتالية تعتمد على الذكاء الاصطناعي أولاً" ردًا على الصراع المتصاعد مع إيران. وحتى وقت كتابة المقالة، لم يعلق البنتاغون رسميًا على خطة التدريب هذه.
وفقًا لشخصين مطلعين على أوضاع التشغيل ذات الصلة، سيتم ترتيب التدريب أعلاه في مركز بيانات معتمد للمشاريع المصنفة، حيث سيتم إقران نسخة معينة من نموذج الذكاء الاصطناعي مع البيانات المصنفة في نفس البيئة الآمنة. وفقًا لمسؤول الدفاع، على الرغم من أن ملكية البيانات تظل مع وزارة الدفاع الأمريكية، في حالات نادرة، قد يُسمح أيضًا لموظفي شركة الذكاء الاصطناعي بالوصول إلى البيانات السرية إذا كان الموظفون المعنيون لديهم التصريح الأمني المناسب. قبل التطرق فعليًا إلى البيانات السرية، يخطط البنتاغون لاختبارها أولاً على بيانات غير سرية، مثل صور الأقمار الصناعية التجارية، لتقييم التحسينات الفعلية في دقة وفعالية النموذج المُدرب.
استخدم الجيش الأمريكي منذ فترة طويلة جيلًا أقدم من نماذج الرؤية الحاسوبية للتعرف على الأشياء من خلال الصور ومقاطع الفيديو التي تجمعها الطائرات بدون طيار وطائرات الاستطلاع، وكلف الشركات من خلال عقود حكومية بتدريب الخوارزميات على مثل هذه البيانات. في السنوات الأخيرة، ظهرت أيضًا نماذج لغوية كبيرة مخصصة وإصدارات روبوتات الدردشة للسيناريوهات الحكومية واحدة تلو الأخرى، مثل Claude Gov الذي أطلقته Anthropic، والذي يؤكد على القدرات المتعددة اللغات والنشر في بيئة آمنة. ومع ذلك، فإن هذا البيان الصادر عن مسؤولي الدفاع هو المرة الأولى التي يتم فيها الكشف بوضوح عن أن شركات مثل OpenAI وxAI التي تطور نماذج لغوية واسعة النطاق يمكنها تدريب النماذج المخصصة للحكومة بشكل مباشر على البيانات السرية.
أشار ألوك ميهتا، الرئيس السابق لسياسة الذكاء الاصطناعي في Google وOpenAI والمدير الحالي لمركز Wadhwani للذكاء الاصطناعي التابع لمركز الدراسات الاستراتيجية والدولية (CSIS)، إلى أنه بالمقارنة مع مجرد "القراءة والإجابة" في بيئة سرية، فإن استخدام البيانات السرية حقًا لتدريب النماذج سيجلب مخاطر جديدة. وهو يعتقد أن المشكلة الأكبر هي أن المعلومات السرية التي يمتصها التدريب النموذجي قد "تظهر مرة أخرى" عندما يتم الاستعلام عنها أو استدعاؤها من قبل مستخدمين مختلفين في المستقبل. وهذا أمر خطير بشكل خاص عند مشاركة مجموعة من النماذج عبر خدمات متعددة أو خدمات ذات مستويات مختلفة من الأمان واحتياجات استخباراتية مختلفة.
على سبيل المثال، قال ميهتا إنه إذا كان لدى النموذج إمكانية الوصول إلى معلومات استخباراتية بشرية حساسة للغاية، مثل هوية عميل سري، فيمكن "تسريب" هذه المعلومات عن طريق الخطأ إلى فرع آخر من الجيش عندما يتم استخدام النموذج من قبل فرع آخر من الجيش لا يمكنه الوصول. لن يشكل هذا خطرًا على حياة أو موت مصادر الاستخبارات وأفراد الخطوط الأمامية فحسب، بل سيكون من الصعب أيضًا منعه من الناحية الفنية، خاصة عندما يتم مشاركة نفس النموذج من قبل وحدات متعددة. في المقابل، يعتقد أنه من الأسهل نسبيًا "تأمين" المعلومات السرية داخل الجيش وتجنب تدفقها مرة أخرى إلى الإنترنت المفتوح أو شركات الذكاء الاصطناعي.
في الوقت الحاضر، أنشأت حكومة الولايات المتحدة بعض البنية التحتية ذات الصلة: على سبيل المثال، تلقت شركة الأمن بالانتير العديد من العقود واسعة النطاق لبناء نظام أمني للحكومة يمكنه الإجابة على الأسئلة والأجوبة حول مواضيع سرية دون إعادة المعلومات إلى شركات الذكاء الاصطناعي. في هذه الأنظمة، يمكن للمسؤولين طرح نماذج حول المحتوى السري، في حين تقتصر البيانات على بيئة خاضعة للرقابة. ومع ذلك، فإن تطبيق نفس البنية الأمنية على التدريب، وليس فقط الاستدلال والإجابة على الأسئلة، يظل تحديًا تقنيًا وإداريًا جديدًا.
في يناير من هذا العام، أصدر وزير الدفاع بيت هيجسيث مذكرة يحث فيها على تسريع إدخال المزيد من قدرات الذكاء الاصطناعي في جميع أنحاء نظام الدفاع، وتعزيز تخطيط البنتاغون في هذا المجال. تم استخدام الذكاء الاصطناعي التوليدي في القتال الفعلي، مثل تصنيف الأهداف المحتملة وإعطاء اقتراحات الضربة ذات الأولوية. كما تم استخدامه في الأعمال الإدارية مثل كتابة العقود وتنظيم التقارير. من منظور قطاع الدفاع، قد تعتمد العديد من المهام التي يؤديها في الأصل المحللون البشريون على نماذج ذكاء اصطناعي أقوى في المستقبل، ولكن هذا يعني أيضًا أنه يجب فتح كميات كبيرة من البيانات السرية أمام النماذج.
وقال ميهتا إن الجيش قد يرغب في أن يتعلم الذكاء الاصطناعي بعض الأحكام الدقيقة التي تعتمد بشكل كبير على الخبرة، مثل تحديد أدلة دقيقة للغاية في الصور مثل أحد كبار المحللين، أو إجراء اتصالات معقدة بين المعلومات الاستخبارية المكتسبة حديثًا والمعلومات التاريخية. ولتحقيق هذه الغاية، قد تصبح بيانات وكالات الاستخبارات النصية والصوتية والصورة والفيديو الواسعة والمتعددة اللغات مصادر لمواد التدريب. ومع ذلك، أكد أيضًا أنه من الصعب أن نشرح للعالم الخارجي أي المهام المحددة تتطلب التدريب على البيانات السرية، لأن وزارة الدفاع لديها حافز قوي للحفاظ على سرية قدراتها المحددة ولا تريد أن تفهم الدول الأخرى بدقة الحدود التكنولوجية للولايات المتحدة في هذا المجال.
وفي نظر العالم الخارجي، فإن خطوة البنتاغون لا تمثل استجابة لاحتياجات الخطوط الأمامية فحسب، بل إنها أيضاً رهان تكنولوجي عالي المخاطر: فبمجرد دمج المعلومات الاستخبارية السرية بعمق في نماذج ضخمة، سوف تكتسب المؤسسة العسكرية قدرات التحليل الآلي والمساعدة في اتخاذ القرار والتي تتجاوز بكثير تلك التي تتمتع بها الأنظمة التقليدية. ومع ذلك، سيتعين عليها أيضًا مواجهة مخاطر أمنية جديدة مثل "ذاكرة النموذج" المفرطة، والتسريبات العرضية، وحدود الوصول غير الواضحة. في الوقت الحالي، تحاول وكالات الدفاع الأمريكية إيجاد توازن بين "اكتساب الميزة العسكرية" و"السيطرة على المخاطر الأمنية" الذي لم يتم اختباره بشكل كامل في الممارسة العملية من خلال إنشاء مراكز بيانات آمنة معزولة للغاية، ومراقبة صارمة للوصول، وطرق نشر نموذجية متعددة الطبقات ومخصصة.