الحائز على جائزة تورينج يانغ ليكون: الإنجاز التالي في الذكاء الاصطناعي سيأتي من النموذج العالمي. ويمكن التحكم في خطر الخروج عن نطاق السيطرة من خلال التكنولوجيا الهندسية.

الملخص:

قال يان ليكون، الحائز على جائزة تورينج لعام 2018 ومؤسس ورئيس شركة AMI Labs، في سيول يوم 12 أكتوبر إن المرحلة التالية من الإنجازات في مجال الذكاء الاصطناعي ستأتي من أنظمة يمكنها فهم العالم المادي والتنبؤ به والتصرف بناءً عليه، بدلاً من مجرد توسيع نطاق نماذج اللغة الكبيرة.

يعتقد أن "النماذج العالمية" ستصبح اتجاهًا تقنيًا مهمًا لتعزيز تطوير الذكاء الاصطناعي. وفيما يتعلق بالمخاوف الأمنية الناجمة عن تعزيز الاستقلالية للذكاء الاصطناعي، قال يانغ ليكون إن حوادث أمن الشبكات الأخيرة التي تورط فيها عملاء الذكاء الاصطناعي كشفت بشكل أساسي عن عيوب نظام الحماية الأمنية الحالي، ويمكن السيطرة على المخاطر ذات الصلة من خلال تحسين بنية النظام وهندسة الأمن.

يانغ ليكون: نماذج اللغة الكبيرة تفتقر إلى فهم موثوق للعلاقة السببية في العالم المادي

قال يانغ ليكون في ندوة الذكاء الاصطناعي الصناعي في سيول يوم الاثنين إنه على الرغم من أن نماذج اللغات الكبيرة الحالية يمكنها تعلم المعرفة بشكل فعال من النصوص والصور ومقاطع الفيديو، إلا أنها لا تزال تفتقر إلى فهم موثوق للسبب والنتيجة في العالم المادي. وأشار إلى أن الذكاء الاصطناعي يمكنه بالفعل إثبات النظريات الرياضية واجتياز الاختبارات المهنية، لكن الروبوتات لا تزال تواجه صعوبة في إنجاز العديد من الأعمال المنزلية اليومية التي يمكن للأطفال في سن 10 سنوات إتقانها دون تدريب. وتعكس هذه الفجوة في القدرات أن أنظمة الذكاء الاصطناعي الحالية لا تزال تعاني من قيود واضحة في فهم البيئة المادية، وتخطيط العمل، والتفاعل في العالم الحقيقي.

يعتقد يانغ ليكون أن الاتجاه التطويري المهم لتكنولوجيا الذكاء الاصطناعي في المرحلة التالية هو النماذج العالمية، أي أنظمة الذكاء الاصطناعي التي يمكنها التنبؤ بكيفية تغير البيئة المادية من خلال إجراءات محددة. وعلى النقيض من نماذج اللغة، التي تنجز المهام في المقام الأول من خلال التنبؤ بالكلمة التالية أو أنماط التعلم في البيانات التي ينشئها الإنسان، تم تصميم النماذج العالمية لمساعدة الذكاء الاصطناعي على فهم العلاقة بين الإجراءات والنتائج وتخطيط سلسلة من الإجراءات بناءً على الأهداف. على سبيل المثال، يجب أن تكون الروبوتات قادرة على التنبؤ بكيفية تغير البيئة بعد تحريك جسم ما أو الإمساك به من أجل إكمال المهام المعقدة بشكل موثوق في العالم الحقيقي.

تعمل مختبرات AMI التي أسسها يانغ ليكون على تطوير هذا المسار التكنولوجي من خلال البنية التنبؤية المشتركة للتضمين (JEPA) واستكشاف كيفية جعل الذكاء الاصطناعي أكثر موثوقية في قدرات التنبؤ البيئي وتخطيط العمل.

مع توسع تكنولوجيا الذكاء الاصطناعي تدريجيًا من معالجة المعرفة وتوليد المحتوى إلى مجالات مثل الروبوتات والأتمتة الصناعية، يعتبر يانغ ليكون النماذج العالمية بمثابة أساس تقني مهم لتحقيق الذكاء في العالم المادي. ومع ذلك، لا تزال التقنيات ذات الصلة قيد التطوير، وما إذا كان بإمكانها تحقيق تنبؤ موثوق به وتخطيط مستقل ونشر واسع النطاق في بيئات العالم الحقيقي المعقدة، لا يزال يتعين التحقق منها بشكل أكبر.

دحض يانغ ليكون المخاوف بشأن خروج الذكاء الاصطناعي عن نطاق السيطرة: كشفت الحوادث الأمنية الأخيرة عن عيوب في الحماية الهندسية

عند مناقشة آفاق تطوير قدرات العمل المستقل للذكاء الاصطناعي، استجاب يانغ ليكون أيضًا لحوادث الأمن السيبراني الأخيرة التي تورط فيها عملاء الذكاء الاصطناعي واعترض على تفسير هذه الحوادث لأن الذكاء الاصطناعي أصبح خارج نطاق السيطرة.

وفيما يتعلق بالهجمات السيبرانية الأخيرة المرتبطة بالذكاء الاصطناعي التي واجهتها الصناعة المالية في كوريا الجنوبية، يعتقد يانغ ليكون أن المشكلة تنبع في الأساس من الافتقار إلى القدرات المهنية الكافية لأمن الشبكات لدى الشركات التي تنشر عملاء الذكاء الاصطناعي ونقاط الضعف الأمنية في نظام الحماية المستخدم لتقييد سلوك البرمجيات. وأشار إلى أن نماذج اللغات الكبيرة الحالية قد تكون بالفعل عرضة لهجمات الهروب من السجن، متجاوزة القيود الأمنية المعمول بها من خلال كلمات سريعة محددة، ومن الصعب تقييد سلوكها بالكامل فقط من خلال الاعتماد على الضبط الدقيق للنموذج.

ومع ذلك، يعتقد يانغ ليكون أنه من المتوقع أن تقوم أنظمة الذكاء الاصطناعي المستقبلية الموجهة نحو الأهداف بتقييم قيود السلامة بشكل استباقي قبل إجراء العمليات، وبالتالي تحسين أوجه القصور في النماذج الحالية في التحكم السلوكي. بدلاً من الاعتماد فقط على قواعد الأمان التي تم وضعها خلال مرحلة التدريب النموذجي، يمكن لهذه الأنظمة دمج فحوصات أمنية إضافية أثناء تخطيط العمل وتنفيذه.

واعترف بأن تحقيق هذه القدرة ليس مهمة فنية بسيطة، لكنه أكد على أن القضايا ذات الصلة لا تزال ضمن نطاق التصميم الهندسي. وعلى المدى الطويل، قد يمنح الذكاء الاصطناعي ميزة للمدافعين السيبرانيين، حيث تمتلك وكالات الدفاع عادةً المزيد من الموارد وتكون قادرة على مشاركة المعلومات الأمنية والخبرة الدفاعية بشكل أكثر انفتاحًا.

يختلف هذا الحكم عن بعض وجهات النظر التي تؤكد على المخاطر المحتملة لفقدان السيطرة على أنظمة الذكاء الاصطناعي المتقدمة. وأكد يانغ ليكون أيضًا أنه من خلال تصميم بنية النظام وقيود سلطة التنفيذ وآليات الحماية الأمنية، تأكد من أن سلوك أنظمة الذكاء الاصطناعي المستقلة يقع ضمن نطاق يمكن التحكم فيه.

في رؤيته التقنية، سيتمتع الذكاء الاصطناعي في المستقبل بالتدريج بالقدرة على فهم البيئة الحقيقية، والتنبؤ بعواقب الإجراءات، وإكمال المهام بشكل مستقل. إن كيفية تعزيز هذه القدرات مع إنشاء قيود أمان موثوقة ستصبح قضية مهمة تحتاج إلى حل في تطوير النماذج العالمية والأنظمة المستقلة ذات الصلة.