لأول مرة في العالم، أثبت باحثون من جامعة كوبنهاغن رياضيا أنه من المستحيل تطوير خوارزميات ذكاء اصطناعي تكون مستقرة دائما باستثناء المسائل البسيطة. ChatGPT والتقنيات المماثلة القائمة على التعلم الآلي آخذة في الارتفاع. ومع ذلك، حتى الخوارزميات الأكثر تقدمًا تواجه قيودًا.
توصل باحثون في جامعة كوبنهاجن إلى اكتشاف رائد، أثبتوه رياضيا،وبعيداً عن القضايا الأساسية، فمن المستحيل تطوير خوارزميات ذكاء اصطناعي تكون مستقرة دائماً.يمكن أن يمهد هذا البحث الطريق لتحسين بروتوكولات اختبار الخوارزمية، وتسليط الضوء على الاختلافات المتأصلة بين المعالجة الآلية والذكاء البشري.
وقد تم قبول مقال علمي يصف النتائج للنشر في المؤتمرات الدولية الرائدة في مجال علوم الكمبيوتر النظرية.
ويمكن للآلات أن تفسر عمليات الفحص الطبي بشكل أكثر دقة من الأطباء، وأن تترجم اللغات الأجنبية، وقريبا ستكون قادرة على قيادة السيارات بشكل أكثر أمانا من البشر. ومع ذلك، حتى أفضل الخوارزميات لديها نقاط ضعف. وسعى فريق بحثي من قسم علوم الحاسوب في جامعة كوبنهاغن إلى الكشف عن نقاط الضعف هذه.
خذ على سبيل المثال سيارة ذاتية القيادة تقرأ لافتات الطريق. إذا قام شخص ما بوضع ملصق على إشارة الطريق، فلن يشتت انتباه السائق البشري. لكن يمكن تشتيت انتباه الآلة بسهولة لأن إشارات الطريق تبدو الآن مختلفة عن تلك التي تم تدريبها عليها.
"نأمل أن تكون الخوارزمية مستقرة، أي أنه إذا تغير الإدخال قليلاً، فسيظل الإخراج كما هو تقريبًا." وقال البروفيسور أمير يهوديوف، قائد المجموعة: "هناك كل أنواع الضجيج في الحياة الواقعية، وقد اعتاد البشر على تجاهل هذه الضوضاء، لكن الآلات سترتبك".
لغة مناقشة نقاط الضعف
وفي سابقة هي الأولى من نوعها على مستوى العالم، أثبت فريق البحث، بالتعاون مع باحثين من بلدان أخرى، رياضيًا أنه من المستحيل إنشاء خوارزميات تعلم آلي تكون مستقرة دائمًا باستثناء المشكلات البسيطة. تمت الموافقة على نشر مقال علمي يصف هذه النتيجة في أسس علوم الكمبيوتر (FOCS)، وهو أحد المؤتمرات الدولية الكبرى حول نظرية علوم الكمبيوتر.
"أود أن أشير إلى أننا لم ندرس بشكل مباشر تطبيق السيارات ذاتية القيادة. ومع ذلك، يبدو أن هذه مشكلة معقدة للغاية ولا يمكن أن تكون الخوارزمية مستقرة طوال الوقت." وقال أمير يهودايف، مضيفًا أن هذا لا يعني بالضرورة تأثيرًا كبيرًا على تطوير السيارات ذاتية القيادة: إذا ارتكبت الخوارزمية أخطاء في حالات نادرة فقط، فمن المرجح أن يكون ذلك مقبولاً. لكن إذا سارت الأمور بشكل خاطئ في عدد كبير من الحالات، فهذه أخبار سيئة".
لا يمكن للصناعة استخدام هذه المقالة العلمية لتحديد نقاط الضعف في خوارزمياتها. وأوضح الأستاذ أن هذا لم يكن في نيته:
"نحن نعمل على تطوير لغة لمناقشة نقاط الضعف في خوارزميات التعلم الآلي. وقد يؤدي هذا إلى تطوير مبادئ توجيهية تصف كيفية اختبار الخوارزميات. وعلى المدى الطويل، قد يسهل هذا مرة أخرى تطوير خوارزميات أفضل وأكثر استقرارًا."
من الحدس إلى الرياضيات
أحد التطبيقات المحتملة هو اختبار الخوارزميات التي تحمي الخصوصية الرقمية.
وقال أمير يهوديوف: "قد تدعي بعض الشركات أنها طورت حلولاً آمنة تمامًا لحماية الخصوصية. أولاً، قد يساعد نهجنا في تحديد أن الحلول لا يمكن أن تكون آمنة تمامًا. ثانيًا، يمكنه أيضًا تحديد نقاط الضعف".
ومع ذلك، يجب أن تساهم المقالات العلمية أولاً في النظرية. وأضاف أن المحتوى الرياضي على وجه الخصوص كان رائدًا: "نحن نفهم بشكل بديهي أن الخوارزمية المستقرة يجب أن تعمل كما كانت من قبل عندما تتعرض لكمية صغيرة من ضوضاء الإدخال. إنها مثل علامة طريق مع ملصق. لكن كعلماء كمبيوتر نظريين، نحتاج إلى تعريف محدد. يجب أن نكون قادرين على وصف هذه المشكلة بلغة رياضية. إذا أردنا أن نعترف بأن الخوارزمية مستقرة، فما مقدار الضوضاء التي يجب أن تكون الخوارزمية قادرة على تحملها، وإلى أي مدى يجب أن يكون الناتج قريبًا من الناتج الأصلي؟ هذه هي الإجابة التي نقترحها."
من المهم أن تضع في اعتبارك القيود
أثار المقال العلمي اهتمامًا كبيرًا من الزملاء في علوم الكمبيوتر النظرية، ولكن ليس من صناعة التكنولوجيا. على الأقل ليس بعد.
ويضيف أمير يهودايف مبتسما: "يجب أن تتوقعوا دائما أنه سيكون هناك بعض التأخير بين التطورات النظرية الجديدة واهتمام من يطبقونها: وبعض التطورات النظرية لن يتم ملاحظتها أبدا".
ومع ذلك، فهو لا يعتقد أن هذا سيحدث: "التعلم الآلي يتطور بوتيرة سريعة، ولكن من المهم أن نتذكر أنه حتى الحلول الناجحة جدًا في العالم الحقيقي لها حدودها. تبدو الآلات أحيانًا قادرة على التفكير، لكنها في النهاية لا تتمتع بذكاء البشر. يجب أن نضع ذلك في الاعتبار".
تم تجميعها من / scitechdaily