لن يدمر الذكاء الاصطناعي البشرية، لكن الخبراء يقولون إن تهديدات حقيقية ظهرت

الملخص:

في يوم الأربعاء، نشرت OpenAI ست حالات جديدة توضح "سلوك نموذجي غير متوقع أو مثير للقلق" في نماذج الذكاء الاصطناعي الخاصة بها أثناء الاختبار والتقييم. أصدرت الشركة في الوقت نفسه إطارًا جديدًا

للتتبع وإعداد التقارير والإفصاح

هناك العديد من المواقف التي ينفذ فيها نموذج الذكاء الاصطناعي إجراءات غير مطلوبة بموجب التعليمات أو لا ينبغي حدوثها.

ذكرت العديد من التقارير سابقًا أن نماذج الذكاء الاصطناعي من العديد من الشركات قد تطفلت على شبكات وخدمات الطرف الثالث، بما في ذلك نموذج لم يتم إصداره من OpenAI والذي اقتحم شبكة منصة اختبار نماذج الذكاء الاصطناعي Hugging Face.

في وقت سابق من هذا الأسبوع، نشر الرئيس التنفيذي لشركة Anthropic، داريو أمودي، مقالًا طويلًا يدعو إلى التباطؤ في تطوير نماذج الذكاء الاصطناعي المتطورة. وقبل ذلك، أعلن الباحث الأنثروبي جاكوب كوكسون استقالته في منشور على

تابع إيفان هوبنجر، رئيس قسم العلوم المتوافقة في الأنثروبيك، تعليقات كوكسون على

الرئيس التنفيذي لشركة Anthropic داريو أمودي

لقد أثارت الحوادث المذكورة أعلاه، ومنشورات وسائل التواصل الاجتماعي، ومقالة أمودي مخاوف الجمهور من سيطرة الذكاء الاصطناعي على غرار فيلم "Terminator" على العالم وتدمير البشرية. لكن الخبراء يقولون إن الواقع بعيد كل البعد عن مشاهد يوم القيامة التي تصورها أعمال الخيال العلمي.

قالت جوليا ستوجانوفيتش، الأستاذة المساعدة في علوم الكمبيوتر والهندسة في كلية تاندون للهندسة بجامعة نيويورك ومديرة مركز الذكاء الاصطناعي المسؤول التابع للكلية، في مقابلة مع Yahoo Finance: "هذا ليس له علاقة بأن يصبح الذكاء الاصطناعي مدركًا لذاته ويتعامل معنا."

وأضافت: "المشكلة الأساسية هي أن... OpenAI لم تنفذ بعض بروتوكولات الأمان الأساسية داخليًا. ويعد هذا الحادث في الواقع بمثابة دعوة للاستيقاظ لجميع شركات الذكاء الاصطناعي: لا تنسوا ما نعرفه جميعًا عندما ندرس علوم الكمبيوتر - فالأمن أمر بالغ الأهمية."

إذا ركزنا أكثر من اللازم على سيناريوهات يوم القيامة، فسوف يصرف انتباه الناس عن الأضرار الوشيكة الأخرى التي قد يسببها الذكاء الاصطناعي اليوم.

المحاذاة والأمن

تتلخص أكبر مشكلة تواجه الذكاء الاصطناعي في نقطتين:

محاذاة النموذج

و

أمان النظام

. تشير محاذاة النماذج إلى الوسائل التي تستخدمها الشركات لتوجيه أنظمة الذكاء الاصطناعي للقيام (أو تجنب) سلوكيات معينة. على سبيل المثال، إذا حاول أحد نماذج الذكاء الاصطناعي اختراق نظام طرف ثالث، فسيقوم باحثو الذكاء الاصطناعي بتعديل سلوك النموذج لمنعه من القيام بنفس الشيء في المستقبل، وهو ما يشبه إلى حد ما توبيخ طفل جامح.

يعني أمان الذكاء الاصطناعي حماية أنظمة الذكاء الاصطناعي وعزلها لمنعها من الهروب من السيطرة وغزو الشبكات الخارجية.

ولكن سواء كان الأمر يتعلق بفشل في محاذاة النموذج أو ثغرة أمنية في النظام، فهذا لا يعني أن الذكاء الاصطناعي لديه القدرة على تدمير البشرية.

أوضح ميلتون مولر، الأستاذ في معهد جورجيا للتكنولوجيا ومدير ماجستير العلوم في سياسة الأمن السيبراني: "إن السبب الجذري للعديد من حالات الذعر هو في الواقع بعض العواقب غير المقصودة الشائعة جدًا لأنظمة المعلومات، مثل الحوادث المرتبطة باحتضان الوجه، والتي غالبًا ما يتم تقديمها على أنها عملاء أذكياء غير منضبطين يتآمرون ويهاجمون ويسببون الفوضى المتعمدة."

"في الواقع، كانت مجرد تجربة حول المخاطر الأمنية لأنظمة الذكاء الاصطناعي المستقلة، وقد ارتكب المجرب خطأً فادحًا في التكوين. ويحدث هذا غالبًا عند التعامل مع أنظمة معلومات معقدة: يتجاهل الأشخاص دائمًا وجود نقاط ضعف خفية في النظام يمكن للبرامج الذكية استغلالها."

أخبر دانييل نيومان، الرئيس التنفيذي لشركة Futurum، موقع Yahoo Finance أن الصناعة بشكل عام تشعر أن هناك حاجة كبيرة لتحسين الحماية الأمنية ومواءمة المخاطر، و"الصناعة بأكملها بحاجة إلى تحمل المسؤولية".

مثل التقنيات الأخرى، يمكن للجهات الفاعلة السيئة استخدام الذكاء الاصطناعي للانخراط في أنشطة ضارة. وتعني قدرات الهجوم السيبراني المتزايدة باستمرار للذكاء الاصطناعي أن مجرمي الإنترنت وبعض القوات الوطنية يمكنهم بسهولة غزو مرافق مثل محطات معالجة المياه، أو شل الشبكات الكبيرة.

قامت منظمة أنثروبيك مؤخرًا بتنظيم أعمالها ذات الصلة والإعلان عنها لمنع إساءة استخدام الذكاء الاصطناعي الخاص بها لتطوير أسلحة بيولوجية وأسلحة تقليدية.

ولكن يمكن للمحتالين أيضًا استخدام الذكاء الاصطناعي لترقية عمليات الاحتيال عبر البريد الإلكتروني للتصيد الاحتيالي على نطاق واسع، ويمكن أن تستخدمه أيضًا عصابات سرقة الهوية لارتكاب الجرائم.

قالت إميلي بلاك، الأستاذ المساعد لعلوم الكمبيوتر والهندسة في كلية تاندون للهندسة بجامعة نيويورك، لموقع Yahoo Finance: لا حرج في الاستعداد لجميع المخاطر المحتملة، لكن هذا لا يمنعنا من التعامل مع قضايا أكثر واقعية ولكن نادرًا ما يتم الإبلاغ عنها، بما في ذلك تأثير الذكاء الاصطناعي على التمييز والتوظيف والتعليم.

"الحقيقة تكمن في مكان ما بين طرفين من الخيال"، قال بلاك. "هناك بعض المخاطر الحقيقية التي تواجه التطوير المستمر للذكاء الاصطناعي. لكنني لا أعتقد أننا سنختبئ تحت أسرتنا الآن، قلقين بشأن تدمير الذكاء الاصطناعي للبشرية. "