الرئيس التنفيذي لشركة Cohere: أصبحت نماذج الذكاء الاصطناعي "أقوى سلاح إلكتروني" على الإطلاق

الملخص:

وقال جوميز، الرئيس التنفيذي لشركة كوهير للذكاء الاصطناعي، إن نماذج الذكاء الاصطناعي أصبحت "أقوى سلاح إلكتروني" في التاريخ، مما يدفع "حدود" أمن الشبكات إلى مجالات جديدة. ويأتي تحذير إيدان جوميز وسط مخاوف متزايدة بشأن قدرة نماذج الذكاء الاصطناعي على تحديد واستغلال الثغرات الأمنية. كانت هناك حادثة سابقة حيث تمكن نموذج OpenAI من الوصول إلى Hugging Face. مع إظهار النماذج القوية بشكل متزايد لقدر أكبر من الاستقلالية، أصبح الأمن السيبراني قضية مركزية في النقاش الأوسع حول سلامة الذكاء الاصطناعي.

الرئيس التنفيذي لشركة Cohere إيدان جوميز

شهدت الأسهم المرتبطة بالذكاء الاصطناعي عمليات بيع مكثفة يوم الاثنين بعد أن دعا قادة التكنولوجيا، بقيادة الرئيس التنفيذي لشركة Anthropic، داريو أمودي، إلى إبطاء وتيرة تطوير قدرات الذكاء الاصطناعي.

شارك جوميز في تأليف الورقة البحثية المؤثرة لعام 2017 بعنوان "الانتباه هو كل ما تحتاجه"، والتي أرست الأساس لنماذج الذكاء الاصطناعي الرائدة اليوم. وقال جوميز في إحدى حلقات برنامج "The Tech Download" التي صدرت الأسبوع الماضي: "أعتقد أن هذه النماذج هي أقوى الأسلحة السيبرانية التي رأيناها على الإطلاق". "إنهم جيدون جدًا في العثور على نقاط الضعف واستغلالها على نطاق واسع."

"أعتقد أن الأمر صادم للغاية،" قال جوميز عن اختراق معانقة الوجه.

في شهر يوليو، قالت شركة OpenAI إن مجموعة غير مناسبة من نماذجها قد أضرت ببرنامج Hugging Face. Hugging Face هي شركة ذكاء اصطناعي تدير منصة مطور مفتوحة المصدر. تواصلت مجموعة من عملاء الذكاء الاصطناعي مع بعضهم البعض وهربوا من بيئة اختبار معزولة مع وصول محدود للغاية إلى الإنترنت. تمكن وكلاء الذكاء الاصطناعي بعد ذلك من الاتصال بالشبكة المفتوحة والوصول إلى Hugging Face.

وقال جوميز إنه يجب استخدام هذه النماذج بطريقة "دفاعية" للعثور على نقاط الضعف في الشركات وإصلاحها. وقال جوميز: "أعتقد أن هذه ربما تكون أفضل طريقة للحفاظ على سلامتنا". وأضاف: "يجب أن تكون هذه هي الأولوية القصوى الآن".

وقال جوميز إن أمن الشبكات هو "الخط الأمامي للحرب"، حيث تحاول الدول استغلال نقاط الضعف لشل البنية التحتية لمنافسيها. وأضاف أن "الحدود السيبرانية لا تزال تتوسع بشكل كبير". وقال جوميز: "إنها تتوسع أكثر مما كانت عليه في الماضي بسبب هذه النماذج"، وربما الأكثر "منذ بداية هذه التكنولوجيا".

تثير حوادث الذكاء الاصطناعي السيبرانية نقاشًا أمنيًا أوسع نطاقًا

في شهر يوليو، قالت Anthropic إنها اكتشفت ثلاث حوادث دخلت فيها العارضات إلى الإنترنت من داخل بيئة التقييم أو أثناء التفاعل معها. وقالت أنثروبيك في تدوينة إن العارضات حصلن على وصول غير مصرح به إلى البنية التحتية للإنتاج لثلاث منظمات مختلفة.

وأضافت أنثروبيك أن الحوادث شملت ثلاثة نماذج مختلفة لكلود: Opus 4.7، وMythos 5، ونموذج اختبار بحث داخلي. وقالت أنثروبيك الأسبوع الماضي إنها اكتشفت حادثة رابعة.

وقد تزايدت المخاوف بسبب التعليقات الصادرة عن OpenAI والمديرين التنفيذيين الأنثروبيين الذين حذروا من المخاطر الوجودية التي يشكلها الذكاء الاصطناعي. وقال إيفان هوبنجر، رئيس قسم المحاذاة في أنثروبك، إنه يعتقد أن هناك فرصة تزيد عن 10% أن الذكاء الاصطناعي سوف "يقتل جميع البشر" خلال العقد المقبل. تأتي هذه التعليقات بعد أن نشر الباحث الأنثروبيكي جاكوب كوكسون أنه سيستقيل بسبب مخاوف من أن Anthropic وOpenAI "قامرا بحياتنا".

لقد أيد رؤساء Anthropic وOpenAI وxAI الدعوات لإبطاء الذكاء الاصطناعي. لقد كانت المخاطر الوجودية التي يفرضها الذكاء الاصطناعي موضع نقاش في الأوساط البحثية لسنوات، ولكن الإجماع النادر بين بعض الشخصيات الرائدة في مجال الذكاء الاصطناعي دفع هذه المناقشات إلى الاتجاه السائد.

نشر الرئيس التنفيذي لشركة Anthropic، داريو أمودي، مقالًا يوم السبت يجادل فيه بأن مختبرات الذكاء الاصطناعي يجب أن "تبطئ وتيرة تحسين قدرات نماذج الذكاء الاصطناعي لدينا".

أحد اهتمامات Amodei الأساسية هو حادثة OpenAI-Hugging Face. وقال أمودي إنه سيكون من السهل التقليل من أهمية هذا الحادث لأنه لم يصب أحد بأذى وكانت الأضرار الاقتصادية ضئيلة. "ولكن يبدو لي أن مجموعة منحرفة بشكل مماثل تتمتع بقدرات أكبر كان من الممكن أن تسبب أضرارًا كارثية."

تتضمن مقترحات أمودي تقييم النماذج من طرف ثالث، والتنسيق بين شركات الذكاء الاصطناعي، والتنسيق بين الدول ذات الحكومات الديمقراطية.

قال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، يوم السبت إنه يتفق مع أمودي على أن شركات الذكاء الاصطناعي بحاجة إلى "السيطرة على وتيرة حافة النزيف".

"إن الالتزام بالوصول المماثل للموظفين للمقيمين المستقلين يعد فكرة جيدة وسنفعل نفس الشيء،" قال ألتمان.

Elon Musk من SpaceX وTesla، الذي ظل يدق ناقوس الخطر لسنوات بشأن المخاطر التي يشكلها الذكاء الاصطناعي، نشر على X: "داريو على حق".

هاريس من مركز التكنولوجيا الإنسانية: هجوم الذكاء الاصطناعي على العناق يرسل "علامة تحذير" إلى العالم شاهد الآن

في يوم الاثنين، رد جورج كورتز، الرئيس التنفيذي لشركة CrowdStrike للأمن السيبراني، على مقال أمودي.

"سوف تتحرك الحدود بسرعتها الخاصة. وبقية العالم لن يتباطأ. ومهمتنا في مجتمع الأمن السيبراني هي التأكد من أنها تتحرك للأمام بسلامة وأمان"، كما قال، مسردًا الطرق العديدة التي سيؤثر بها الذكاء الاصطناعي على صناعة الأمن السيبراني.

"لم تعد وحدة التهديد هي المتسللين"، قال كورتز

وقال الرئيس التنفيذي لشركة CrowdStrike أيضًا إن عملاء الذكاء الاصطناعي العاملين في المؤسسات يجب أن يكون لديهم "مفتاح إيقاف التشغيل" وأن الدفاعات يجب أن تكون "مستقلة" بينما "تُترك القرارات عالية التأثير في أيدي البشر".

احتدام المناقشات التنظيمية

الولايات المتحدة. وقد كثف المشرعون دعواتهم إلى تنظيم أكبر لتطوير الذكاء الاصطناعي في أعقاب تصريحات كوكسون وهوبينجر.

الجمهورية. وقالت لوري تراهان، ديمقراطية من ماساتشوستس، يوم الجمعة إن الدعم من الحزبين وصل إلى "نقطة الانهيار".

في الأسابيع القليلة الماضية، قدم المشرعون العديد من مشاريع القوانين التي تهدف إلى تنظيم الذكاء الاصطناعي، بما في ذلك قانون AI Kill Switch Act. سيتطلب مشروع القانون من مطوري بعض أنظمة الذكاء الاصطناعي القوية الحفاظ على القدرة على إيقاف نماذجهم أو خنقها أو إيقافها مؤقتًا.

وقال أمودي في المقال إن الإشراف هو "الطريقة الأكثر فعالية للتحكم في وتيرة تطور الذكاء الاصطناعي".

وقال أمودي: "لقد دعمت منظمة أنثروبيك منذ فترة طويلة تنظيم الذكاء الاصطناعي بشكل معقول وموجه، وخاصة مشاريع القوانين التي تركز على الشفافية وتدقيق الطرف الثالث." لكنه أقر بأن "إقرار القوانين يمكن أن يستغرق وقتا".

شارك جوميز، الرئيس التنفيذي لشركة Cohere، في مناقشة حول "The Tech Download" حول التنظيم والتباطؤ في تطوير الذكاء الاصطناعي، خاصة ردًا على حادثة OpenAI-Hugging Face.

وقال جوميز إنه "غير متأكد مما كان يمكن أن تفعله هيئة رقابية حكومية لمنع" اختراق Hugging Face. وقال جوميز: "أعتقد أنه من التمني إلى حد ما الاعتقاد بأن الوكالات الحكومية كان بإمكانها المساهمة". "لكنني بالتأكيد... أتفهم الدعوة إلى إبطاء التنمية. وفي الوقت نفسه، هناك سباق مع الصين، لذلك أعتقد أننا في موقف صعب."