الملخص:
حضر ياو شونيو، كبير علماء الذكاء الاصطناعي في شركة تينسنت والباحث السابق في شركة OpenAI، مؤخرا ندوة علمية في هونغ كونغ، وقال إن نماذج الذكاء الاصطناعي المتطورة تتحرك بسرعة في مجال علم الأحياء، وسوف تصل قدراتها قريبا إلى نقطة حرجة قد تسبب ضررا حقيقيا. وعلى الرغم من أنه من المتوقع أن يؤدي هذا التغيير إلى تعزيز البحث والتطوير في مجال الأدوية الجديدة والابتكار الطبي، فإنه قد يجلب أيضًا تحديات جديدة تتعلق بالسلامة ويثير مخاوف الصناعة بشأن مخاطر السلامة البيولوجية.
وقال ياو شونيو إن الذكاء الاصطناعي أثبت قدرات كافية ليكون له تأثير حقيقي في مجال أمن الشبكات، كما أن القدرات البيولوجية تقترب من مستويات مماثلة. وحذر من أن إدارة التطوير المستقبلي للذكاء الاصطناعي في مجال البيولوجيا قد تكون أكثر صعوبة من إدارته في مجال الأمن السيبراني، لذلك يجب على الشركات الصينية والشركات الأخرى التي تتبنى المسار النموذجي المفتوح أن تأخذ القضايا الأمنية ذات الصلة على محمل الجد.
في السنوات الأخيرة، بدأ تطبيق المزيد والمزيد من أنظمة الذكاء الاصطناعي المتطورة في علوم الحياة، والأبحاث الطبية، وتطوير الأدوية. من المعتقد بشكل عام في الصناعة أنه من المتوقع أن يؤدي الذكاء الاصطناعي إلى تقصير كبير في فحص الأدوية ودورة البحث والتطوير وتسريع اكتشاف خيارات العلاج. ومع ذلك، أشار الخبراء أيضًا إلى أن هذه القدرات لها خصائص "الاستخدام المزدوج". وبينما تعمل هذه التكنولوجيات على تعزيز تقدم البحث العلمي، فإنها قد تتعرض أيضًا لإساءة الاستخدام من جانب المجرمين، مما يؤدي إلى مخاطر جديدة على الأمن البيولوجي.
يأتي خطاب ياو شونيو في وقت تعمل فيه شركة Tencent على تسريع استراتيجية الذكاء الاصطناعي الخاصة بها. أصدرت Tencent رسميًا الطراز الرائد للجيل الجديد Hy4 في 4 نوفمبر ووضعته كواحد من أهم النماذج الأساسية للشركة. وفقًا لبيانات من Artificial Analysis، وهي وكالة لتقييم الذكاء الاصطناعي، تم تصنيف Hy4 حاليًا كواحد من أقوى نماذج الذكاء الاصطناعي أداءً في الصين.
عند الحديث عن اتجاهات التطوير المستقبلية، كشف ياو شونيو أن تينسنت تستكشف إمكانية بناء "مختبر علمي مستقل" وتأمل في استخدام أنظمة الذكاء الاصطناعي لإكمال عمليات البحث العلمي المعقدة بشكل مستقل، بما في ذلك بعض مهام البحث البيولوجي. ويعتقد أنه من منظور تقني، يمكن حل معظم المشاكل في نهاية المطاف. وتكمن التحديات الحقيقية الأكبر في الإدارة الاجتماعية والتنسيق التنظيمي وبناء أنظمة مراقبة السلامة.
من أجل تقليل المخاطر المحتملة، اعتمدت Tencent سلسلة من تدابير السلامة أثناء عملية التدريب على Hy4. وقالت الشركة إنها حذفت عمدا البيانات المتعلقة باستغلال ثغرات البرمجيات وسلوك الهجوم، واحتفظت فقط بمعرفة أمان الشبكة الدفاعية، على أمل تقليل قدرات الهجوم مع الاحتفاظ بقدرات الحماية. فيما يتعلق بمجال علم الأحياء، يعتقد التقييم الداخلي لشركة Tencent أنه على الرغم من أن Hy4 تتمتع بمعرفة بيولوجية أساسية قوية، إلا أنه لا تزال هناك فجوة واضحة بين القدرة على صياغة الإجراءات التجريبية بشكل مستقل وتشكيل قدرات عالية المخاطر.
وأكد ياو شونيو بشكل خاص أنه بالمقارنة مع مجال أمن الشبكات، غالبًا ما يكون من الصعب التمييز بوضوح بين "القدرات الهجومية" و"القدرات الدفاعية" في مجال علم الأحياء. وهذا يعني أن الباحثين سيواجهون مواقف أكثر تعقيدًا عند تقييم مخاطر النماذج، لذلك يجب أن تخضع النماذج لاختبارات أكثر صرامة والتحقق من صحتها قبل الإصدار. تتعاون Tencent حاليًا مع أكبر مختبر أمني للشركة لإجراء تقييم منهجي للقدرات ذات الصلة.
أما بالنسبة للمناقشة المثيرة للجدل حول "المصادر المفتوحة مقابل المصادر المغلقة" التي دارت رحاها في السنوات الأخيرة، فقد قال ياو شونيو إن الشركات الأمريكية مثل شركة أنثروبيك تدعو إلى إبقاء النماذج الأكثر تقدمًا مغلقة لتقليل المخاطر الاجتماعية المحتملة. هذا الرأي له عقلانية معينة. لكنه يعتقد أيضًا أن النماذج المفتوحة يمكن أن تساعد أيضًا المدافعين على تحسين قدراتهم، لذلك قد تحتاج الصناعة في المستقبل إلى البحث عن توازن بين الانفتاح والانغلاق، بدلاً من الاعتماد كليًا على طريق واحد.
مع توسع الذكاء الاصطناعي تدريجيًا من البرمجة والرياضيات وتوليد المحتوى إلى مجال علوم الحياة، يُنظر إلى علم الأحياء باعتباره أحد أهم مجالات الذكاء الاصطناعي في المرحلة التالية. وأشار المحللون إلى أنه بمجرد أن يتمتع الذكاء الاصطناعي حقًا بالقدرة على الفهم العميق وتطبيق المعرفة البيولوجية، فإن التقنيات ذات الصلة قد لا تغير أبحاث وتطوير الأدوية والصناعة الطبية فحسب، بل ستدفع أيضًا الهيئات التنظيمية العالمية إلى إعادة النظر في إطار إدارة الذكاء الاصطناعي للتعامل مع تحديات السلامة الجديدة اللاحقة.
التعليقات