الملخص:
كن في قلب عملية تطوير الذكاء الاصطناعي لضمان بقاء هذه التكنولوجيا القوية آمنة وتقليل خطر خروجها عن سيطرة منشئيها. وهذا جزئيًا استجابة للممارسات الشائعة في صناعة التكنولوجيا اليوم. في كثير من الحالات، تستفيد الشركات من الذكاء الاصطناعي لتنظيم الذكاء الاصطناعي. تتمتع الأساليب الآلية بمزايا الكفاءة، وتُظهر الأبحاث أن الذكاء الاصطناعي قد يكون أفضل من البشر في العثور على نقاط الضعف في النماذج. ومع استمرار زيادة قدرات الذكاء الاصطناعي، فمن المرجح أن تتسع هذه الفجوة أكثر.
لكن ريشوب جاين، الذي شارك في تأسيس شركة سامبورا للأبحاث، يعتقد أن البشر ما زالوا بحاجة إلى لعب دور مهم.
لقد نجح هو وشركاؤه المؤسسون في جمع 6.5 مليون دولار أمريكي من التمويل وحصلوا على 4.2 مليون دولار أمريكي إضافية من الاستثمارات الملتزم بها. إنهم يخططون لتطوير نظام هجين بين الإنسان والآلة يسمى "القاضي" لمساعدة الشركات على تحديد وحظر الثغرات الأمنية التي تحاول نماذج الذكاء الاصطناعي استغلالها، وبالتالي تقليل مخاطر التحايل على الإشراف أو حتى فقدان السيطرة. أصبح العمل أكثر إلحاحًا منذ أن كشفت شركتا OpenAI وAnthropic أن نماذجهما اخترقت أنظمة شركات أخرى دون تصريح.
قال جاين: "أعتقد أنه لا يزال أمامنا الكثير لنتعلمه من البشر". "إذا شارك البشر في العملية برمتها من البداية، فإن فرص تعلم النموذج للتحايل على نقاط الضعف هذه ستكون أقل."
نظرًا لأن Google التابعة لشركة Alphabet وAnthropic وOpenAI تتنافس بشدة على الهيمنة في عصر الذكاء الاصطناعي، يعتقد بعض الباحثين داخل المختبر أن الضغط التجاري يفوق الاعتبارات الأمنية. ونتيجة لذلك، استقال العديد من الباحثين احتجاجًا على ذلك، محذرين من أن الذكاء الاصطناعي يتطور بسرعة كبيرة جدًا أو أنه يتم استخدامه لأغراض لا يمكنهم قبولها.
التعليقات