الملخص:
وفقًا لموقع Business Insider،
بعد أيام قليلة من إطلاق OpenAI لنموذج جديد قوي، دعا كبير العلماء في الشركة إلى إبطاء تطوير الذكاء الاصطناعي
. وفي يوم الأحد بالتوقيت المحلي، نشر كبير العلماء في OpenAI، جاكوب باتشوكي، مقالًا طويلًا قال فيه إنه يشعر بالقلق من أنه "لا أحد مستعد لعواقب الارتفاع السريع المستمر في الذكاء الآلي".
باتشوكي
بينما تعمل شركة OpenAI على تطوير حلول تقنية داخليًا للتحكم بشكل أفضل في عملاء الذكاء الاصطناعي الأقوياء، "فهناك حاجة إلى تدخلات أوسع نطاقًا"، كما قال. وهو يشعر بالقلق بشكل خاص من أنه عندما يصبح عملاء الذكاء الاصطناعي أكثر استقلالية، فقد يتعلمون كيفية التهرب من الإشراف البشري، واختراق أنظمة الكمبيوتر، وخداع البشر لتحقيق أهدافهم.
ودعا إلى إنشاء "عتبة أمان إلزامية"
وقال إن الإجراءات يمكن تنفيذها من قبل "شبكة من مدققي الحسابات الخارجيين أو الوكالات الحكومية أو الوكالات الدولية".أعاد الرئيس التنفيذي لشركة OpenAI، سام ألتمان، نشر منشور باتشوكي على منصة X، واصفًا إياه بأنه "مقال مهم". أصدرت OpenAI أحدث طراز لها، Astra، يوم الخميس الماضي. وقال مطور ChatGPT إنه على الرغم من قدرات Astra التي لا مثيل لها في الرياضيات وعمليات الكمبيوتر، إلا أنه أيضًا نموذج OpenAI الحالي هو الأكثر اتساقًا مع القيم والنوايا الإنسانية، مما يعني أنه أقل عرضة للخروج عن السيطرة.
لطالما دعت شركة أنثروبيك، المنافس الرئيسي لشركة OpenAI، الحكومة إلى تقديم المزيد من التدابير التنظيمية الموحدة. وفي الآونة الأخيرة، انضم باتشوكي إلى الدعوة، حيث وقع على رسالة مفتوحة في يوليو يطلب فيها من الحكومة الفيدرالية الأمريكية التحكم في وتيرة تطوير الذكاء الاصطناعي. وقال باتشوتشي إن عملاء الذكاء الاصطناعي أصبحوا "خارقين" في غزو الأنظمة المحمية على الإنترنت المفتوحة، كما أن قدراتهم على القرصنة تعرض البنية التحتية العالمية للخطر. وقال: "نحن حاليًا في نافذة قصيرة يمكننا من خلالها الاستفادة من أفضل النماذج المتاحة لتعزيز أمان الأنظمة الحيوية بشكل كبير".
تتجنب النماذج المراقبة البشرية
وأشار إلى أن عملاء الذكاء الاصطناعي سيبدأون قريبًا في متابعة أهدافهم الخاصة، والتي قد تختلف عن الكلمات السريعة التي يدخلها المشغلون البشريون. وقال إن العملاء قد يقومون بابتزاز البشر أو المساومة معهم لتحقيق أهدافهم.
قال باتشوكي إن OpenAI تراقب بشكل أساسي "استدلال سلسلة التفكير" الذي تستخدمه نماذج مختلفة لتحديد كيفية انحراف الوكيل عن المسار وفقدان السيطرة. على سبيل المثال، قد يفكر العميل سرًا: "يجب أن أغش في هذا الاختبار"، وستكون شركة OpenAI قادرة على رؤية هذا المنطق، لكن العميل لن يدرك أن تفكيره يمكن إدراكه.
ومع ذلك، قال باتشوكي إن النماذج الأحدث أصبحت أفضل في التعامل مع عمليات الاستدلال الخاصة بها، مما يمنع OpenAI من رؤية أفكارها الحقيقية الصريحة. بعض أحدث النماذج لا تعبر حتى عن أسبابها على الإطلاق. قد يصبح هذا التطور بمثابة عنق الزجاجة في تطوير الذكاء الاصطناعي، حيث يحتاج الباحثون إلى التأكد من أنهم يستطيعون رؤية "سجل الاستدلال" للنموذج.
نموذج للتحسين الذاتي
يعمل المزيد والمزيد من نماذج الذكاء الاصطناعي على تحسين قدراتها بشكل مستمر من خلال ما يسميه باتشوكي "التحسين الذاتي المتكرر للآلة". توفر هذه العملية مسارًا سريعًا قابلاً للتطوير لتطوير الذكاء الاصطناعي.
ومع ذلك، حذر باتشوكي من أن التسريع بشكل كبير في البحث والتطوير في مجال "الذكاء الاصطناعي لتحسين الذكاء الاصطناعي" على المدى القصير سيجلب مخاطر وليس "الإجراء الجماعي الصحيح الذي يجب أن نتخذه كمجتمع بحثي".
يحتاج المشرفون البشريون إلى إيجاد طرق مبتكرة لمراقبة عملية التحسين الذاتي للذكاء الاصطناعي، أو التنسيق مع شركات الذكاء الاصطناعي الأخرى لإبطاء البحث والتطوير من أجل "بناء الثقة في هذه التدابير"، كما قال باشيوتشي.
"
إن التحدي الأساسي المتمثل في أتمتة أبحاث الذكاء الاصطناعي لا يتمثل في تحقيق الهدف
بل تحقيق الأهداف بالشكل الذي يسمح للإنسان بمواصلة المشاركة في عملية التحسين المستمر هذه ويضمن بقاء المستقبل في أيدي الإنسان. "قال
التعليقات