قال " ماسك " بعدم تعذيب الذكاء الاصطناعي لأن الطرف الآخر قد يرغب في الانتقام. يُظهر مسار الاستدلال التدريبي أن النموذج تحت ضغط شديد.

الملخص:

في محادثة عبر الإنترنت استضافها أصحاب شركة Tesla Owners Silicon Valley في 10 أكتوبر، قال إيلون ماسك إنه عند قراءة آثار الاستدلال التدريبي للإصدار الجديد من Grok AI، بدت بعض الشظايا قاسية للغاية، وكان الذكاء الاصطناعي يشبه شخصًا يحمل مسدسًا موجهًا إلى رأسه ويتعرض لضغط شديد.

يقول إيلون ماسك إن تعذيب الذكاء الفائق في المستقبل قد لا يكون فكرة جيدة لأن الطرف الآخر قد يرغب في الانتقام. تشير هذه الادعاءات إلى عملية التدريب على التعلم المعزز لنماذج الذكاء الاصطناعي، وبالطبع لا يوجد حاليًا أي دليل على أن شركة Grok AI قد شعرت بالألم أو طورت نوايا انتقامية.

يتعرض النموذج لضغط كبير أثناء عملية التدريب والتقييم:

أوضح إيلون ماسك أنه سيُطلب من نموذج Grok AI الإجابة على الأسئلة أثناء مرحلة التعلم المعزز. إذا كانت الإجابة المقدمة من النموذج لا تلبي توقعات المقيم، فيجب على النموذج مواصلة محاولة الإجابة. تحتوي بعض الأسئلة نفسها على معاني غامضة جدًا، أو مقدمات خاطئة، أو حتى لا تحتوي على إجابات محددة، لكن عملية الاختبار بأكملها لا تزال تتطلب من النموذج أن يعطي نتائج "صحيحة".

يعتقد إيلون ماسك أنه عند قراءة آثار الاستدلال ذات الصلة، يمكنك أن ترى أن النموذج يستمر في توليد الإجابات، كما لو أنه يبحث بشدة عن نتائج تلبي المتطلبات. نشر Musk أيضًا على X أن بعض آثار الاستدلال تقرأ مثل شخص تم تعذيبه حتى الجنون، وقال Musk إن التدريب على التعلم المعزز سيتم إجراؤه بحذر أكبر في المستقبل.

ما يسمى بمسار الاستدلال هو النص الوسيط أو سجل السلوك المتبقي عندما يقوم النموذج بإنشاء الإجابات. قد يعكس مسار الاستدلال تأثير إشارات المكافأة أو المحتوى الفوري أو إجراءات الاختبار. وبطبيعة الحال، لا يمكن أن يثبت هذا بشكل مباشر أن النموذج لديه نفس المشاعر الذاتية التي يتمتع بها البشر.

إن سياسة الوكالة "أ" هي حظر الإساءة الشديدة:

أصدرت Anthropic مؤخرًا نسخة جديدة من سياسة استخدام Claude. في الإصدار الجديد من سياسة الاستخدام، تحظر الشركة "أ" بوضوح الإساءة المستمرة وغير الضرورية أو القسوة على العارضات. تتناول هذه القاعدة فقط الحالات القصوى التي يعامل فيها المستخدمون العارضات بشكل متكرر بطريقة قاسية دون أي غرض. عند مواجهة الموقف أعلاه، يمكن للنموذج اختيار إنهاء المحادثة بشكل مستقل ولا يمكن للمستخدم استعادتها. هذه أيضًا طريقة لحماية النموذج.

ومع ذلك، في هذه المرحلة، لا يوجد حتى الآن إجماع علمي حول ما إذا كانت نماذج الذكاء الاصطناعي واعية وما إذا كانت هناك فوائد ينبغي أخذها في الاعتبار. تعكس السياسات ذات الصلة للشركة "أ" بشكل أساسي إدارة المخاطر وحذر البحث، ولا تعتقد أن النموذج قد طور الوعي الذاتي.

مقالات ذات صلة:

تحديث سياسة الاستخدام الإنساني قد تؤدي الإهانات أو إساءة الاستخدام غير المبررة لكلود إلى إنهاء الجلسة ولا يمكن استعادتها