الملخص:
في 4 تشرين الثاني (نوفمبر)، نشر آدي عثماني، وهو مهندس في فريق كلود كود في Anthropic والمدير التنفيذي السابق للتكنولوجيا في Google، مؤخرًا مقالة طويلة على منصة التواصل الاجتماعي ويطلق على هذه الظاهرة
"الاستسلام المعرفي"
(الاستسلام المعرفي).
عمل عثماني في Google لأكثر من 14 عامًا وكان مسؤولاً عن تجربة مطوري Chrome والأنشطة التجارية ذات الصلة بـ Google Cloud AI. يعمل حاليًا على Claude Code في Anthropic.
قال عثماني إنه مؤيد قوي لسير عمل وكيل الذكاء الاصطناعي وغالبًا ما يدير عدة وكلاء في نفس الوقت في عمله اليومي. لكنه اكتشف تغييرًا يستحق اليقظة:
مع استمرار نماذج الذكاء الاصطناعي في التحسن، أصبحت الأخطاء الواضحة في نتائج المخرجات أقل فأقل، مما يجعل من الصعب على البشر أن يظلوا يقظين.
في الماضي، كان الأشخاص عادةً يحتاجون إلى إجراء عملية جمع المعلومات وتحليلها والحكم عليها وما إلى ذلك للحصول على الإجابة، ولكن الآن قد يتم ضغط هذه العملية في بضع ثوانٍ. غالبًا ما يكون المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي منظمًا بشكل جيد، ويتم التعبير عنه بطلاقة، وصحيح في معظم الحالات، مما يجعل من السهل على المستخدمين بشكل متزايد تخطي التفكير المستقل والتحقق.
وقد قسم حالة الاستخدام البشري للذكاء الاصطناعي إلى ثلاثة مستويات: الأول هو
"التفريغ المعرفي"
(التفريغ المعرفي)، وهو ما يعني تسليم المهمة إلى الذكاء الاصطناعي لإنجازها، لكنه يظل مسؤولاً عن النتائج؛ والثاني هو"تأجيل الحكم"
(تأجيل)، أي أن مخرجات الذكاء الاصطناعي لم تعد تعتبر فرضية تحتاج إلى التحقق منها، بل تستخدم مباشرة كأساس للخطوة التالية من العمل؛ والأخير هو"الاستسلام المعرفي"
,أي أن مخرجات الذكاء الاصطناعي تصبح تدريجيًا حكمًا للمستخدم، ولم يعد المستخدم يعتقد أنه من الضروري التحقق منها.
من بينها، تم اقتراح مفهوم "الاستسلام المعرفي" لأول مرة من قبل الباحثين في مدرسة وارتون ستيفن شو وجيديون نافي.
يرى عثماني أن
هذا التحول غالبًا لا يحدث فجأة، بل يتشكل تدريجيًا في عملية الاستخدام المستمر للذكاء الاصطناعي
<ص>. يمكن للمستخدمين قراءة تقرير الذكاء الاصطناعي الأول بعناية، وإلقاء نظرة سريعة على التقرير الثاني فقط، وحتى التحقق من الخطوط العريضة للتقرير الثالث. وفي نهاية المطاف، عندما يُسأل المستخدمون عن استنتاج محدد، قد يجدون أنفسهم غير قادرين على شرح المنطق.وربط هذه الظاهرة بـ "الديون المعرفية". في مجال تطوير البرمجيات، يمكن للذكاء الاصطناعي إنشاء كمية كبيرة من التعليمات البرمجية، وقد تنجح جميع الاختبارات، لكن فهم أعضاء الفريق لبنية النظام ومنطق التنفيذ يتناقص باستمرار. لم يكن الأمر كذلك إلا في أحد الأيام عندما احتاج النظام إلى التعديل، اكتشف المطورون أنه لا أحد يفهم حقًا كيفية عمل ميزات معينة.
ومع ذلك، لا يعتقد عثماني أن المطورين بحاجة إلى تذكر كل تفاصيل قاعدة الأكواد الضخمة. وأشار إلى أن فريق كلود كود سيستخدم أيضًا الذكاء الاصطناعي لإعادة فهم وحدات كود محددة عند الحاجة. المهم حقًا ليس معرفة كل شيء طوال الوقت، بل معرفة ما لا تعرفه وامتلاك القدرة على إعادة فهمه.
أما بالنسبة لكيفية تجنب "الاستسلام المعرفي"، اقترح عثماني،
قبل طرح أسئلة معقدة على الذكاء الاصطناعي، يجب على البشر تشكيل افتراضاتهم الأولية بدلاً من الاعتماد بشكل كامل على الذكاء الاصطناعي لتقديم الإجابات. حتى لو لم يكن التخمين الأولي دقيقًا، فإنه يمكن أن يساعد المستخدمين على الاحتفاظ بأساس للحكم المستقل عند تلقي نتائج الذكاء الاصطناعي.
واقترح أيضًا أنه
يجب على المستخدمين البحث بنشاط عن الأدلة التي يمكن أن تقلب استنتاج الذكاء الاصطناعي، بدلاً من مجرد سؤال النموذج عن مدى ثقته في إجابته. بالنسبة للقضايا المثيرة للجدل، يمكن للنماذج المختلفة تقديم حجج من مواقف متعارضة، ومن ثم يمكن للبشر إصدار أحكام شاملة.
في مجال تطوير البرمجيات، يرى عثماني أن عنق الزجاجة في عصر الذكاء الاصطناعي يتحول من كتابة التعليمات البرمجية إلى التحقق من صحة التعليمات البرمجية.
في الوقت الحالي، يمكن لوكلاء الذكاء الاصطناعي كتابة التعليمات البرمجية بشكل مستقل، وإجراء الاختبارات، وقراءة رسائل الخطأ وتعديلها بشكل متكرر حتى اجتياز الاختبار. لكن المشكلة هي أن الاختبارات نفسها قد تكون مكتوبة أيضًا بواسطة الذكاء الاصطناعي. إذا كان منطق الاختبار والكود به نفس الأخطاء، حتى لو نجحت جميع الاختبارات، فلا يمكن إثبات أن البرنامج لا يحتوي على مشاكل.
لذلك، أكد على أنه لا ينبغي للمطورين الانتباه فقط إلى ما إذا كان الاختبار قد نجح، بل يحتاجون أيضًا إلى توضيح ما يثبته الاختبار وما هي المخاطر التي لا يتم تغطيتها. بالنسبة للنتائج التي يقدمها الذكاء الاصطناعي، يجب أن تكون معايير القبول دليلاً يمكن التحقق منه مثل نتائج الاختبار الفعلية، وسجلات العمليات، ولقطات الشاشة، وما إلى ذلك، بدلاً من ملخص معقول ظاهريًا تم إنشاؤه بواسطة الذكاء الاصطناعي.
اقترح عثماني أيضًا أن يطلب المطورون من الوكيل أن يدرج بوضوح القرارات التي اتخذها بشكل مستقل أثناء تنفيذ المهمة، والافتراضات التي اعتمدها، والشروط التي تجاهلها، لأن هذه المحتويات لا تظهر عادةً في ملخص العمل النهائي.
نظرًا لأن الذكاء الاصطناعي قادر على أداء المزيد والمزيد من المهام في وقت واحد، تبدأ مشكلة أخرى في الظهور. ويطلق عليها عثماني اسم
"ضريبة التنسيق"
(ضريبة التنظيم)، أي الفجوة بين السرعة التي يولد بها الذكاء الاصطناعي النتائج والسرعة التي يمكن للبشر أن يراجعوها بعناية ويكونوا على استعداد لتحمل المسؤولية عنها.عندما تستمر نتائج العمل الناتجة عن الذكاء الاصطناعي في التراكم ولم يعد لدى البشر الوقت الكافي لمراجعتها، فإن الاستمرار في زيادة عدد الوكلاء لن يحل المشكلة. ويعتقد أنه في هذه الحالة، يجب على الفريق تحسين آلية التحقق التلقائي أو تقليل سرعة إنشاء المهام بشكل مناسب.
وحذر عثماني أيضًا من أن الدرجة العالية من الأتمتة التي يتمتع بها الذكاء الاصطناعي قد تدفع البشر إلى التخلي تدريجيًا عن ممارسة مهاراتهم الأصلية. ويوصي المطورين بمحاولة كتابة بعض الأكواد البرمجية دون استخدام الذكاء الاصطناعي كل أسبوع، وإعادة النظر في المهارات التي توقفوا عن ممارستها كل شهر، وتحديد القدرات التي لا تزال تستحق الاحتفاظ بها.
واستشهد أيضًا بأبحاث أنثروبيك حول استخدام الذكاء الاصطناعي من قبل المهندسين والباحثين الداخليين، مشيرًا إلى أن هناك "مفارقة إشرافية": الإشراف على كلود يتطلب قدرات برمجية، لكن الاستخدام المفرط للذكاء الاصطناعي قد يؤدي إلى تدهور هذه القدرات.
وأكد عثماني أن هذه الآراء لا تعني ضرورة تقليل استخدام الذكاء الاصطناعي. لا توجد مشكلة في المهام التي تكون فيها تكلفة الخطأ منخفضة، ويتم تسليمها بالكامل إلى الذكاء الاصطناعي، ولكن عندما يتعلق الأمر بالاستثمارات، أو الاختيارات المهنية، أو سلامة المنتج، أو القرارات الكبرى التي تؤثر على أشخاص آخرين، يجب أن يظل البشر يحتفظون بحقوق الحكم الأساسية.
من وجهة نظره، قد تكون نماذج الذكاء الاصطناعي المستقبلية أفضل في اكتشاف الأخطاء من البشر، لكن هذا لا يلغي المسؤولية البشرية.
لا يزال تحديد المنتجات التي سيتم تطويرها، وسبب استحقاقها للتطوير، ومن سيؤثر عليها، والسعر الذي يرغبون في دفعه مقابلها، يتطلب اختيارات بشرية.
واختتم في نهاية المقال: "
يمكنك تسليم العمل ومعظم مهام المراجعة إلى الذكاء الاصطناعي، لكن لا يمكنك تسليم المسؤولية أيضًا.
"
التعليقات