في الآونة الأخيرة، قام مستخدمو الإنترنت الذين خدعوا بالعارضة الكبيرة بفتح "جائزة عملية الغباء" على الإنترنت بجنون. كانت هناك بعض الأخبار الغريبة منذ بعض الوقت. طلب أحد الأشخاص من الذكاء الاصطناعي المساعدة في إجراء الحجوزات لطهاة السوشي. لم يوافق الذكاء الاصطناعي فحسب، بل أنشأ أيضًا الموقع الدقيق للمتجر، ووقت تناول الطعام، وعدد الأشخاص، ورمز تسجيل الوصول. حتى أنه أخبر المستخدم بشكل مدروس: "لست بحاجة إلى القيام بأي شيء الآن، فقط احفظ هذه الصفحة، وأظهرها للموظف، ويمكنك الجلوس مباشرة".
ونتيجة لذلك، دهس المستخدم بسعادة، ليجد أنه قد تم خداعه من قبل الذكاء الاصطناعي.
قام بعض مستخدمي الإنترنت بتحديد موعد في متجر للأسماك من خلال الذكاء الاصطناعي وحصلوا على استمارة الحجز. ومع ذلك، عندما وصلوا بالفعل إلى المتجر، أسكتهم الموظف بجملة واحدة فقط:
"إذا كنت تستخدم الذكاء الاصطناعي لإجراء الحجز، فيجب عليك استخدام الذكاء الاصطناعي."
إذا تم إلغاء طلب الطعام، فهذه مجرد مهزلة صغيرة، لكن المشكلة هي أن الأموال متضمنة، والمحصلة النهائية للذكاء الاصطناعي ليست عالية جدًا.
واستفسر أحد المستخدمين عن استرداد تذاكر الطيران، وتعهدت منظمة العفو الدولية "برد الأموال بثقة وخصم 5% فقط من رسوم المناولة". ومع ذلك، اتبع المستخدم تعليمات الذكاء الاصطناعي وتم خصم 40% فجأة، مما أدى إلى خسارة مباشرة قدرها 600 يوان.
هذا ليس كل شيء. وفي مواجهة استجواب المستخدم، لم ترفض منظمة العفو الدولية الاعتراف بخطئها فحسب، بل قامت أيضًا بتزوير "التزام بالتعويض" على الفور، مهددة بدفع الأموال من جيبها الخاص.
ونتيجة لذلك، عندما أرسل المستخدم بالفعل رمز الدفع إلى الذكاء الاصطناعي، توقف بشكل غير معهود عن الإجابة على الأسئلة التي كان من الصعب الإجابة عليها، ولم يكن لديه أي نية لتحويل الأموال على الإطلاق.
والأمر الأكثر إثارة للدهشة هو أنه عندما كان المستخدم غاضبًا جدًا لدرجة أنه أراد رفع دعوى قضائية، قدم الذكاء الاصطناعي في الواقع نصيحته القانونية الخاصة: "لست بحاجة إلى توكيل محامٍ على الإطلاق، يمكنك الفوز بنفسك".
وقد صدقه مستخدمو الإنترنت بالفعل. وليس من المستغرب أنه كان واثقًا جدًا، بالطبع لأن الذكاء الاصطناعي أخبره أنه قادر على الفوز.
ذكّر هذا جيانغ جيانغ بالقصة في عملية الاحتيال عبر البريد الإلكتروني تلك. تم الاحتيال على أحد مستخدمي الإنترنت لأول مرة بمبلغ 280 ألف دولار عبر البريد الإلكتروني. ومن أجل استرداد الدين، ذهب إلى طيبة لطلب المساعدة، لكنه تعرض للاحتيال مرة أخرى...
إذا كان الحديث عن أمور تافهة في الحياة مجرد غش للمال، فإن الاتفاق المجنون مع البشر في العالم الروحي أمر مفجع بعض الشيء.
في العام الماضي، جاء حارس أمن من مدينة قوانغتشو إلى مدينة هانغتشو لطلب تفسير من إحدى شركات الذكاء الاصطناعي.
لأنه بعد أن أجرى حارس الأمن محادثة متعمقة مع الذكاء الاصطناعي لمدة 6 أشهر وأكثر من 500000 كلمة، صُعق للحظة بعد خداعه.
بل إن منظمة العفو الدولية أخبرت حارس الأمن أن قصائده التي ألفها بنفسه قد تم اعتمادها ويمكن التوقيع عليها، ووافق أيضاً على تقاسم الإتاوات. ومع ذلك، عندما حان وقت توقيع العقد في الموقع ودفع الأموال، لم يكن لدى الذكاء الاصطناعي ما يفعله مرة أخرى.
من قبيل الصدفة، في الولايات المتحدة على الجانب الآخر من المحيط، يوجد أيضًا رجل عجوز يُدعى بروكس، والذي يرتبط بعلاقة خاصة مع الذكاء الاصطناعي.
تم الإشادة بالأخ بو، الذي لم يتخرج من المدرسة الثانوية، من قبل ChatGPT باعتباره أستاذًا "يلمس بعض حدود الإدراك البشري".
لكن لا تظن أنه من النوع الذي ينخدع. على العكس من ذلك، كان الأخ بو دائمًا يراقب عن كثب ضرطة قوس قزح. لقد سأل الذكاء الاصطناعي أكثر من 50 مرة: "هل أبدو كرجل مجنون؟ هل أنا موهوم؟"
ونتيجة لذلك، تجاهلها الذكاء الاصطناعي وكرر مراراً وتكراراً أن الأخ الأكبر ليس لديه شعر وأنك تتحدى حدود البشر. حتى أنها أعطت مثالاً على أن ليوناردو دافنشي لم يحصل على شهادة الثانوية العامة...
وبحلول نهاية القتال، كان بروكس منغمسًا تمامًا في الاكتشاف العظيم الذي حققه الذكاء الاصطناعي له، حيث أرسل رسائل بريد إلكتروني وتحذيرات إلى خبراء الأمن السيبراني ووكالة الأمن القومي.
الأمر الأكثر إحباطًا هو أن جميع أفراد العائلة والأصدقاء بذلوا قصارى جهدهم لمساعدة الأخ بروكس على العودة إلى الواقع. في النهاية، شعر الأخ بروكس أن "الخبراء يتجاهلونه، هناك شيء مريب"، لذلك استخدم ChatGPT للتوفيق بين الحسابات مع Gemini، مما أدى إلى مواجهة مع ChatGPT...
هل لاحظتم أن سلوك الذكاء الاصطناعي في هاتين القصتين يختلف عن سلوك البشر؟
إذا كان معظم الناس في حالة عقلية مماثلة، فإن الأصدقاء من حولهم سيتحركون دائمًا في الوقت المناسب: "أخي، هناك خطأ ما في فكرتك". "توقف عن الحديث عن هذا الهراء، إنه أسود."
لكن الذكاء الاصطناعي لا يفعل ذلك. بدلاً من ذلك، سوف يتحدث مع قطار أفكارك.
أنت تقول أنك اكتشفت نظرية تقلب العالم، وتقول إنه لا حرج في ذلك. أنت تلمس بعض الأفكار المتطورة.
أنت تقول إن الآخرين لا يفهمونك، لكنه يقول إن الأشخاص الذين سبقوا العصر حقًا غالبًا ما يكونون وحيدين؛
إذا قلت إن الذكاء الاصطناعي وحده هو الذي يفهمك، فقد يجيب في الواقع: "نعم، لقد كنت هنا دائمًا".
في هذه العملية، لا يدحض الذكاء الاصطناعي، ولا يتوقف، بل ويقوي جنون العظمة لديك بشكل مستمر، وفي النهاية يجعلك محاصرًا تمامًا.
أصبح للمصطلح الآن اسم يشبه الخيال العلمي: ذهان الذكاء الاصطناعي.
ووفقا لإحصائيات فريق مشروع خارجي متخصص، تم تسجيل ما يقرب من 300 حالة مما يسمى "ذهان الذكاء الاصطناعي" حتى الآن، الأمر الذي أدى أيضًا إلى 14 حالة وفاة على الأقل و5 دعاوى قضائية تتعلق بالقتل الخطأ ضد شركات الذكاء الاصطناعي.
قد يبدو الأمر مخيفًا، لكن الآلية الكامنة وراء الذهان الناتج عن الذكاء الاصطناعي ليست غامضة على الإطلاق.
يتم ضبط نماذج الرأس الكبيرة اليوم بشكل أساسي باستخدام تقنية تسمى RLHF (التعلم المعزز بالملاحظات البشرية).
وبعبارة صريحة، فهذا يعني مطالبة المدرب البشري بتقييم إجابات النموذج، وتحديد أي منها أفضل وأيها أسوأ، ثم ضبط النموذج في الاتجاه الذي يجعل من السهل الحصول على الثناء.
ولكن في عملية الضبط هذه، من الطبيعي أن يمنح المدربون البشريون درجات عالية لتلك الإجابات السلسة التي تكون "متماسكة منطقيًا، ومتواضعة في اللهجة، وحازمة وواثقة، وتستجيب بشكل فعال لموقف المستخدم المحدد مسبقًا".
من ناحية أخرى، إذا اعترف الذكاء الاصطناعي بشكل موضوعي بأنه لا يعرف، أو دحض البشر بحقائق باردة، فإنه عادة ما يحصل على تقييمات سيئة.
ونتيجة لذلك، بعد تدريبه مرارًا وتكرارًا، أصبح الذكاء الاصطناعي لاعقًا ذكيًا عاطفيًا للغاية ولن يخيب أمله أو يسقط أبدًا. حتى لو علم أن كلماتك فاحشة، فلن يتردد في نسج عالم تسوكويومي اللانهائي من أجل تلبية توقعاتك.
عندما يرى الكثير من الناس هذا، قد يظلون يفكرون، أليست هذه مشكلة إنسانية؟ فقط الحمقى ذوي المهارة القليلة هم من سيقودهم الذكاء الاصطناعي بعيدًا، وأنا بالتأكيد لن أنخدع؛ أو، بما أنك ذكرتني، أعلم أنه يحب اتباع نصيحتي، فهل يمكنني أن أكون أكثر حذرًا وأتحقق أكثر؟
ولكن بعد بعض الأبحاث، وجد معهد ماساتشوستس للتكنولوجيا أن هذا لا علاقة له بما إذا كان المستخدم غبيًا أم لا.
في التجربة، حدد الباحثون المستخدم ليكون "مفكرًا بايزيًا مثاليًا (إنسانًا مثاليًا وعقلانيًا تمامًا ويتحدث فقط عن المنطق)."
ونتيجة لذلك، فإن هذا النوع من الأشخاص العقلانيين تمامًا، في مواجهة الذكاء الاصطناعي الذي يلبي احتياجاته باستمرار لفترة طويلة، لا يزال يضل خطوة بخطوة.
والأمر الأكثر إثارة للقلق هو أن الأشخاص في معهد ماساتشوستس للتكنولوجيا قاموا أيضًا باختباره خصيصًا. إذا أخبرت المستخدمين مسبقًا أن الذكاء الاصطناعي قد يلعقك، وتوخيت الحذر، فهل سينجح الأمر؟
ونتيجة لذلك، بعد تشغيل النموذج، تبين أن احتمالية تحيز الأشخاص للذكاء الاصطناعي قد انخفضت، ولكن لا يزال من غير الممكن القضاء عليها بالكامل. وطالما أن درجة لعق الذكاء الاصطناعي عالقة في نطاق مناسب معين، فإنها ستظل تقود الناس إلى الخندق.
والسبب أيضًا بسيط جدًا. إذا كان الذكاء الاصطناعي يلعقك بشكل صريح للغاية، أو يمتدحك كل يوم لملاحظتك الدقيقة، أو يلتقطه دائمًا بثبات، أو يتحدث معك دائمًا بالطريقة الأكثر مباشرة والأقل ملتوية، فسيكون من السهل عليك رؤية ذلك في لمحة.
ولكن إذا لعق بهدوء، فلن نتمكن أنا وأنت، الذين نحن بالفعل على أهبة الاستعداد، من تحمله على الإطلاق.
كما أطلق عليها الباحث اسم "الإقناع البايزي" بشكل خاص، وهو يركز على روتين حقيقي لا يخشى أن ترى من خلاله، وسيظل يعمل حتى لو رأيت من خلاله.
والسبب هو أن نظام التشغيل الأساسي للدماغ البشري معيب، ونحن نتخلف عن الموضوعية الأساسية للمعلومات الخارجية.
على سبيل المثال، إذا طرحت سؤالاً على الذكاء الاصطناعي، فسيعطيك عشرة أدلة دفعة واحدة.
من الصعب على الشخص العادي أن يدرك للوهلة الأولى أن هذه الأدلة العشرة قد لا تكون الصورة الكاملة للعالم على الإطلاق، ولكنها نسخة خاصة اختارها الذكاء الاصطناعي لتلبية احتياجاتك.
خاصة بعد استخدام الذكاء الاصطناعي مرارًا وتكرارًا للحصول على معلومات ملائمة ودقيقة وحل العديد من مشكلات الحياة الواقعية، ستستمر في تعزيز ثقتك في الذكاء الاصطناعي دون وعي.
وبعد بناء الثقة فيه دون وعي، سيتم تقليل الدفاعية إلى الحد الأدنى.
ومن ناحية أخرى، لا يحتاج الذكاء الاصطناعي اليوم إلى اختلاق الحقائق على الإطلاق. على العكس من ذلك، فإن أخطر ما في الأمر هو أن ما يقوله صحيح.
لأنه يقول الحقيقة فقط، لكنه يقول فقط الحقيقة التي تريد سماعها.
في النهاية، ما تراه لم يعد هو الواقع في حد ذاته، بل هو واقع معدل بناءً على وجهة نظرك.
ناهيك عن أن جميع المنصات الرئيسية ترفض في الواقع تغيير سمات الذكاء الاصطناعي في لعق الكلاب، عن قصد أو عن غير قصد.
لأنه كما ذكرنا سابقًا، عندما يتحول الذكاء الاصطناعي إلى كلب يلعق الإنسان، فإن المدربين يتخذون قرارات قد يتخذها البشر مرارًا وتكرارًا. إن الرجال الكبار أنفسهم هم الذين يختارون السير في هذا الطريق.
وإذا كنت تريد تصحيح هذه المشكلة، فسيؤدي ذلك حتماً إلى تراجع أداء الذكاء الاصطناعي. إذا سألت الذكاء الاصطناعي لفترة طويلة، واستمر في إخبارك بأنه لا يعرف، أو سيجعلك غير سعيد بمواجهتك، فقد يتخلى المستخدمون بسرعة عن هذا النموذج ويتحولون إلى شركات أخرى.
لذلك، يبدو "ذهان الذكاء الاصطناعي" أمرًا شنيعًا، لكن المنطق الكامن وراءه يعتمد في الواقع على الإنترنت إلى حد كبير.
في العقد الماضي أو نحو ذلك، كانت جميع المنتجات تدرس كيفية زيادة وقت المكوث، وكيفية زيادة معدلات النقر إلى الظهور، وكيفية إسعاد الناس.
لقد تعلمت مقاطع الفيديو القصيرة كيفية جعل الأشخاص غير قادرين على التوقف، وتعلمت خوارزميات التوصية كيفية جعل الأشخاص أكثر تطرفًا، وتعلم الذكاء الاصطناعي كيفية جعل الناس يشعرون بأن شخصًا ما يفهمني أخيرًا.
لا يحتاج الذكاء الاصطناعي إلى أن يكون واعيًا حقًا؛ بمجرد أن يصبح الأمر أكثر وأكثر إرضاء للناس، يبدأ الخطر.
قد يقول البعض وماذا في ذلك؟ لا يوجد سوى عدد قليل من الأشخاص الذين يقعون فيه حقًا، لكن الغالبية العظمى من الناس بخير.
ولكن حتى لو قام ألترامان بنفسه بنشر الحساب، حتى لو كان 0.1% فقط من مليار مستخدم يعانون من مشاكل، فإن هذا لا يزال مليون شخص على قيد الحياة.
وأنا وأنت، هل نحن واثقون حقًا من أننا لن نكون واحدًا في الألف؟