الملخص:
في اليومين الماضيين، رأيت خبرًا مثيرًا للاهتمام بشكل خاص. هناك شركة في أستراليا تدعى Apate.ai، سميت على اسم آلهة الخداع في الأساطير اليونانية. ما فعلته هذه الشركة أمر شائن بشكل خاص. لقد بنوا 350 ألف جهاز ذكاء اصطناعي. والوظيفة الرئيسية لـ 350.000 من الذكاء الاصطناعي كل يوم هي الكذب على الناس.
إن الأمر مجرد أن الهدف الذي يخدعونه مميز بعض الشيء.
إنهم متخصصون في المحتالين.
نعم، إنه من النوع الكاذب الذي تظنه.
سوف يتظاهر كل ذكاء اصطناعي بأنه شخص عادي، كبير أو شاب، ذكر أو أنثى. لديهم لهجات مختلفة، ويمكنهم التحدث بعدة لغات، وحتى أن لديهم شخصياتهم الخاصة.
مكالمات احتيالية، ومواقع ويب للتصيد الاحتيالي، وعمليات احتيال استثمارية، وما إلى ذلك. وطالما عثروا على محتال، فسوف يجدون طريقة لإرسال الذكاء الاصطناعي إلى هناك، والتظاهر بأنهم ضحية، والدردشة مع المحتال.
الشيء الأكثر أهمية هو أن أنظمة الذكاء الاصطناعي هذه لديها سمة مشتركة مضحكة للغاية، وهي أنه من السهل جدًا خداعها.
طلب المحتال تحويل الأموال، وقال إنه لن تكون هناك مشكلة.
طلب مني المحتال فتح موقع الويب، وقال إنه موافق.
طلب مني المحتال إدخال رقم بطاقتي المصرفية، لكنه أجاب بنعم، لا مشكلة.
ثم عندما يتعلق الأمر بخطوة التنفيذ، ستبدأ فجأة في التصرف بغباء.
عفوًا، أين وضعت بطاقتي المصرفية؟
عفوا، ما هي كلمة المرور هذه؟
آه، أنا كبير في السن ونظري لا يعمل بشكل جيد. أخي الصغير، هل يمكنك أن تقول ذلك مرة أخرى؟
ما عليك سوى التحدث إلى المحتال بشكل مفاجئ، وقد تستمر بعض المكالمات الهاتفية لأكثر من ساعتين...
كاد الكاذب أن ينهار.
لكن السيدة العجوز على الطرف الآخر من الهاتف كانت مهذبة للغاية.
"عذرًا أيها الشاب، أرجوك علمني مرة أخرى."
وفقًا لشركة Apate نفسها، فقد تحدث الذكاء الاصطناعي الخاص بها مع المحتالين 2.5 مليون مرة، ولا يزال يتحدث مع عشرات الآلاف من المحتالين في نفس الوقت كل يوم.
في المجمل، استغرق الأمر من المحتال حوالي 17 عامًا.
حسنًا، 17 عامًا...
قامت شركة الاتصالات الأسترالية TPG بتحويل ما يقرب من 590 ألف مكالمة مشبوهة مباشرة إلى الذكاء الاصطناعي الخاص بشركة Apate للرد عليها. ونتيجة لذلك، نجح بنك الكومنولث الأسترالي بشكل مباشر في خفض خسائر الاحتيال المبلغ عنها علنًا بنسبة 76%.
الأمر المضحك هو أنه من وقت لآخر، يتم جر المحتالين بواسطة الذكاء الاصطناعي إلى درجة الانهيار واللعنة على الهاتف.
لم يقتصر الأمر على أن شركة Apate لم تغضب فحسب، بل قامت أيضًا بتضمين هذه الكلمات البذيئة في مواد حملتها الترويجية التمويلية. قال المؤسس المشارك لهم إن Apate ربما تكون الشركة الوحيدة في العالم التي تحتفل عندما ينتقد المستخدمون منتجاتها.
كان أصل كل هذا هو نزهة عائلية قبل بضع سنوات.
مؤسس شركة Apate هو دالي قعفار. لقد اصطحب عائلته في نزهة في ذلك اليوم، ثم تلقى مكالمة هاتفية غريبة. كانت هذه المكالمة الهاتفية فظة للغاية وبدت وكأنها محتال.
لكنه لم يستسلم، لأنه من أجل إسعاد الأطفال، بدأ في الانخراط في التجريد، والتظاهر بأنه ممسوس بجنية سخيفة، وكان متعاونًا للغاية، فقط كان يتحدث مع الكاذب جملة بجملة.
استمرت هذه المحادثة لمدة 44 دقيقة، ثم انفجرت العائلة بأكملها بالضحك.
بعد الضحك، أدرك كافار شيئًا فجأة.
خلال هذه الدقائق الـ 44، استمر المحتال في الدردشة معه عبر الهاتف ولم يكن لديه الوقت للاتصال بالآخرين. في الأصل، قد يتلقى رجل عجوز يعيش بمفرده هذه المكالمة، وقد يتم الاحتيال عليه في آخر أموال المعاش التي يمكن أن تدعم بقائه على قيد الحياة.
وبالطبع، الثمن هو أنه شارك أيضًا لمدة 44 دقيقة.
لذلك، في تلك اللحظة، خطرت له فكرة جديدة، وطرح على نفسه سؤالًا، ما إذا كان من الممكن ترك هذا الأمر للذكاء الاصطناعي.
ولأن كافيار كان في الأصل يقوم بأبحاث أمن الشبكات في جامعة ماكواري في سيدني، فقد بدأ هو وزملاؤه في التخصص في دراسة مكالمات الاحتيال واستخدموا الذكاء الاصطناعي لتفكيك كلمات المحتالين شيئًا فشيئًا. وفي عام 2024، أصبحت الفكرة "أباتي".
44 دقيقة في نزهة تحولت إلى وصاية استغرقت 17 عاما.
إذا كان هناك شيء واحد في هذا العالم أكرهه حتى النخاع، فلا بد أن يكون الاحتيال.
أعتقد أن العديد من الأشخاص يفكرون بنفس الطريقة التي أفكر بها.
ولكن الآن، يبدو أن الذكاء الاصطناعي يغير شيئًا كان غير عادل بشكل خاص في الماضي، وهو التكلفة بين فعل الشر ومنع الشر.
كنت أشاهد مؤخرًا فيلمًا وثائقيًا عن الاحتيال في مجال الاتصالات في شمال ميانمار. لقد شعرت حقًا أن الجميع كانوا يعملون بجد لمنع خداع الناس العاديين.
ولكن أحد الأشياء المثيرة للاشمئزاز بشأن الاحتيال هو أن هيكل تكاليفه مفيد بشكل طبيعي للمحتالين.
على سبيل المثال، يمكن للكذاب الاتصال بمئات الأشخاص يوميًا. لا يهم حتى لو أغلق كل المئات من الأشخاص الأوائل الخط، لأن هذه مقامرة، ولكن طالما تم خداع شخص واحد في النهاية، فقد يجني الكثير من المال.
ولكن بالنسبة للأشخاص العاديين، ربما لم تتعرض للغش ألف مرة من قبل.
للمرة الأولى فقط، صادف أنني التقيت بكاذب كان يجيد التمثيل بشكل خاص، وصادف أنني كنت في مزاج سيئ في ذلك اليوم، وصادف أنني واجهت نقطة ضعفي.
قد يعني ذلك أن مدخرات حياتك سوف تنفد.
يمكن للكاذبين أن يفشلوا مرات لا تحصى، ولكن الأشخاص العاديين مثلي ومثلك، للأسف، في بعض الأحيان لا تتاح لهم الفرصة للفشل مرة واحدة.
لذلك، قامت بلادنا، ومجتمعنا بأكمله، بأشياء لا حصر لها، وحاولت إيجاد طرق لزيادة يقظة الناس العاديين.
الآن بعد أن أصبح الذكاء الاصطناعي متاحًا، أصبح بإمكان المحتالين استخدام التكنولوجيا لتقليل تكلفة ارتكاب الشر.
لماذا لا يمكننا استخدام نفس التكنولوجيا لتقليل تكلفة حماية الآخرين؟
في أغسطس من هذا العام، تلقت شركة Apate مبلغ 8.15 مليون دولار أمريكي في جولة تمويل أولية. على الرغم من أنها تبدو صغيرة في موجة الذكاء الاصطناعي بأكملها، إلا أنني سأظل أشعر بالرهبة منها. علاوة على ذلك، فقد بدأوا بالفعل في الحصول على عملاء مثل البنوك ومشغلي الاتصالات الذين هم على استعداد حقيقي للدفع.
بمجرد أن تستمر النوايا الحسنة في العمل، ويتم تقليدها وتوسيع نطاقها، فأعتقد أن القوة التي تولدها قد تتجاوز بكثير قدرة شخص واحد.
يا لها من صدفة.
عندما أصبحت حادثة أباتي شائعة، حدث شيء مشابه جدًا في الصين.
إن AI Xiaohai هو الذي أحدث الكثير من الضجيج مؤخرًا.
أعتقد أن الكثير من الأشخاص يعرفون ذلك، لذا سأقدم لك ملخصًا موجزًا.
من المحتمل أن هناك مجموعة من الأشخاص الذين يستخدمون الذكاء الاصطناعي لتوليد بعض الأولاد ذوي المظهر الجميل ويصرخون "عمتي" أمام الكاميرا كل يوم.
يعني ذهابًا وإيابًا أن والدي اليوم مريض، وغدًا سأتعرض للتنمر، وبعد غد سأعاني من نقص المال. على أية حال، سأستمر في المعاناة بشكل بائس.
في النهاية، شعرت بعض النساء في منتصف العمر وكبار السن بالأسف عليه واشتروا المنتجات ذات العمولة العالية من نافذته. وصلت بعض العمولات إلى 55%. ربما كان هذا هو النمط.
الأمر الأكثر شناعة هو أن هناك سيدة تبلغ من العمر 79 عامًا تؤمن حقًا بشياو هاي عبر الهاتف. اشترت تذكرة قطار بمفردها وركضت إلى شانشي للعثور عليه.
لأن شياوهاي أخبرتها أنه بإمكانهما الذهاب لرؤية أزهار المشمش وقطف الموريل معًا.
لكن السيدة العجوز لم تكن تعرف حتى إلى أين تذهب بعد وصولها إلى شانشي.
كانت تعرف فقط أن شياوهاي كان هناك.
في وقت لاحق، اكتشفت الشرطة أن هناك خطأ ما وسألته عنه. وأخيراً اتصل بأسرته وأعاده.
ثم، بعد الكشف عن هذه الحادثة مباشرة، قررت مجموعة من الشباب في الصين، بسحرهم وحكمتهم، البدء في استخدام الذكاء الاصطناعي للرد.
كان أحدهم طالبًا جامعيًا يبلغ من العمر 19 عامًا يُدعى شياوتشو.
وجد أن رجلاً عجوزًا في منزل صديقه قد اشترى عدة أشياء من نافذته لأنه شعر بالأسف تجاه شياو هاي.
لذلك فكر شياوتشو في طريقة مثيرة للاهتمام بشكل خاص، حيث كان الرجل العجوز يؤمن بشياوهاي.
دع Xiaohai يخبر الرجل العجوز بنفسه أنه كاذب، لذلك استخدم أيضًا الذكاء الاصطناعي لإنشاء مقطع فيديو مدته 30 ثانية.
لا يزال وجه شياو هاي هو نفس وجه شياو هاي، ولكن هذه المرة، تحول شياو هاي إلى جيل ثانٍ ثري يعيش في قصر ويرتدي بدلة.
هذه لقطة شاشة للمقابلة التي أجرتها صحيفة بكين نيوز مع شياوتشو.
في هذا الفيديو، دهس والد شياوهاي ذو الشعر الأبيض ونصحه بعدم الكذب على تلك العمات والأمهات مرة أخرى.
ونتيجة لذلك، أدار شياوهاي ظهره وقال إنه لا يهتم بتلك العمات على الإطلاق. وطالما صرخ، كانوا يأتون ويعطون المال.
وأخيرًا، طرد والده.
بعد نشر هذا الفيديو، لم يحصل في الواقع سوى على بضع عشرات من الإعجابات، لكن صديق شياوتشو عرض الفيديو على كبار السن في المنزل.
قال الرجل العجوز الذي كان يشتري أشياء لشياوهاي بعد القراءة:
"أوه لماذا هذا الأمر؟"
"لن أشتري منه أي شيء مرة أخرى."
وبالتالي، أدى مقطع فيديو مدته 30 ثانية إلى تغيير قرار رجل عجوز.
في وقت لاحق، أصيب المزيد والمزيد من الشباب بالعدوى وألهموا وبدأوا في الانضمام.
طلب بعض الأشخاص من شياو هاي الذهاب إلى السجن، وطلب البعض من شياو هاي التدخين والشرب، وطلب منه آخرون ارتداء سلسلة ذهبية وحساب الأموال في القصر.
حتى أن بعض الأشخاص طلبوا من شياوهاي ارتداء زي السجن والتمسك بقضبان السجن الحديدية والاعتراف أمام الكاميرا بأنه كاذب.
هكذا بدأت المواجهة الرائعة بين الذكاء الاصطناعي.
يعجبني بشكل خاص ما قاله شياوتشو في مقابلة مع صحيفة بكين نيوز.
"لا ينبغي خداع الأشخاص الطيبين."
أعتقد أن مثل هذه الجملة البسيطة أقوى من أي بيان كبير للذكاء الاصطناعي.
بعد قراءة هاتين القصتين، قصة أباتي وشياوتشو، تأثرت حقًا بالعاطفة. علاوة على ذلك، أظهر هذا بشكل مثالي تغييرًا خاصًا جدًا في عصر الذكاء الاصطناعي.
في الماضي، إذا أراد شخص عادي أن يفعل عملاً صالحًا، فقد لا يتمكن من القيام به.
والآن، أتيحت له أخيرًا الفرصة لاستخدام الذكاء الاصطناعي والتكنولوجيا لتعزيز حسن نيته.
منذ وقت طويل، كتبت مقالًا عن طالب في المدرسة الثانوية يبلغ من العمر 17 عامًا تظاهر بأنه ذكاء اصطناعي وقام بشفاء المحطة B بأكملها بردوده. كلهم أناس عاديون ولكنهم عظماء.
نناقش كل يوم مدى ذكاء النموذج، وما هي المعايير التي خرقها، وعدد المهام التي يمكنه إكمالها والتي لم يكن من الممكن القيام بها إلا من قبل البشر في الماضي.
بالطبع هذه الأمور مهمة.
لكنني أعتقد أنه وراء هذه الأنظمة الذكية المتزايدة القوة، غالبًا ما يكون اللطف الخالص تجاه الناس أكثر قيمة.
ربما يكون هذا هو مستقبل الذكاء الاصطناعي الذي أرغب بشدة في رؤيته.
التكنولوجيا نفسها في الواقع ليس لها مكانة.
إن ما يعمل الذكاء الاصطناعي على تضخيمه لا يقتصر أبدًا على القدرات البشرية.
كما أنها تعمل أيضًا على تضخيم خيارات الأشخاص.
آمل أن نتمكن يومًا ما في المستقبل من استخدام التكنولوجيا الأكثر تقدمًا لحماية أقدم وأبسط أنواع اللطف لدى البشرية.
أتمنى أيضًا لأولئك الطيبين.
لا تضطر أبدًا إلى القيام بذلك بسبب لطفك.
وتتأذى مرة أخرى.
التعليقات