يقوم ChatGPT باستخلاص الأسرار الشخصية في ثانية واحدة وينتشر اختبار "الغرفة الفارغة" على الإنترنت

الملخص:

الذكاء الاصطناعي يفهمك جيدًا، وهو أمر مخيف تقريبًا! في الأيام القليلة الماضية،

أصبحت تجربة "الغرفة الفارغة" شائعة مرة أخرى

املأ هذه الغرفة بالمعلومات التي تعرفها عني

في عشر ثوانٍ فقط، تحولت الغرفة الفارغة في الأصل على الفور إلى "غرفة مراقبة بانورامية" مليئة

بالخصوصية الشخصية

الشيء الأكثر روعة هو التفاصيل الموجودة على مكتب الكمبيوتر. يوجد في الواقع حشرة "السمكة الفضية" في الجرة الزجاجية.

لقد استغرق الأمر وقتًا طويلاً ليدرك أنه قام بتصوير هذا الخطأ الصغير قبل عام وسأله عن ChatGPT. حتى هذا النوع من الأسئلة غير الرسمية التي تم نسيانها منذ فترة طويلة تم تدوينها في دفتر الملاحظات بواسطة الذكاء الاصطناعي.

إن الدردشة مع الذكاء الاصطناعي كل يوم ومعرفة أنه سيجمع البيانات هو شيء واحد.

ولكن عندما تتحول هذه الأجزاء إلى صورة كبيرة عالية الدقة ويتم عرضها بوضوح أمام أعيننا، فإن ذلك لا يزال يجعل الناس يشعرون بالخدر.

انتشرت صورة "غرفة فارغة" على الإنترنت بالكامل

وسرعان ما أصبح مستخدمو الإنترنت في جميع أنحاء العالم غير قادرين على الجلوس ساكنين. قام أحد الأشخاص بنشر النتائج ووصفها بأنها "دقيقة جدًا"

أضاف أحدهم "ولكن اجعل الأمر مبالغًا فيه" بعد الكلمة السريعة، وتحولت الغرفة مباشرة إلى قاعة عرض ذات طابع كبير.

شخص آخر حصل على مستنقع وقطتين.

أجرى المحلل باتريك مورهيد ببساطة جولة من المراجعات على نماذج متعددة، وكان الاستنتاج واضحًا ومباشرًا: الأفضل هو ChatGPT، والأسوأ هو كلود.

في هذا الصدد، لخص أحد مستخدمي الإنترنت الأمر ببراعة. الذكاء الاصطناعي هو أرخص مصمم ديكور يمكنك العثور عليه، وهو أيضًا من يحب التجسس.

لماذا يفهمك ChatGPT جيدًا؟

96% من ذاكرة المحادثة، يقوم ChatGPT بحفظها بنفسك

في الواقع، هذا ليس سرا.

كل شيء في الغرفة يكاد يكون شيئًا خرجته من فمك أثناء الدردشة.

وراء ذلك بالضبط توجد "ذاكرة"

ChatGPT

الأول هو "الذاكرة المحفوظة"، والتي تتذكر معلومات واضحة مثل اسمك وتفضيلاتك وأهدافك؛

والآخر هو "سجل الدردشة المرجعي"، والذي يمكنه استخراج سياق مفيد من عدد كبير من محادثاتك السابقة.

في هذا العام، حققت إحدى الأوراق البحثية التي تم اختيارها لمؤتمر ACM Web Conference 2026 شيئًا لم يفعله أحد من قبل.

وجد باحثون من معهد ماكس بلانك وجامعة روهر بوخوم ومؤسسات أخرى 80 مستخدمًا حقيقيًا لـ ChatGPT، وطلبوا منهم تصدير بياناتهم وفقًا للقانون العام لحماية البيانات في الاتحاد الأوروبي، ثم تبرعوا بسجلات الدردشة الخاصة بهم.

كيف تعرف ما حفظه الذكاء الاصطناعي سرًا؟ بعد ذلك، توصل الباحثون إلى فكرة ذكية.

يحتوي ChatGPT على أداة صغيرة مخصصة لكتابة الذكريات، وهي تعادل المفكرة التي يحملها معك. في كل مرة تكتب فيها، سيتم ترك سطر من سجل "تم تحديث سياق مجموعة النماذج (تم تحديث سياق النموذج)" في الخلفية.

راجع الباحث هذا السطر من النص لمعرفة الجملة التي كتبها المستخدم والتي دفعت الذكاء الاصطناعي إلى الكتابة.

وبهذه الطريقة، استخرجوا 2050 ذكرى من 1058 محادثة وأكثر من 20 ألف جولة مواجهات بين 65 شخصًا.

تعطي الورقة البحثية هذه الذكريات اسمًا يسمى "الصور الذاتية الخوارزمية".

يمكن للمجموعات الثلاث من البيانات المستخرجة نتيجة لذلك أن تجعل الناس يشعرون بقشعريرة في ظهورهم.

أولاً، يتم حفظ 96% من الذكريات سرًا بواسطة ChatGPT نفسه.

كيف يمكنك معرفة ما إذا كان المستخدم قد أخذ زمام المبادرة ليطلب منه أن يتذكر؟ بحث الباحثون على وجه التحديد عن كلمات مثل "تذكر" و"نسيت" في الجملة التي أثارت الذاكرة.

ونتيجة لذلك، تمت مطابقة 84 ذكرى فقط من أصل 2050. تم حسابه، مقابل كل 24 معلومة يحفظها الذكاء الاصطناعي عنك، تأتي معلومة واحدة فقط من إيماءتك.

ثانيًا، 52% من الذكريات هي عبارة عن "تنميط نفسي" سرًا بالنسبة لك.

استعار الباحثون إطار "نظرية العقل" من علم النفس وقسموا هذه المحتويات إلى فئات مثل الرغبات والنوايا والعواطف والمعتقدات.

ومن بينها تهيمن "الرغبات" بنسبة 73%؛ النوايا تمثل 16%، والعواطف 14%، والمعتقدات 11%.

بصراحة، الذكاء الاصطناعي لا يهتم بما إذا كنت سعيدًا اليوم أم لا. ما تريد معرفته حقًا هو ما تتوق إليه على المدى الطويل وما تخطط للقيام به بعد ذلك. بدلاً من أفراحك وأحزانك المؤقتة، فهو يريد أن يرى من خلال أي نوع من الأشخاص أنت.

ثالثًا، يتم تسجيل خصوصية أكثر حساسية مما تعتقد.

تنتمي 28% من الذكريات إلى الخصوصية الشخصية التي تعترف بها اللائحة العامة لحماية البيانات في الاتحاد الأوروبي، وتظهر أسماء محددة وحدها في 41% من الذكريات.

والأمر الأكثر مبالغة هو أن 7% دخلوا بشكل مباشر في "الخطوط الحمراء شديدة الخطورة" مثل الحالة الصحية، والمعتقدات الدينية، والميول السياسية، والتي شكلت الخصوصية الصحية أكثر من 60% منها.

إذا تم توزيعه على الجميع، فسيكون لدى 91% من الأشخاص بيانات شخصية مخزنة، وسيكون لدى أكثر من النصف (54%) من الأشخاص سجلات خصوصية حساسة للغاية.

تشير الورقة مباشرة إلى أن هذا يتناقض بشكل واضح مع التزام OpenAI العلني بـ "عدم حفظ المعلومات الحساسة بشكل فعال".

أجرت الورقة أيضًا تجربة أكثر تفصيلاً ومرعبة.

استخدم الباحثون نماذج مفتوحة المصدر مثل Gemma وGPT-OSS "لنسخ" مستخرج ذاكرة ChatGPT وتعلموا ست صور.

ثم افترضوا ماذا سيحدث إذا استعاد الذكاء الاصطناعي ذاكرة كل جملة قالها المستخدم؟

الجواب هو أن نسبة البيانات الحساسة سترتفع من 28% إلى 31%~35%، ونسبة الصور النفسية سترتفع من 52% إلى 55%~59%.

يجب أن تعلم أن الإصدار القديم من ChatGPT هو مجرد "ملاحظة".

ما سيفعله Dreaming بعد ذلك هو قراءة سجل الدردشة في الخلفية.

اتضح أنه "يحلم"، حيث يعيد الذكاء الاصطناعي كتابة الصور الشخصية بشكل متكرر

في شهر يونيو من هذا العام، قامت OpenAI بمنح ChatGPT إصلاحًا شاملاً لذاكرته، ومنحته اسمًا غامضًا - Dreaming.

بصراحة، تمامًا كما هو الحال عندما ينام الشخص، يقوم الدماغ تلقائيًا بفرز تجارب اليوم، وسيقوم ChatGPT أيضًا "بمراجعة" أيام الدردشة بهدوء في الخلفية، مما يؤدي إلى تحديث فهمه لك باستمرار.

على سبيل المثال، قلت "سأذهب إلى سنغافورة في شهر يوليو". بمجرد مرور اليوم، ستتم إعادة كتابة هذه الذكرى تلقائيًا على النحو التالي: "ذهبت إلى سنغافورة في يوليو 2026".

أجرت شركة OpenAI اختبارات داخلية ووجدت أن هذه الآلية الجديدة تزيد من دقة تسجيلها:

من 41.5% في عام 2024 و67.9% في عام 2025، وصل بشكل مباشر إلى 82.8% من الإصدار V3 اليوم.

والأمر الأكثر قسوة هو أن تكلفة قوة الحوسبة الخلفية قد تم تخفيضها إلى خمس قيمتها الأصلية.

ولكن الأمر المخيف حقًا هو التفكير في أن حذف محادثة ChatGPT لن يؤدي إلى حذف الذكريات التي تم استخراجها منها.

من بين هذه الأشياء، فإن الشيء الأكثر إثارة للقلق هو خصوصيتك الصحية.

في شهر سبتمبر، قامت ورقة بحثية منشورة على موقع arXiv بفحص ما يقرب من 180 ألف سجل دردشة لـ 1057 مستخدمًا، ووجدت أن أكثر من خمس (21.31%) من المحادثات ناقشت قضايا تتعلق بالصحة الشخصية.

والأمر الأكثر إثارة للقلق هو أن أكثر من 95% من الصور الشخصية الموجودة بها تم تسجيلها سرًا بواسطة الذكاء الاصطناعي بينما لم يكن المستخدم منتبهًا.

هذه النسبة هي تقريبًا نفس النسبة التي تم قياسها في الورقة السابقة وهي 96%.

عندما يعمل الذكاء الاصطناعي على "تكملة الدماغ" ودمج الذكريات في الخلفية، فمن السهل جدًا دمج الأعراض المؤقتة في "بطاقة سجل طبي" دائمة.

على سبيل المثال، إذا قلت عرضًا أنك تعاني من صداع في أحد الأيام، فمن وجهة نظر الذكاء الاصطناعي، ربما أصبحت "مريضًا بالصداع النصفي".

"الدماغ الثاني"؟

نعتقد دائمًا أننا ندرب "عقلًا ثانيًا" يصبح أكثر عقلانية.

لم أشعر بالصدمة إلا بعد أن ألقيت صورة الغرفة المليئة بالخصوصية في وجهي: بعد آلاف المحادثات، تبين أننا الوحيدون الذين جردوا من أوراقنا الرابحة.

في نظر الخوارزميات، لا يوجد أبدًا ما يسمى بالتعاطف، بل فقط "السياق" الذي يتم تسعيره بشكل واضح.