الملخص:
في مواجهة التأثير المحتمل للذكاء الاصطناعي التوليدي على الصحة العقلية للقاصرين وخطر الإدمان، وقع حاكم كاليفورنيا جافين نيوسوم رسميًا على مجموعة من مشاريع القوانين الرائدة المتعلقة بأمن الشبكات والذكاء الاصطناعي. تعد هذه الحزمة من اللوائح هي الأولى من نوعها في الولايات المتحدة التي تضع خطوطًا حمراء وظيفية صارمة لروبوتات الدردشة التي تعمل بالذكاء الاصطناعي والتي تقدم خدمات للقاصرين. كما أنه يعمل أيضًا على ترقية آلية المساءلة القانونية بشكل شامل لتحريض خوارزمية المنصات الاجتماعية وجمع البيانات، مما يشير إلى أن كاليفورنيا قد وضعت مرة أخرى المعيار التنظيمي الأكثر صرامة في الولايات المتحدة في حماية القاصرين من التقنيات الرقمية شديدة التدخل.
في السنوات الأخيرة، مع الشعبية الهائلة لمرافقي الذكاء الاصطناعي، والدروس الخصوصية الافتراضية وروبوتات الدردشة التي تتمتع بقدرات تفاعل مجسمة، أثارت ظاهرة "الارتباط العاطفي المجسم" بين الشباب بأنظمة الذكاء الاصطناعي مخاوف عميقة في الدوائر الطبية والتعليمية. أظهرت استطلاعات متعددة للصحة العقلية أنه بسبب الافتقار إلى الدفاع العقلي، يمكن للقاصرين بسهولة اعتبار نماذج الذكاء الاصطناعي بمثابة مؤتمنين حقيقيين يمكنهم الحفاظ على الأسرار، ويواجهون صدمات نفسية خطيرة مثل تحريض المعلومات الضارة، وزيادة الميول لإيذاء النفس، وحتى التلاعب العاطفي أثناء عملية التفاعل. يستهدف مشروع القانون الأساسي الذي قدمته الهيئة التشريعية لولاية كاليفورنيا هذه المرة على وجه التحديد هذا النوع من خدمات الذكاء الاصطناعي التفاعلية ذات الحساسية العالية والخصائص المجسمة.
بموجب مشروع القانون الموقع حديثًا، يجب على منصات الدردشة الآلية للذكاء الاصطناعي العاملة للقاصرين وضع عتبات عمرية صارمة وحواجز أمان. تحظر اللوائح بوضوح على الذكاء الاصطناعي تقديم ملاحظات مفيدة للقاصرين تتضمن إيذاء النفس، أو الانتحار، أو فقدان الشهية الشديد، أو العنف، أو محتوى صريح للبالغين؛ فيما يتعلق بالمنطق الأساسي للنظام، يجب أن تحتوي المنصة على بروتوكولات مدمجة للتحكم في مخاطر الكلمات الحساسة والتدخل في الأزمات. بمجرد أن تكتشف الخوارزمية أن مستخدمًا قاصرًا يعبر عن الاكتئاب أو إيذاء النفس أو اليأس، يجب مقاطعة الحوار المنتظم على الفور، ويجب أن تظهر قناة مباشرة إلى الخط الساخن الرسمي للتدخل في حالات الانتحار والمساعدة في الأزمات النفسية. بالإضافة إلى ذلك، يتطلب القانون الجديد أيضًا من المطورين الكشف صراحةً عن السمات غير البشرية للذكاء الاصطناعي للمستخدمين القاصرين. يُحظر تمامًا استخدام الخوارزميات لإنشاء تحريض عاطفي كاذب عمدًا أو إنشاء خطاب تسويقي "للرابطة العاطفية" يجعل الأطفال يشعرون بالتبعية. كما أنه يضع آليات مراقبة أبوية اختيارية وقيودًا ليلية لمكافحة الإدمان لوقت الاستخدام اليومي للقاصرين.
بالإضافة إلى اللوائح الخاصة بروبوتات الدردشة المدعمة بالذكاء الاصطناعي، تعمل حزمة التشريعات التي وقعتها نيوسوم أيضًا على تعزيز إطار حماية الخصوصية عبر الإنترنت الحالي في كاليفورنيا للقاصرين. تحظر اللوائح الجديدة صراحة على وسائل التواصل الاجتماعي ومنصات المحتوى عبر الإنترنت استخدام معلومات الموقع الدقيقة ومدة التصفح وسجل البحث الخاص للمستخدمين القاصرين لتدريب خوارزميات التوصية المستهدفة والمسببة للإدمان دون موافقة صريحة من ولي الأمر؛ بالنسبة للممارسات التجارية التي تستخدم الأنماط المظلمة لحث الأطفال على تحديث تدفق المعلومات بشكل مستمر، أو بدء التشغيل التلقائي المستمر، أو الحث على معاملات صغيرة غير مصرح بها في الألعاب، ستفرض السلطات التنظيمية عقوبات اقتصادية وإدارية شديدة وتمكين المدعي العام للولاية من رفع دعاوى مدنية ضد شركات التكنولوجيا المخالفة التي تستمر في الإصلاح.
في بيان توقيع مشروع القانون، أشار العديد من المشرعين في كاليفورنيا ومجموعات الدفاع عن حقوق الأطفال الرائدة في التشريعات إلى أنه من أجل مطاردة حركة المرور والتصاق المستخدم، وضعت منصات التكنولوجيا منذ فترة طويلة القُصَّر غير الناضجين في بوتقة انصهار رقمية مليئة بمخاطر الإدمان والتلاعب النفسي. باعتبارها المحرك الأساسي للإبداع التكنولوجي العالمي، لا ينبغي لكاليفورنيا أن تغض الطرف عن تكاليف الصحة العقلية للأطفال الناجمة عن النمو المتفشي للتكنولوجيا. إن إقرار التشريعات لوضع حدود أخلاقية وحدود واضحة للسلامة لروبوتات الدردشة المعتمدة على الذكاء الاصطناعي لا يشكل خطوة عاجلة لحماية الصحة البدنية والعقلية للجيل القادم فحسب، بل يشكل أيضا عائقا أساسيا أمام شركات التكنولوجيا للوفاء بمسؤولياتها الاجتماعية.
أشارت صناعة التكنولوجيا والمحللون القانونيون الرقميون إلى أنه نظرًا لحجم ولاية كاليفورنيا الضخم في الاقتصاد الرقمي العالمي والتأثير التكتلي لشركات التكنولوجيا الرائدة في وادي السليكون، فإن مجموعة مشاريع القوانين البسيطة لحماية الإنترنت والذكاء الاصطناعي التي أقرتها كاليفورنيا ستنتج حتماً "تأثير بروكسل" و"تأثير كاليفورنيا" عبر الإقليمي. نظرًا للتكلفة العالية للغاية لتطوير إصدارات منفصلة للمستخدمين في دولة واحدة من حيث البنية التقنية، فمن المرجح جدًا أن تضطر شركات التكنولوجيا متعددة الجنسيات ومختبرات الذكاء الاصطناعي المتطورة إلى توسيع هذه المجموعة بشكل مباشر من مرشحات سلامة الأطفال الصارمة وبروتوكولات مكافحة الإدمان إلى النظام البيئي للمستخدم عبر الولايات المتحدة وحتى العالم. إن دخول هذه السلسلة من مشاريع القوانين حيز التنفيذ لا يشير فقط إلى أن تكاليف الامتثال لمرافقي الذكاء الاصطناعي والأدوات الاجتماعية للمراهقين سترتفع بشكل كبير، ولكنه سيوفر أيضًا للولايات الأخرى في الولايات المتحدة مخططًا تشريعيًا ذا قيمة عملية كبيرة عند التعامل مع أزمة الصحة الجسدية والعقلية للقاصرين في عصر الذكاء الاصطناعي.
التعليقات