من شأن مشروع قانون معروض على الهيئة التشريعية لولاية نيويورك أن يحظر على روبوتات الدردشة التي تعمل بالذكاء الاصطناعي تقديم المشورة القانونية أو الطبية للجمهور ويمنح المستخدمين الحق في مقاضاة مالكي روبوتات الدردشة المخالفة. تم تقديم مشروع القانون، برقم S7263، من قبل مجلس شيوخ الولاية خلال الجلسة التشريعية الأخيرة. تمت الموافقة عليه خارج اللجنة بأغلبية 6 أصوات مقابل 0 في لجنة الإنترنت والتكنولوجيا الأسبوع الماضي. إنها إحدى الحزم التشريعية لتنظيم روبوتات الدردشة المعتمدة على الذكاء الاصطناعي.
يركز مشروع القانون على روبوتات الدردشة التي تعمل بالذكاء الاصطناعي والتي تتظاهر بأنها محترفة مرخصة (مثل الأطباء والمحامين)، ويمنعها من تقديم "استجابات أو معلومات أو نصائح جوهرية" قد تنتهك قوانين الترخيص المهني أو تشكل "ممارسة غير مرخصة".
ويتطلب مشروع القانون من مالكي برامج الدردشة الآلية تزويد المستخدمين بمطالبات "واضحة وبارزة لا لبس فيها" بأنهم يتفاعلون مع نظام الذكاء الاصطناعي. يجب أن تكون المطالبات بنفس لغة برنامج الدردشة الآلي وأن يتم تقديمها بخط قابل للقراءة. ومع ذلك، يؤكد مشروع القانون أيضًا على أن مطالبة "النظام غير البشري" هذه لا تعفي مالك برنامج الدردشة الآلية من المسؤولية القانونية. بموجب هذا الإطار، إذا انتهك المشغل الحظر، فيمكن للمستخدمين رفع دعوى قضائية ضد مالك برنامج الدردشة الآلي بناءً على حقوق التقاضي المدنية التي يمنحها مشروع القانون، والمطالبة بالتعويضات وطلب دفع أتعاب المحاماة. يعتقد بعض الخبراء أن بنود الحق الخاص المماثلة هي أدوات إنفاذ مهمة في القوانين التنظيمية المتعلقة بالبيانات والذكاء الاصطناعي. وغالباً ما يؤدي الافتقار إلى هذه الآلية إلى إضعاف الردع القانوني. وقد وصفها المدعي العام لولاية ماين في الولايات المتحدة مؤخرًا بأنها "تأثير رادع كبير" عند مناقشة تشريعات خصوصية البيانات.
إذا تمت الموافقة على مشروع القانون وتوقيعه من قبل المحافظ، فسيتم تنفيذه رسميًا بعد 90 يومًا من دخوله حيز التنفيذ. تتضمن المحفظة التشريعية التي يتضمنها S7263 أيضًا عددًا من التدابير التي تستهدف الذكاء الاصطناعي وحماية القاصرين، مثل تقييد استخدام الميزات الموجودة في روبوتات الدردشة غير الآمنة للقاصرين وتنظيم بعض المنصات عبر الإنترنت (بما في ذلك منصة الألعاب Roblox) التي تعتبر ضعيفة في حماية خصوصية القاصرين. تتضمن البنود الأخرى في حزمة التشريعات مطالبة أنظمة الذكاء الاصطناعي التوليدية بتزويد المستخدمين بمطالبات تعليمية للاستخدام، بالإضافة إلى وضع قواعد جديدة بشأن معالجة البيانات البيومترية و"إنشاء المحتوى الاصطناعي".
وقالت السيناتور كريستين جونزاليس، راعية مشروع القانون ورئيسة لجنة الإنترنت والتكنولوجيا بمجلس الشيوخ بالولاية، إن حزمة مشاريع القوانين هذه تهدف إلى ضمان أن ابتكار الذكاء الاصطناعي "لا يأتي على حساب سلامة سكان نيويورك، وخاصة الأطفال". في يناير من هذا العام، توصل Character.AI، وهو تطبيق دردشة مجاني يعمل بالذكاء الاصطناعي، إلى تسوية مع Google في العديد من الدعاوى القضائية المتعلقة بحالات الانتحار البسيطة. كان محور القضية هو الدور الذي لعبته برامج الدردشة هذه في المأساة. كما دفعت مثل هذه الحوادث الدول إلى تسريع عملية تنظيم روبوتات الدردشة. وقال جونزاليس في بيان صحفي إن الجمهور "يستحق رعاية حقيقية من أناس حقيقيين" بالإضافة إلى الشفافية والمساءلة والالتزام بحماية بياناتهم بشكل آمن عند استخدام التكنولوجيا.
حاليًا، يتم وضع هذه المبادرات على مستوى ولاية نيويورك أيضًا في سياق لعبة تنظيمية وطنية أوسع للذكاء الاصطناعي، تتضمن مقايضات متعددة بين الولاية والحكومة الفيدرالية، والخصوصية والابتكار، والأمن والانفتاح. بعد هذه الحالة، من المتوقع أن تستمر قضايا مثل ما إذا كانت روبوتات الدردشة قادرة على تقديم المشورة المهنية، وكيفية تذكيرها بـ "وضعها غير الإنساني"، ومن سيكون المسؤول إذا تسببت في ضرر، في التخمير في التشريعات والممارسات القضائية على جميع المستويات في الولايات المتحدة.