تحدثت مارغريت أتوود، الكاتبة الكندية ومؤلفة كتابي “The Handmaid’s Tale” و”The Blind Assassin”، مؤخرا عن الذكاء الاصطناعي التوليدي (AI) في مهرجان بابل الأدبي والثقافي في بورتو بالبرتغال، واعترفت بأنها غير راضية عن هذه التكنولوجيا. وفي مقابلة أجريت على الموقع، استذكرت أتوود تجربتها الوحيدة في استخدام روبوت الدردشة المدعم بالذكاء الاصطناعي. حاولت استخدام كلود الأنثروبي للاستعلام عن معلومات حول الدراما البوليسية البريطانية "الأب براون"، لكنها وجدت أن الطرف الآخر أعطى استنتاجات خاطئة، مما جعلها تشكك في موثوقية نماذج اللغات الكبيرة الحالية.
وقال أتوود إن كلود كان "يختلق الأمور" بوضوح في ردوده على الأسئلة. وأشارت إلى أن ذلك ليس لأن النظام "يكذب عمدا"، بل لأنه مجرد نموذج لغوي كبير تم تدريبه على كميات هائلة من النصوص ويفتقر إلى قدرات الفهم الحقيقية للبشر. وفقًا لوصفها، بدا أن كلود "ينهب ويلصق" المعلومات من عدد كبير من المراجعات التلفزيونية ومراجعات الأفلام، لكن المراجعات عادةً لم تكشف بشكل مباشر عن نهاية الحبكة، مما تسبب في "تضليل" النموذج من قبل مجموعة التدريب على نقاط الحبكة الرئيسية لـ "الأب براون".
بالإضافة إلى انتقاد أدوات الذكاء الاصطناعي نفسها، تعرب أتوود أيضًا عن عدم رضاها عن أولئك الذين أصبحوا مدمنين على مثل هذه التكنولوجيا. وتصف هؤلاء المستخدمين بـ "الانتهازيين"، معتقدة أنهم يحاولون اتخاذ "طرق مختصرة" بمساعدة الذكاء الاصطناعي و"الغش" بطريقة لا يمكن اكتشافها، بدلاً من استثمار الوقت والطاقة اللازمين للتحقق شخصيًا من المحتوى أو إنشائه. ومن وجهة نظرها، لا يمكن للتكنولوجيا في حد ذاتها أن تحل محل الحكم البشري والمسؤولية. إذا تم تسليم إنتاج المحتوى بالكامل إلى آلات لم يتم التحقق منها، فإن الخطر سيتحمله البشر أنفسهم في نهاية المطاف.
أكدت أتوود على أن نماذج اللغات الكبيرة الحالية تعتمد بشكل كبير على مواد الشبكة المنشورة وبيانات النص التي تم الزحف إليها. قد تكون هذه المعلومات قديمة أو متحيزة أو حتى خاطئة. ولذلك، ذكّرت بأن المستخدمين العاديين والمؤسسات التي تستخدمها لأغراض تجارية لا ينبغي لها أن تنظر إلى النتائج التي تنتجها الآلات باعتبارها "السلطة المطلقة" ولكن يجب عليها إجراء مراجعة يدوية والتحقق من الحقائق. وأشارت إلى أن العديد من الشركات تقوم بدمج الذكاء الاصطناعي في العمليات التجارية، ولكن حتى من أجل تحسين الكفاءة، يجب عليها قبول حقيقة أن هذه الأنظمة سوف ترتكب أخطاء وأن جودة المخرجات تعتمد إلى حد كبير على مصداقية وسلامة البيانات المدخلة.
عندما يتعلق الأمر بالقضايا الأساسية المتعلقة بالذكاء الاصطناعي التوليدي، يلخص أتوود منهجه بمقولة تقنية بسيطة: "القمامة في الداخل، القمامة في الخارج". إنها تعتقد أنه إذا كانت بيانات التدريب نفسها معيبة أو تتكون من محتوى إنترنت غير مفلتر، فبغض النظر عن مدى تعقيد بنية النموذج ومقياس المعلمات الضخم، فإنها لا تستطيع حل مشكلة الأخطاء والتحيز بشكل أساسي. بالنسبة لها، لا يتعلق الأمر فقط بموثوقية التكنولوجيا، بل هو انعكاس أوسع للإبداع والأصالة ودور الكاتب البشري.
وفي نهاية المحادثة، ذكّرت أتوود الجمهور مرة أخرى بأن الآلات ليست ذات أداء مثالي مثل الروبوتات، ناهيك عن البشر ذوي الأخلاق والخبرة، ولكنها مجرد مجموعة من الأدوات لقراءة النص وإعادة تنظيمه. وتدعو إلى أنه في مجالات الإبداع والنقد وإنتاج المعرفة، يحتاج الناس إلى الحفاظ على اليقظة والشعور بالمسؤولية لمنع التضحية بالسعي وراء الحقيقة والدقة وراء "الراحة" التي وعدت بها التكنولوجيا.