الملخص:
في 23 سبتمبر، وفقًا لبلومبرج، دعا رائد الذكاء الاصطناعي لي فيفي إلى مزيد من الإشراف على الذكاء الاصطناعي من قبل الوكالات المستقلة والقطاع العام. وهي تعتقد أن التقييم الأمني لأنظمة الذكاء الاصطناعي القوية بشكل متزايد لا ينبغي أن يُترك بالكامل للشركات التي تقوم بتطوير هذه الأنظمة.
لي فيفي
باعتباره أستاذًا في جامعة ستانفورد ومؤسسًا مشاركًا لـ World Labs، قال لي فيفي يوم الثلاثاء إنه على الرغم من أن الباحثين الداخليين في شركات الذكاء الاصطناعي يمكنهم تقييم قدرات النماذج الفردية وسلامتها، إلا أن هذا لا يمكن أن يحل محل المعايير الأوسع التي تم تطويرها بشكل مشترك من قبل الحكومة والصناعة والمؤسسات الأكاديمية.
"ما زلت أعتقد أنه من المهم للغاية أن يتم وضع المعايير من قبل مؤسسات مستقلة وكذلك القطاعات العامة مثل الأوساط الأكاديمية. وفي الوقت نفسه، يجب على الصناعة والحكومة أيضًا تقاسم المسؤولية". وقال لي Feifi في مقابلة مع تلفزيون بلومبرج.
مع استمرار زيادة قدرات أنظمة الذكاء الاصطناعي، تتزايد أيضًا المخاوف بشأن مخاطرها المحتملة. وقد حذر بعض القادة في وادي السيليكون من أن التكنولوجيا تتطور بسرعة كبيرة وقد تتجاوز في نهاية المطاف السيطرة البشرية. في الأسابيع الأخيرة، دعا الرئيس التنفيذي لشركة Anthropic، داريو أمودي، والرئيس التنفيذي لشركة OpenAI، سام ألتمان، إلى إبطاء تطوير النماذج المتطورة. وسيناقش الاثنان سلامة الذكاء الاصطناعي في مجلس الأمن التابع للأمم المتحدة يوم الأربعاء.
قال لي فيفي إن المخاطر الوجودية التي قد يجلبها الذكاء الاصطناعي تعتمد في النهاية على كيفية اختيار البشر لتطوير هذه التكنولوجيا وإدارتها واستخدامها. وقالت إن هذا المبدأ ينطبق أيضًا على تقنيات أخرى غير الذكاء الاصطناعي، بدءًا من الكهرباء والمحركات البخارية وحتى وسائل النقل الحديثة. يحتاج المجتمع البشري أيضًا إلى إيجاد توازن بين الفوائد التي قد تجلبها التكنولوجيا والسلامة الشخصية.
وأشارت إلى أن الإنسانية "تمتلك قوة التكنولوجيا المتاحة لها". "يجب أن نتولى زمام الأمور. الذكاء الاصطناعي لا يتعلق بالذكاء الاصطناعي، بل يتعلق بالبشر. إنه يتعلق بكرامتنا المشتركة والفردية واستقلالنا، كما أنه يتعلق بمسؤولياتنا." قال لي فيفي.
تضيف تعليقات لي فيفي صوتًا جديدًا إلى النقاش المحتدم بشكل متزايد بين صناع السياسات وقادة صناعة الذكاء الاصطناعي. وتتركز المناقشة حول مدى جدية التعامل مع التحذيرات بشأن المخاطر القصوى التي تنطوي عليها هذه التكنولوجيا. وفي وقت سابق من يوم الثلاثاء، نفى الرئيس الأمريكي دونالد ترامب المخاوف بشأن التهديد الوجودي للذكاء الاصطناعي، واصفا إياه بأنه "خدعة" وشدد على ضرورة مواصلة تطوير التكنولوجيا بأقصى سرعة خلال خطاب ألقاه أمام الجمعية العامة للأمم المتحدة في نيويورك.
قال لي فيفي إن المناقشة حول سلوك أنظمة الذكاء الاصطناعي تجاوزت ما يسمى بالنماذج المتطورة التي تقود جنون الذكاء الاصطناعي الحالي. تعمل الشركة التي أسستها، World Labs، على تطوير ما يسمى بـ "النماذج العالمية" التي يمكنها إنشاء وإعادة بناء بيئات ثلاثية الأبعاد. وقالت إن التكنولوجيا يمكن استخدامها لتدريب الروبوتات وتقييمها وتمكين التطبيقات في التصميم والصناعات الطبية وغيرها.
ومع تحرك هذه الأنظمة نحو تطبيقات العالم الحقيقي، تواجه الصناعة نفس السؤال الأساسي: كيفية تقييم الذكاء الاصطناعي القوي بشكل متزايد وتحديد ما إذا كان يعمل كما هو متوقع.
التعليقات