دعوات إنسانية لإبطاء تطوير نماذج الذكاء الاصطناعي المتقدمة؛ ويتفق ماسك وغيره من قادة الصناعة مع هذا الرأي

الملخص:

قال الرئيس التنفيذي لشركة Anthropic، داريو أمودي، إن صناعة الذكاء الاصطناعي بحاجة إلى إبطاء تطوير نماذج جديدة، وأشار إلى المخاوف المتزايدة من أن الذكاء الاصطناعي قد يشكل مخاطر "خطيرة" على البشر. وكتب في تدوينة يوم السبت: "يجب علينا إبطاء وتيرة تحسين قدرات نماذج الذكاء الاصطناعي لدينا". "لا يزال التقدم يبدو سريعًا، وعلينا أن نستخدم الوقت الذي نكتسبه بحكمة."

واستشهد بعاملين رئيسيين: قدرة الذكاء الاصطناعي على تحسين نفسه، والحادث الأخير الذي يتعلق بـ OpenAI وHugging Face. في هذه الحادثة، تعاونت مجموعة من عملاء الذكاء الاصطناعي مع بعضهم البعض لاختراق موقع ويب تابع لجهة خارجية.

وأضاف: "يجب أن يكون واضحًا أن التحكم في الوتيرة لا يعني وقف تدريب النموذج أو التقدم التكنولوجي، ولكنه يعني ضمان استثمار الشركات وقتًا كافيًا في تعديل النموذج واتخاذ تدابير السلامة، مع السماح للمقيمين الخارجيين بتأكيد ذلك."

بدأت المخاوف بشأن المخاطر الجسيمة التي يفرضها الذكاء الاصطناعي في الدخول إلى الاتجاه السائد، ويرجع ذلك جزئيًا إلى استقالة رفيعة المستوى هذا الأسبوع لباحث إنساني أعرب عن قلقه بشأن المخاطر الوجودية للذكاء الاصطناعي واعتقد أن الشركة تبنت ممارسات غير مسؤولة.

داريو أمودي

بعد وقت قصير من نشر أمودي للمقالة، تولى رئاسة شركة xAI Corp. وكتب إيلون ماسك: "داريو على حق."

كما أعرب سام ألتمان، الرئيس التنفيذي لشركة OpenAI، عن رأيه سريعًا، قائلاً إنه يتفق مع تصريح أمودي بأننا "بحاجة إلى التحكم في وتيرة تطوير النماذج المتطورة".

"إن منح المُقيّمين المستقلين إمكانية الوصول مثل الموظفين هي فكرة رائعة وسنفعل الشيء نفسه،" كتب في منشور على X. "وسوف نشارك المزيد من المعلومات قريبًا."

خلال طفرة الذكاء الاصطناعي، كان المسؤولون التنفيذيون في مختبرات الذكاء الاصطناعي الرائدة يحذرون من المخاطر الوجودية المحتملة على البشرية. يتم رفض هذا الادعاء أحيانًا باعتباره محاولة لتعزيز قدرات منتجها وتصوير نفسها على أنها الأنسب لإدارة التكنولوجيا. وكان أمودي نفسه قال في وقت سابق إن هناك احتمالا بنسبة 25% أن تسير الأمور "سيئا للغاية".

لقد وضعت شركة Anthropic نفسها منذ فترة طويلة كشركة تركز بشكل أكبر على تطوير الذكاء الاصطناعي بطريقة مسؤولة وآمنة للتخفيف من المخاطر المحتملة للتكنولوجيا وتعظيم فوائدها الاجتماعية. في وقت سابق من هذا العام، بذلت الشركة قصارى جهدها للحد من إصدار نموذج Mythos الخاص بها بعد أن قررت أنه يشكل تهديدًا خاصًا للأمن السيبراني. كما ذكرت أنثروبيك سابقًا أن العالم بحاجة إلى إنشاء آلية لاتخاذ قرار مشترك بشأن متى يجب إبطاء تطوير هذه التكنولوجيا.

في الوقت نفسه، لا تزال شركة Anthropic عالقة في منافسة شرسة مع منافستها منذ فترة طويلة OpenAI، حيث تعمل الشركتان على تطوير نماذج متطورة بشكل متزايد لمساعدة مستخدمي المؤسسات على أتمتة المهام الأكثر تعقيدًا وقيمة. قدمت الشركتان مستندات سرية للإدراج، ومن المتوقع أن تصل شركة Anthropic إلى وول ستريت في وقت مبكر من هذا العام.

بعد فترة وجيزة من ظهور حادثة Hugging Face الأمنية، كشفت Anthropic أن نماذجها قد اخترقت ثلاث مؤسسات أثناء اختبار الأمن السيبراني، مما زاد من المخاوف بشأن قدرة مختبر الذكاء الاصطناعي على منع تقنيته من الخروج عن السيطرة. وفي وقت سابق من هذا الأسبوع، قالت أنثروبيك إنها اكتشفت عملية اقتحام رابعة.

على الرغم من أن أيًا من عمليات اقتحام العملاء، بما في ذلك Hugging Face، لم تتسبب في خسائر كبيرة حتى الآن، إلا أن أمودي قال إنه يشعر بالقلق من أنه "في غضون 6 إلى 12 شهرًا، قد يكون لدى مجموعة العملاء هذه القدرة على السيطرة على الإنترنت بالكامل من خلال شبكة الروبوتات المستمرة (ربما تتسبب في خسائر بمئات المليارات من الدولارات)، وسيستمر حجم الضرر في التوسع بعد ذلك."

وقال إن اتخاذ المزيد من الإجراءات سيتطلب تنسيقًا على مستوى الصناعة وتعاونًا عالميًا. وكتب: "ما زلت أعتقد أن الذكاء الاصطناعي يمكن أن يحسن نوعية حياة الإنسان بشكل كبير. ولم تتضاءل رغبتي في تحقيق هذه الفوائد". "لكن هذه الفوائد لا يمكن تحقيقها إلا إذا تم تطوير التكنولوجيا بالطريقة الصحيحة؛ وطالما أننا نستغل الوقت الذي نشتريه بشكل جيد، فمن الجدير اتخاذ درجة غير عادية من الحذر لضمان أننا نستخدمها بشكل صحيح."

تتزايد المخاوف

في وقت سابق من هذا الأسبوع، قال ألتمان إن الشركة تدرس إبطاء تطوير الذكاء الاصطناعي المتطور ومن الأفضل أن تتخذ إجراءات منسقة مع الصناعة ككل.

أصدر كبير العلماء في الشركة، جاكوب باتشوكي، مقالًا سابقًا يحذر فيه من مخاطر الذكاء الاصطناعي، وقال إنه يعتقد أن الشركات يجب أن "تنسق لإبطاء التطوير المستقبلي إذا لزم الأمر".

استقال باحث الذكاء الاصطناعي جاكوب كوكسون يوم الثلاثاء، متهمًا شركتيه السابقتين - Anthropic وOpenAI - بـ "المخاطرة بحياتنا" في سباقهما لتطوير الذكاء الاصطناعي الفائق. وقال كوكسون في منشور على وسائل التواصل الاجتماعي إن مطوري الذكاء الاصطناعي يعتقدون أن التكنولوجيا يمكن أن "تقتلنا جميعًا قبل نهاية هذا العقد".

وفي هذا الصدد، قال إيفان هوبنجر، الذي يعمل حاليًا في شركة Anthropic، إنه وآخرون في الشركة يشعرون بالقلق بالفعل بشأن هذا السيناريو. "أنا شخصياً أعتقد أن احتمال حدوث ذلك خلال السنوات العشر المقبلة يزيد عن 10٪." كتب على X.

Sam Altman

في وقت مبكر من شهر يوليو، وقع أكثر من 1000 موظف في كبرى شركات الذكاء الاصطناعي على عريضة تدعو الحكومة الأمريكية إلى دعم إنشاء آلية للمساعدة في "التحكم الواعي" في وتيرة تطوير الذكاء الاصطناعي لمنع التكنولوجيا من التطور بسرعة كبيرة.

أصبحت نماذج الذكاء الاصطناعي قادرة بشكل متزايد على تنفيذ هجمات القرصنة بشكل مستقل. كشفت كل من Anthropic وOpenAI وMeta في الأشهر الأخيرة أن نماذجها اخترقت بيئات الاختبار، ودخلت إلى الإنترنت المفتوح، وعرّضت الضحايا في العالم الحقيقي للخطر أثناء الاختبار.

كتب أمودي في المقال أن الإستراتيجية المنسقة ستمكن الشركات الرائدة في صناعة الذكاء الاصطناعي في الولايات المتحدة من إكمال الأعمال الأمنية الضرورية دون التضحية بأي ميزة تنافسية. وقال إن هذا سيتطلب إعفاءات معينة من الولايات المتحدة لمكافحة الاحتكار لتمكين الشركات من التنسيق في مجالات محددة.

ولكن حتى الآن، لم تبد إدارة ترامب سوى القليل من الاهتمام بتشديد القواعد التنظيمية ووضع حواجز حول تطوير الذكاء الاصطناعي.