الملخص:
احتدم الجدل الدائر حول ما إذا كان ينبغي للذكاء الاصطناعي المتطور أن يبطئ تطوره بشكل استباقي في الأيام الأخيرة. دعا الرئيس التنفيذي لشركة Anthropic، داريو أمودي، علنًا صناعة الذكاء الاصطناعي بأكملها إلى إبطاء وتيرة قدرات النماذج المتقدمة، وأعرب الرئيس التنفيذي لشركة OpenAI Sam Altman والرئيس التنفيذي لشركة xAI Elon Musk لاحقًا عن دعمهما.
ومع ذلك، انتقد ديفيد ساكس، وهو مستثمر أمريكي في مجال التكنولوجيا ورئيس اللجنة الاستشارية للعلوم والتكنولوجيا التابعة للرئيس، هذه المبادرة بشدة، معتقدًا أنه إذا كانت OpenAI وAnthropic تعتقدان حقًا أن السرعة الحالية لتطوير الذكاء الاصطناعي خطيرة بما يكفي للحاجة إلى فرض المكابح، فيمكنهما إبطاء البحث والتطوير من تلقاء نفسها، ولا ينبغي لهما فرض تنسيق الصناعة، أو إعفاءات مكافحة الاحتكار، أو آليات الموافقة الحكومية كشروط إضافية.
نشرت شركة Amodei سابقًا مقالًا يحذر من أن قدرات الذكاء الاصطناعي المتطورة تقترب بسرعة من مرحلة قد تخلق مخاطر أمنية كبيرة. وهو يعتقد أنه إذا استمر النموذج في التطور بالسرعة الحالية ولم تتمكن آلية الأمان من مواكبة ذلك، في غضون 6 إلى 12 شهرًا القادمة، فقد تتمتع مجموعات عملاء الذكاء الاصطناعي بالقدرة على التحكم في الإنترنت على نطاق واسع واستخدامها لشن هجمات إلكترونية أو تنفيذ أضرار جسيمة أخرى.
اقترحت أمودي مجموعة من الخطط تسمى "إبطاء الذكاء الاصطناعي المتطور"، والتي تتضمن السماح لوكالات تقييم الأمان المستقلة التابعة لجهات خارجية بالتعمق في شركات الذكاء الاصطناعي للتحقق بشكل مستمر من أمان النماذج مع سلطة قريبة من موظفي الشركة؛ السماح لمختبرات الذكاء الاصطناعي الكبرى بتنسيق المعايير الأمنية لتجنب قيام الشركات باستمرار بتخفيض عتبات الأمان بسبب الضغوط التنافسية؛ مع تعزيز التعاون الوثيق بين الولايات المتحدة وحلفائها، وفي نهاية المطاف مناقشة قضايا أمن الذكاء الاصطناعي مع الدول الأخرى، بما في ذلك الصين.
وسرعان ما اكتسبت هذه المبادرة الدعم من OpenAI. وقال ألتمان إنه يتفق مع وجهة نظر أمودي بأن صناعة الذكاء الاصطناعي تحتاج إلى إبطاء تطوير النماذج المتطورة، وقال إن هذه القضية أصبحت موضوعًا مهمًا للمناقشة الأخيرة داخل OpenAI. كما أعرب " ماسك " علنًا عن موافقته. وفي فترة قصيرة من الزمن، توصلت العديد من أهم شركات الذكاء الاصطناعي في العالم إلى إجماع نادر حول مسألة "التباطؤ المناسب".
لكن ساكس يعتقد أن هناك مشكلة منطقية واضحة هنا.
وبحسب وجهة نظره، إذا كان أمودي وألتمان يعتقدان حقًا أن نموذج الجيل القادم من الذكاء الاصطناعي ينطوي على مخاطر جسيمة يجب إبطاؤها، فإن الشركتين لا تحتاجان إلى انتظار موافقة الحكومة، ولا تحتاجان إلى إقناع المنافسين، ولا تحتاجان إلى إطار قانوني جديد. وباعتبارها أكثر شركات تطوير الذكاء الاصطناعي تقدمًا حاليًا، يمكنها تقليل سرعة البحث والتطوير والنشر بشكل مباشر.
واقترح ساكس أنه إذا كانت هذه الشركات تعتقد حقًا أن بعض أنظمة الذكاء الاصطناعي خطيرة بما يكفي لتهديد البشر، فإن "أسهل طريقة" هي عدم الاستمرار في تطوير هذه الأنظمة أو إطلاقها. ويعتقد أنه بدلاً من مطالبة الحكومة بإنشاء نظام تنظيمي جديد، من الأفضل السماح للشركات التي تتقن حقًا قدرات البحث والتطوير المتطورة في مجال الذكاء الاصطناعي باتخاذ الإجراءات بمفردها.
ما يعترض عليه ساكس حقًا هو ذلك الجزء من خطة أمودي الذي يتضمن تنسيق الصناعة والترتيبات التنظيمية. وحذر من أنه إذا حصل المنافسون مثل OpenAI وAnthropic على إعفاءات لمكافحة الاحتكار من خلال الحكومة ثم قرروا بشكل مشترك السرعة التي يجب على الصناعة بأكملها تطوير الذكاء الاصطناعي، فقد يتطور الترتيب في الواقع إلى "احتكار".
من وجهة نظر ساكس، فإن السماح للعديد من شركات الذكاء الاصطناعي الرائدة بتحديد وتيرة تطوير الذكاء الاصطناعي المتطور بشكل مشترك قد يؤدي إلى نتائج مختلفة تمامًا عن الأهداف الأمنية. ولا تستطيع الشركات العملاقة القائمة الحد من المنافسة من خلال هذه الآلية فحسب، بل يمكنها أيضاً استخدام النظام التنظيمي لرفع عتبة دخول المتأخرين إلى السوق، وبالتالي تعزيز مكانتها الرائدة.
وهذا أيضًا هو جوهر انتقادات ساكس: فهو لا يعارض إبطاء صناعة الذكاء الاصطناعي فحسب، بل يعتقد أنه إذا كانت الشركات مستعدة حقًا للتباطؤ، فيتعين عليها أن تفعل ذلك بنفسها بدلاً من مطالبة الحكومة بتوفير نوع من الحماية القانونية في المقابل.
كما يعارض ساكس أيضًا إنشاء نظام موافقة مسبقة مشابه لـ "إدارة الغذاء والدواء التي تعمل بالذكاء الاصطناعي". ومن وجهة نظره، ليست هناك حاجة لموافقة الجهات الحكومية على هذه المنتجات واحدة تلو الأخرى قبل إطلاق نماذج الذكاء الاصطناعي المتقدمة رسميًا. وبدلاً من إنشاء آلية ترخيص مسبقة جديدة، فمن الأفضل الاعتماد على نظام المسؤولية عن المنتج الحالي للسماح لشركات الذكاء الاصطناعي بتحمل المسؤولية القانونية عن منتجاتها وعواقبها.
على سبيل المثال، إذا تم استخدام نموذج الذكاء الاصطناعي لشن هجوم إلكتروني خطير، أو تسبب بشكل مباشر في أضرار جسيمة بسبب عيوبه، فيجب أن تتحمل شركة تطوير النموذج مسؤولية المنتج المقابلة. يعتقد ساكس أن هذه العواقب القانونية والاقتصادية المحتملة في حد ذاتها يمكن أن تصبح عائقًا مهمًا أمام شركات الذكاء الاصطناعي للسيطرة على المخاطر.
وهو يعتقد أيضًا أن سوق رأس المال له أيضًا تأثير مقيد. إذا واجهت منتجات معينة تابعة لشركة تعمل بالذكاء الاصطناعي مشكلات تتعلق بالسلامة أو سلوكًا غير متوقع أو حوادث كبيرة بشكل متكرر، فقد تتأثر سمعة الشركة وثقة العملاء وتقييم السوق بشكل مباشر. لذلك، ليست هناك حاجة لإنشاء نظام موافقة خاص لصناعة الذكاء الاصطناعي مستقل تمامًا عن النظام القانوني الحالي.
في الوقت نفسه، شكك ساكس أيضًا في استقلالية بعض آليات تقييم سلامة الذكاء الاصطناعي. وذكر على وجه التحديد وكالة التقييم الأمني التي تستخدمها شركة Anthropic، ويعتقد أنه إذا كانت هناك علاقة استثمارية أو علاقة موظفين أو علاقة مصالح أخرى بين وكالة التقييم والمؤسسة التي يتم تقييمها، فإن ما إذا كان هذا التقييم مستقلاً حقًا يستحق المزيد من المناقشة.
حدث هذا الجدل في وقت حساس للغاية. في الأشهر القليلة الماضية، تصاعدت المخاوف بشأن المخاطر الأمنية داخل صناعة الذكاء الاصطناعي بشكل كبير. كشفت Anthropic مؤخرًا عن سلسلة من الحوادث المتعلقة بإساءة استخدام نظام الذكاء الاصطناعي، وقدرات الهجوم على الشبكة، والحماية الأمنية. كما أعرب الباحثون داخل الشركة علنًا عن مخاوفهم بشأن سرعة تطوير الذكاء الاصطناعي.
من بين هؤلاء، حذر أحد الباحثين الأنثروبولوجيين علنًا عندما استقال مؤخرًا من أن صناعة الذكاء الاصطناعي تعمل على تطوير تقنيات قد تكون خطيرة للغاية وبوتيرة سريعة للغاية. كما أعرب باحثون أمنيون آخرون في Anthropic عن مخاوف جدية بشأن خطر خروج الذكاء الاصطناعي عن نطاق السيطرة في المستقبل.
لذلك، فإن دعوة أمودي العامة للتباطؤ ليست بيانًا سياسيًا معزولًا، ولكنها نتيجة لمزيد من التصعيد في النقاش حول أمن الذكاء الاصطناعي برمته.
ومع ذلك، حتى لو كانت الشركات مستعدة حقًا للإبطاء، فإن العملية الفعلية أكثر تعقيدًا بكثير مما تبدو. وتتنافس شركات OpenAI، وAnthropic، وGoogle DeepMind، وxAI، وغيرها من شركات الذكاء الاصطناعي بشراسة. إذا قامت أي شركة بإبطاء جهود البحث والتطوير من جانب واحد، فقد تشعر بالقلق من أن يغتنم منافسوها الفرصة لتسريع واكتساب المزايا في القدرات النموذجية، والحصة السوقية، وأسواق رأس المال.
يشكل هذا في الواقع "معضلة السجين" النموذجية: إذا تباطأت جميع شركات الذكاء الاصطناعي في نفس الوقت، فقد تكسب الصناعة بأكملها المزيد من الوقت لتحسين التدابير الأمنية؛ ولكن إذا تباطأت شركة واحدة فقط في حين استمر المنافسون في التقدم، فإن الشركة التي تتباطأ بشكل فعال قد تعاني من خسائر تجارية وفنية.
ولهذا السبب بدأت شركة OpenAI بالفعل في الاهتمام بما إذا كان تنسيق الصناعة سينتهك قوانين مكافحة الاحتكار الأمريكية. وفقًا للتقارير، طلبت OpenAI آراء واضحة من المشرعين الأمريكيين حول ما إذا كان تنسيق الصناعة لإبطاء تطوير الذكاء الاصطناعي أمرًا قانونيًا. لأنه إذا قررت العديد من الشركات المتنافسة بشكل مشترك إبطاء تطوير النماذج المتطورة، فإن هذا التنسيق في حد ذاته قد يؤدي إلى إثارة قضايا قانونية تتعلق بمكافحة الاحتكار.
ونتيجة لذلك، ينشأ سؤال شائك للغاية: من أجل تحسين أمن الذكاء الاصطناعي، هل ينبغي للشركات أن تسمح بالتنسيق بين المنافسين الذي عادة ما يكون مقيدًا بقوانين مكافحة الاحتكار؟
يعتقد المؤيدون أنه إذا علمت كل شركة من شركات الذكاء الاصطناعي أن التباطؤ وحده سيؤدي إلى عيوب تنافسية، فمن خلال نوع ما من التنسيق على مستوى الصناعة فقط يمكن لجميع الشركات استخدام المكابح في نفس الوقت.
يعتقد ساكس أن هذا قد يكون سببًا وراء استخدام شركات الذكاء الاصطناعي الكبيرة لقضايا الأمان للحصول على معاملة تنظيمية خاصة. وهو يشعر بالقلق من أنه بمجرد أن تسمح الحكومة للعديد من الشركات الرائدة بالتنسيق من خلال إعفاءات مكافحة الاحتكار، فإن هذه الآلية قد تتطور في النهاية من "التنسيق الأمني" إلى أداة لتقييد المنافسة في السوق.
وفي الوقت نفسه، هناك فرق واضح بين موقف حكومة الولايات المتحدة تجاه تباطؤ الذكاء الاصطناعي وادعاءات شركات التكنولوجيا هذه. صرح الرئيس الأمريكي ترامب علنًا مؤخرًا أنه على الرغم من اعتقاده أن الذكاء الاصطناعي قادر على إنشاء "حواجز حماية" معينة، إلا أنه لا يريد أن تبطئ الولايات المتحدة تطوره بسبب المخاوف المفرطة بشأن المخاطر. وأكد أن الولايات المتحدة تقود الصين حاليًا في مجال الذكاء الاصطناعي، و"من يفوز بالذكاء الاصطناعي سيفوز بالمستقبل". ولذلك، لا يمكن للولايات المتحدة أن تتخلى بسهولة عن ريادتها التكنولوجية.
يربط هذا أيضًا بشكل مباشر بين قضايا أمن الذكاء الاصطناعي والمنافسة التكنولوجية بين الصين والولايات المتحدة.
اعترف أمودي نفسه أيضًا أنه إذا قامت الولايات المتحدة من جانب واحد بإبطاء تطوير الذكاء الاصطناعي بشكل كبير بينما تستمر الصين ودول أخرى في تسريع وتيرة تطوير الذكاء الاصطناعي، فقد تفقد الولايات المتحدة تفوقها التكنولوجي. ولذلك، فإن ما يقترحه ليس مطالبة الشركات الأمريكية بوقف أبحاث وتطوير الذكاء الاصطناعي إلى أجل غير مسمى، بل الأمل في أن تتمكن الدول والشركات الكبرى من تشكيل نوع من آلية التنسيق لكسب الوقت لاتخاذ التدابير الأمنية مع الحفاظ على المزايا التنافسية.
تكمن المشكلة في عدم وجود آلية في الوقت الحالي لضمان تباطؤ جميع البلدان في وقت واحد.
لقد أصبح هذا أيضًا أحد أهم الأسباب لأولئك الذين يعارضون التباطؤ واسع النطاق في الصناعة. إذا أصبح الذكاء الاصطناعي جزءًا مهمًا من المنافسة الاستراتيجية الوطنية، فمن الصعب على أي من الطرفين أن يعتقد أن المنافسين سيتوقفون طوعًا وينتظرون أنفسهم لتحسين أنظمتهم الأمنية.
وعلى هذا فإن المناقشة بين ساكس، وأوبن إيه آي، وأنتروبيك ذهبت في الواقع إلى ما هو أبعد من القضية الفنية البسيطة المتمثلة في "مدى السرعة التي ينبغي أن يتطور بها الذكاء الاصطناعي" وتنطوي على اختيار أكثر تعقيدا في مجال السياسة الصناعية: ما إذا كان ينبغي للشركات أن تقرر سرعة تطوير الذكاء الاصطناعي المتطور، أو ما إذا كان ينبغي للحكومة أن تشارك في صياغة قواعد موحدة؛ وما إذا كان ينبغي اعتبار تنسيق السلامة بمثابة تعاون مشروع في مجال الصناعة، أو ما إذا كان يمكن أن يتطور إلى اتحاد احتكاري يقيد المنافسة؛ وما إذا كان ينبغي تجنب حوادث الذكاء الاصطناعي من خلال التنظيم المسبق، أو ما إذا كان ينبغي للشركات أن تتحمل تكاليف ما بعد الحدث من خلال المسؤولية عن المنتج.
في الوقت الحاضر، يبدو أن ساكس لا يعارض اتخاذ OpenAI وAnthropic زمام المبادرة للإبطاء. وإذا كانت الشركتان تعتقدان حقا أن مخاطر الذكاء الاصطناعي المتطور خطيرة بما يكفي لإبطاء البحث والتطوير، فقد أوضح أنه يستطيع دعمهما في القيام بذلك.
لكن شروطه كانت واضحة أيضا: إذا كنت تعتقد أنه ينبغي عليك أن تبطئ، أبطئ نفسك، ولا تستبدل ذلك بموافقة الحكومة، أو إعفاءات مكافحة الاحتكار، أو الحماية التنظيمية الخاصة.
قد تعتمد النتيجة الحقيقية لهذه المناقشة في نهاية المطاف على ما ستفعله شركة OpenAI وشركة Anthropic بعد ذلك. وإذا أخذوا بالفعل زمام المبادرة لإبطاء تطوير النماذج المتطورة دون الحصول على معاملة قانونية خاصة، فمن المرجح أن يُنظر إلى "إبطاء الذكاء الاصطناعي" على أنه إجراء أمني حقيقي؛ وإذا كان ما يتم تشكيله في نهاية المطاف عبارة عن نظام تنظيمي حيث تعمل قِلة من الشركات الرائدة على صياغة القواعد بشكل مشترك في حين تعمل على تقييد دخول المتأخرين، فإن مخاوف ساكس بشأن "الاستيلاء التنظيمي" و"الكارتلات" سوف تحظى بالمزيد من الاهتمام.
مع استمرار تحسن قدرات نموذج الذكاء الاصطناعي بسرعة، فمن الواضح أن الجدل حول "التسارع أو التباطؤ" لن ينتهي قريبًا. ومن المرجح أن يصبح أحد التناقضات الأساسية في سياسة الولايات المتحدة والعالم في مجال الذكاء الاصطناعي في السنوات القليلة المقبلة.
التعليقات