الملخص:
أعلن جاكوب كوكسون عن استقالته من Anthropic on X. وقال إنه شارك في أبحاث ما قبل التدريب في OpenAI وAnthropic على مدار السنوات الثلاث الماضية، لكنه يعتقد أن أيًا من الشركتين لا تعمل على تطوير تطوير الذكاء الاصطناعي بطريقة مسؤولة. وبدلاً من ذلك، فإنهم "يتجهون مباشرة إلى تحسين الذكاء الفائق ذاتيًا" ويعرضون سلامة الإنسان للخطر.
وقال كوكسون إن أنظمة الذكاء الاصطناعي التي يتم بناؤها حاليا في هذه المختبرات المغلقة ستتمتع قريبا بقدرات "خارقة للبشر"، قادرة على تنفيذ هجمات القرصنة، وتغيير نمط مجال معين بين عشية وضحاها، واكتساب القوة والموارد في العالم الحقيقي. وأشار إلى أن التقدم البحثي ذي الصلة استمر في التقدم في اتجاهات متعددة ولا يظهر أي علامات واضحة على التباطؤ.
ذكر أيضًا أنه انطلاقًا من التصريحات العامة للرئيس التنفيذي لشركة OpenAI سام ألتمان والرئيس التنفيذي لشركة Anthropic داريو أمودي، قد يعتقد العالم الخارجي أن كلا الشركتين تعملان بحذر على تطوير تطوير الذكاء الاصطناعي، لكنه يعتقد أن هذا ليس هو الحال. يدعي كوكسون أن هؤلاء الممارسين يعتقدون سرا أن الذكاء الاصطناعي "يمكن أن يقتلنا جميعا بحلول نهاية القرن"، وأن هذا ليس كلاما تسويقيا؛ وقال أيضًا إن المديرين التنفيذيين مثل ألتمان وأمودي سيعدلون خطابهم عند مواجهة وسائل الإعلام ليبدو أكثر تحفظًا، لكنهم في السر يشعرون بقلق عميق بشأن ما يتم إنشاؤه.
في رأيه، تختلف الثقافات الداخلية لـ OpenAI والأنثروبي أيضًا. قال كوكسون إن العديد من الموظفين في OpenAI ليسوا "على دراية تامة بالمخاطر التي تنطوي عليها على مستوى الحضارة"؛ وفي شركة Anthropic، فإن المخاطر ذات الصلة "واضحة جدًا للجميع"، لكن الشركة لا تزال عالقة في السباق لتكون أول من يطور الذكاء الاصطناعي العام. وقال كوكسون إن شركة أنثروبيك تعتقد أنه بما أن الآخرين قد لا يتصرفون بمسؤولية، فيجب عليها الفوز بالسباق أولاً.
يعتقد كوكسون أنه في هذا السياق، لا ينبغي إكمال العديد من القرارات الرئيسية في Slack فقط في الشركات الخاصة. إنه متفائل بحذر بشأن زيادة التنسيق بين مختبرات الذكاء الاصطناعي الأمريكية بعد الأحداث الأخيرة، لكنه يعتقد أن مثل هذا التعاون سيكون غير فعال بمجرد توسيعه ليشمل مختبرات خارج الولايات المتحدة. ولتحقيق هذه الغاية، اقترح النظر في فرض حظر مؤقت على تحسينات القدرات النموذجية.
في نهاية المقال، دعا جاكوب كوكسون باحثي المختبرات الآخرين إلى التفكير بجدية في السنوات الخمس المقبلة، وليس الاستمرار في تجنب المشاكل، ولكن لدفع تطوير الذكاء الاصطناعي في اتجاهات مختلفة.
التعليقات