قامت شركة OpenAI بتطوير أداة يمكنها اكتشاف غش الطلاب من خلال مطالبة ChatGPT بكتابة المهام - لكن صحيفة وول ستريت جورنال ذكرت أن الشركة تناقش ما إذا كان سيتم إطلاق مثل هذه الأداة بالفعل. في بيان، أكد متحدث باسم OpenAI أن الشركة تعمل على طريقة وضع العلامات المائية النصية الموضحة في تقرير Daily News، لكنه قال إنها تتخذ "نهجًا مدروسًا" بسبب "التعقيدات التي تنطوي عليها والتأثير الذي يمكن أن تحدثه على النظام البيئي الأوسع خارج OpenAI".
وقال المتحدث: "إن طريقة وضع العلامات المائية النصية التي نعمل على تطويرها واعدة من الناحية الفنية، ولكن بينما نبحث عن البدائل، فإننا ندرس المخاطر المهمة، بما في ذلك سهولة التحايل من قبل الجهات الفاعلة الضارة واحتمال التأثير غير المتناسب على مجموعات مثل غير المتحدثين باللغة الإنجليزية".
سيكون هذا نهجًا مختلفًا عن معظم الجهود السابقة لاكتشاف النص الناتج عن الذكاء الاصطناعي، والتي كانت غير فعالة إلى حد كبير. حتى أن OpenAI أغلقت كاشف النص السابق الخاص بها باستخدام الذكاء الاصطناعي العام الماضي بسبب "الدقة المنخفضة".
فيما يتعلق بالعلامات المائية النصية، ستركز OpenAI فقط على اكتشاف النص في ChatGPT، بدلاً من نماذج الشركات الأخرى. ولتحقيق هذه الغاية، ستقوم OpenAI بإجراء تغييرات طفيفة على الطريقة التي يختار بها ChatGPT النص، مما يؤدي إلى إنشاء علامة مائية غير مرئية في النص والتي سيتم اكتشافها بعد ذلك بواسطة أداة منفصلة.
بعد نشر التقرير، قامت OpenAI أيضًا بتحديث منشور مدونة في مايو لتقديم أبحاثها حول اكتشاف المحتوى الناتج عن الذكاء الاصطناعي. ينص التحديث على أن العلامات المائية النصية أثبتت أنها "دقيقة للغاية وحتى فعالة ضد التلاعب المحلي، مثل إعادة الصياغة"، ولكنها أثبتت أنها "أقل قوة في مواجهة التلاعب المعولم، مثل استخدام نظام الترجمة، أو إعادة الصياغة باستخدام نموذج توليدي آخر، أو مطالبة النموذج بإدراج حرف خاص بين كل كلمة ثم حذف هذا الحرف."
ونتيجة لذلك، كتبت شركة OpenAI أن هذه الطريقة "يمكن التحايل عليها بسهولة من قبل المسيئين". يعكس تحديث OpenAI أيضًا وجهة نظر المتحدث الرسمي فيما يتعلق بغير الناطقين باللغة الإنجليزية، بحجة أن العلامات المائية النصية يمكن أن "تشوه استخدام الذكاء الاصطناعي كأداة كتابة مفيدة لغير الناطقين باللغة الإنجليزية".
يتعلم أكثر:
https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/