يقال إن OpenAI تحجب أداة ChatGPT للكشف عن النص بسبب الخوف من رد الفعل العكسي

يقال إن OpenAI قامت ببناء أداة يمكنها اكتشاف متى تم إنشاء النص باستخدام برنامج الدردشة الآلي الخاص بها والذي يعمل بالذكاء الاصطناعي (AI)، ولكنها غير راغبة في نشره للعامة. وفقًا للتقرير، كانت الأداة جاهزة للإصدار منذ بعض الوقت، لكن شركة الذكاء الاصطناعي تشعر بالقلق من أن أداة الكشف هذه قد تجعل برنامج الدردشة الآلي لا يحظى بشعبية بين المستخدمين. ومع ذلك، فإن عدم إطلاق مثل هذه الأداة أدى إلى معاناة المعلمين من معرفة متى تمت كتابة مهمة أو مقال باستخدام مساعدة الذكاء الاصطناعي.

يقال إن OpenAI يحتوي على كاشف نص يعمل بالذكاء الاصطناعي

وفقًا لتقرير صادر عن صحيفة وول ستريت جورنال، ناقشت OpenAI إصدار مثل هذه الأداة على مدار العامين الماضيين. وكانت أداة الكشف عن النص جاهزة أيضًا للإصدار لمدة عام تقريبًا، حسبما ادعى التقرير نقلاً عن أشخاص مطلعين على الأمر لم يذكر أسماءهم. وقال أحد المصادر للنشر أن إطلاق الأداة كان سهلاً مثل الضغط على زر.

يمكن لمثل هذه الأداة أن تساعد المعلمين والمؤسسات المماثلة الأخرى حيث يلجأ الأشخاص إلى إنشاء محتوى مثل المقالات والأوراق البحثية باستخدام الذكاء الاصطناعي. في وقت سابق من هذا العام، تم اكتشاف أن ورقة علمية تمت مراجعتها من قبل النظراء ونشرت في مجلة Elsevier’s Surfaces and Interfaces كتبها الذكاء الاصطناعي وتم سحبها لاحقًا بعد أن جذبت الاهتمام عبر الإنترنت. لقد أصبح هذا الانتحال القائم على الذكاء الاصطناعي مصدر قلق كبير للأوساط الأكاديمية بسبب عدم وجود طريقة موثوقة لاكتشاف استخدام الذكاء الاصطناعي.

وفقًا للتقرير، فإن رفض OpenAI إطلاق أداة اكتشاف الذكاء الاصطناعي الخاصة بها يأتي من المخاوف من فقدان المستخدمين الحاليين. وبحسب ما ورد أجرت الشركة استطلاعًا ووجدت أن ما يقرب من ثلث المستخدمين سيكونون أقل ميلًا لاستخدام ChatGPT إذا تم إطلاق آلية مكافحة الغش.

كان هناك خوف آخر من أن إتاحتها لعدد مختار من المستخدمين مثل المعلمين قد يقلل من فائدة الأداة، في حين أن إتاحتها لمجموعة كبيرة يمكن أن يؤدي إلى فك رموز تقنية العلامة المائية من قبل الجهات الفاعلة السيئة التي يمكنها بعد ذلك إنشاء أدوات إخفاء متقدمة. .

واستنادًا إلى المستندات الداخلية التي اطلع عليها المنشور، يدعي التقرير أن أداة الكشف عن النص بالذكاء الاصطناعي فعالة بنسبة 99 بالمائة في العثور على النص المكتوب بمساعدة ChatGPT. يقال إن هذا يعمل لأن الأداة هي في الأساس تقنية للعلامة المائية تقوم بتضمين النص بعلامة مائية غير مرئية لا يمكن رؤيتها ولكن يتم وضع علامة عليها عند تشغيلها من خلال مدقق الذكاء الاصطناعي.

تم أيضًا شرح طريقة عمل الأداة في المستندات الداخلية. وفقًا للتقرير، يقوم ChatGPT بإنشاء نص من خلال التنبؤ بالكلمة أو العبارة، المعروفة أيضًا باسم الرمز المميز، التي يجب أن تتبعها في تسلسل. يعتمد الاختيار على مجموعة صغيرة بحيث تكون الجملة متماسكة.

تمتلك أداة الكشف بالذكاء الاصطناعي بدورها خوارزمية مختلفة قليلاً لاختيار الرموز المميزة. تترك التغييرات بين النص الذي تم إنشاؤه بواسطة ChatGPT ونص الأداة نمطًا، مما يساعد في تقييم ما إذا كان الذكاء الاصطناعي قد تم استخدامه لإنشاء النص أم لا.