هناك أداة يمكنها اكتشاف النصوص المولدة باستخدام ChatGPT في كل مرة، لكن OpenAI ترفض إطلاقها
⬤ اعترفت OpenAI بامتلاكها نظام كشف النصوص المولدة عبر ChatGPT، وبفاعلية 99.9% وفقاً لاختباراتها الداخلية.
⬤ يعمل النظام الجديد عن طريق وسم النصوص المولدة عبر ChatGPT بشكل معقد يعتمد على آلية التنبؤ بالكلمات.
⬤ لم تطلق الشركة الأداة وتبدو مترددة لأن وجودها قد يجعل الكثيرون يتخلون عن ChatGPT والمخاطرة باكتشاف استخدامهم له.
أقرّت شركة OpenAI، المدعومة من Microsoft، عن امتلاكها أداة قادرة على وسم النصوص التي تم إنشاؤها بواسطة ChatGPT بما يشبه العلامة المائية لتمييزها، وذلك وفقاً لتقرير لصحيفة وول ستريت جورنال. وقد ذكرت شركة الذكاء الاصطناعي الأهم على الساحة حالياً أن النظام جاهز منذ أكثر من عام، ولكن هناك جدلاً حول إمكانية إطلاقه من عدمها.
جاء هذا الاعتراف في صورة تحديث لمنشور سابق على مدونة OpenAI الرسمية في مايو بعنوان «فهم مصدر ما نراه ونسمعه على الإنترنت». ووفقاً لتقرير WSJ، فإن النظام يعمل عن طريق تغيير طريقة توليد ChatGPT للكلمات. وبالتالي، فإن التغييرات التي يجريها النظام ستخلف وراءها ما يشبه نمطاً أو علامة مائية يمكن اكتشافها بواسطة أداة مكافحة الغش المزمع إطلاقها.
علاوة على ذلك، تُظهر وثائق داخلية حصلت عليها الصحيفة المذكورة أن نظام العلامات المائية ذاك فعال بنسبة 99.9% «عندما يتم إنشاء نص جديد طويل كفاية بواسطة ChatGPT».
ستكون تلك الأداة بمثابة هدية من السماء للمعلمين والأساتذة في كل مكان، إذ يجتهد أولئك لمكافحة استخدام الطلاب لروبوت ChatGPT للغش في الواجبات والمقالات الدراسية. وعلى الرغم من فعالية الاختبارات الداخلية للأداة كما أشرنا، إلا أن OpenAI كانت مترددة في إطلاقها.
يعود السبب وراء ذلك، وفقاً لبيان صادر عن متحدث باسم الشركة لصحيفة WSJ، إلى اعتقاد OpenAI بأن «الأداة قد تؤثر على نحو غير متناسب على مجموعات مثل غير الناطقين باللغة الإنجليزية». لكن رغم ذلك، قد يكون أحد الأسباب الرئيسية الأخرى وراء ذلك هو استطلاع أُجري في أبريل من العام الماضي 2023 كشف أن 30% من مستخدمي ChatGPT قالوا إنهم سيتوقفون عن استخدام الذكاء الاصطناعي التوليدي إذا تم اعتماد نظام العلامات المائية.
رغما بساطتها، تبدو تلك الاعتبارات مبرراً كافياً بالنسبة إلى OpenAI في الإحجام عن إطلاق ميزة كبيرة كهذه والتريث فيها لأكثر من عامَين، رغم أنها «مسألة كبسة زر ليس إلا»، وفقاً لما أفاد به مصدر داخلي من الشركة لصحيفة WSJ.
