خوارزمية للكشف عن إساءة استخدام الإنترنت والمضايقات الرقمية

طور فريق من شركة ياهو خوازمية تقوم بتحديد الهجمات المسيئة والمضايقات الإلكترونية عبر الإنترنت

تعد مشكلة التحرش الإلكتروني والمضايقة الرقمية من المشاكل الخطيرة التي تواجه الكثيرين حول العالم، لكنها مشكلة قد يكون لها حل ما، وهناك أدوات قد تكون حاجبة نوعاً ما لهذا النوع من المضايقات، وهو ما قام به فريق من شركة ياهو بتطويره في الآونة الأخيرة.

قام فريق من شركة ياهو بتطوير خوارزمية يُمكنها التعرف على الكلمات البذيئة والمضايقات الرقمية تلقائياً ويمكن استخدام خاصية البحث العميق بها للتعرف على الكلمات المسيئة وعلامات الترقيم التي تتواجد بين ثنايا هذه المضايقات مع القدرة على التعرف على القرائن النحوية التي وجدت في آلاف التعليقات على مواقع ياهو.

استخدم الباحثون أيضاً تقنية تضمين الكلمات وهي عملية لرسم الكلمات والعبارات وتحويلها إلى لغة الآلة التي تستطيع الآلات التعرف عليها وهي قادرة على التنبؤ بالكلمات التالية في سياق ما أي أنه قد تكون هناك بعض الكلمات غير مسيئة في سياق ما وهو ما تستطيع خوارزمية ياهو معالجتها على هذا النحو.

وفقاً لمعهد ماساتشوستس التقني فإن هذه الخورازمية تستطيع تحديد الرسالة المسيئة عن غيرها بدقة تصل إلى 90% وقد أعلن الفريق أنه بصدد الكشف عن قاعدة البيانات عبر الإنترنت عبر ياهو ويبسكوب والتي تسعى من خلالها فتح الباب للخبراء في استخدامها والإضافة أو التعديل عليها.

هذه الخطوة مثيرة للاهتمام، فهذه الخوارزمية فد تكون مفيدة جداً في المواقع الإلكترونية التي يتعب المشرفون بها من كثرة المضايقات النصية التي يتعرضون لها، بهذه الخوارزمية سيتم حجب الكثير منها، للأسف هذه الخوارزمية لا تأخذ بعين الاعتبار السخرية في الحديث أو مواكبة التغيرات في الكلمات العامية ولغة الإنترنت ولكنها قد تكون أداة أولية في الكشف عن الكراهية التي يتعرض لها البعض.