إنستغرام ينشئ أدوات ذكاء اصطناعي جديدة لحظر منشورات إيذاء النفس

أطلق موقع التواصل الاجتماعي انستغرام تقنية جديدة للتعرف على محتوى إيذاء النفس والانتحار على تطبيقه في المملكة المتحدة وأوروبا، ويمكن للأدوات الجديدة تحديد الصور والكلمات التي تنتهك قواعدها بشأن المنشورات الضارة، وستجعل المشاركات أقل وضوحاً في التطبيق، وفي الحالات القصوى ستزيلها تلقائياً.

وقالت شركة فيسبوك التي تملك إنستغرام، إنها “خطوة مهمة” لكن الشركة أرادت “أكثر من ذلك بكثير”،
وشرح رئيس الإنستغرام” آدم موسيري” تفاصيل النظام الجديد، الذي يستخدم الذكاء الاصطناعي، في منشور مدونة على موقعه على الإنترنت.

حيث يمكن إحالة المشاركات التي تم تحديدها على أنها ضارة بواسطة الخوارزمية إلى المشرفين البشريين، الذين يختارون اتخاذ مزيد من الإجراءات – بما في ذلك توجيه المستخدم لمساعدة المؤسسات وإبلاغ خدمات الطوارئ.

لكن إنستغرام أخبر وكالة الأنباء التابعة لجمعية الصحافة البريطانية أن الإحالة البشرية “Human Referral” ليست حالياً جزءاً من الأدوات الجديدة في المملكة المتحدة وأوروبا بسبب اعتبارات خصوصية البيانات المرتبطة باللائحة العامة لحماية البيانات (GDPR).

وقالت شركة التواصل الاجتماعي إن تنفيذ عملية الإحالة سيكون خطوتها التالية، حيث قالت تارا هوبكنز، مديرة السياسة العامة في إنستغرام في أوروبا: “في الاتحاد الأوروبي في الوقت الحالي، لا يمكننا استخدام هذا المزيج من التكنولوجيا المتطورة وعنصر المراجعة البشرية إلا إذا تم إبلاغنا عن مشاركة مباشرة من قبل أحد أعضاء المجتمع”.

وأضافت أنه في عدد قليل من الحالات سيصدر مراجع بشري حكماً بشأن ما إذا كان سيرسل موارد إضافية إلى مستخدم ما، ويمكن أن يعتبره المنظمون “تقييماً للصحة العقلية” وبالتالي جزءاً من فئة خاصة للبيانات التي تحظى بحماية أكبر بموجب اللائحة العامة لحماية البيانات حيث تعرض فيسبوك وإنستغرام لانتقادات شديدة في السنوات الأخيرة؛ بسبب الافتقار إلى التنظيم بشأن مواد الانتحار وإيذاء النفس.