بسبب المحتوى الجنسي، ماليزيا وإندونيسيا تحظران الوصول إلى Grok
قررت ماليزيا وإندونيسيا حظر الوصول إلى روبوت المحادثة الآلي Grok، وذلك نتيجة مخاوف تتعلق باستخدامه لإنشاء محتوى جنسي إباحي. وبهذا أصبحتا أول دولتين تحظران الوصول إلى هذا التطبيق في العالم.
أصدرت الهيئات التنظيمية الماليزية بياناً أكدت فيه أنّها فرضت «قيوداً مؤقتة» على تطبيق Grok التابع لشركة xAI، وأرجعت هذا القرار إلى «إخفاقات متكررة من الشركة» في التعامل مع المخاطر المترتبة على استخدام Grok.
قالت لجنة الاتصالات والوسائط المتعددة الماليزية بخصوص الحظر المؤقت: «لم تتعامل الشركة مع المخاطر الكامنة في تصميم وتشغيل أداة الذكاء الاصطناعي. لهذا يكون هذا الحظر المؤقت إجراء وقائياً ريثما تُستكمل الإجراءات القانونية والتنظيمية. وسيظل الوصول إلى Grok مقيداً حتى تقديم ضمانات فعالة، لا سيما منع المحتوى الذي يعرض النساء والأطفال».
بادرت إندونيسيا قبل ماليزيا لفرض حظر مؤقت على الوصول إلى Grok، وعزت الأمر إلى أسباب مشابهة، واستدعت مسؤولي الشركة للتحقيق في الأمر. وصرّح موتيا حفيظ وزير الاتصالات والشؤون الرقمية في البلاد قائلاً: «تعد الحكومة الفيديوهات الجنسية المفبركة بتنقية التزييف العميق دون موافقة المستخدمين انتهاكاً جسمياً لحقوق الإنسان، وكرامته، وأمن المواطنين في الفضاء الرقمي».
تأتي هذه الإجراءات بعدما تبين أنّ روبوت المحادثة Grok يتيح للمستخدمين إنشاء ومشاركة الصور عبر الإنترنت بسهولة كبيرة، وقد تضمن بعضها صوراً إباحية مزيفة ومواد فيها استغلال جنسي للأطفال. وكانت xAI قد أدخلت ميزات حديثة إلى تطبيق Grok Imagine، مما سهل على المستخدمين إنشاء الصور عبر أوامر نصية إلى روبوت المحادثة المدمج مع منصة التواصل الاجتماعي X، مما منحه انتشاراً أوسع بين المستخدمين.
ظهرت مخاوف كثيرة بخصوص سياسة تطبيق Grok في إدارة المحتوى. وقد بادرت الشركة لتبديد هذه المخاوف، فأعلنت أنّ ميزات إنشاء الصور وتعديلها ستقتصر على أصحاب الاشتراكات المدفوعة، وهي محاولة منها لمعالجة ثغرات الحماية التي سمحت بنشر محتوى جنسي إباحي. وقال إيلون ماسك المالك لشركة xAI إنّ المستخدمين الذين ينشئون غير قانوني سيواجهون عواقب مشابهة لنشر محتوى كهذا في منصات التواصل الاجتماعي.
بالإضافة إلى إندونيسيا وماليزيا اللتين تطبقان قوانين صارمة لمكافحة المواد الإباحية، فقد دعت سلطات وهيئات تنظيمية في بلدان أخرى مثل الهند والبرازيل والمملكة المتحدة إلى التحقيق في استخدام Grok لإنشاء محتوى جنسي مفبرك. وأشارت مؤسسة مراقبة الإنترنت البريطانية إلى أنّ محلليها اكتشفوا «صوراً ذات طابع إجرامي» لأطفال تتفاوت أعمارهم بين 11 و13 عاماً، ويبدو أنها أنشئت باستخدام Grok.
