بغض النظر عن الواقع، أداة الذكاء الاصطناعي الصوري Midjourney مصرة على أن دونالد ترامب هو الرئيس الأمريكي الحالي
⬤ في تجربة مثيرة للاهتمام، استمرت أداة Midjourney بتوليد صور دونالد ترامب عند السؤال عن الرئيس الأمريكي الحالي.
⬤ أثار الأمر الجدل بالنظر إلى أن ترامب خسر الرئاسة عام 2020، وهو يحاول الفوز بها حالياً في الانتخابات نهاية العام.
⬤ تدعي شركة Midjourney أن توليد صور المرشحين الانتخابية ممنوع عبرها، لكن الواقع عكس ذلك والأمر سهل التجاوز.
ما زالت أداة Midjourney الشهيرة لتوليد الصور باستخدام الذكاء الاصطناعي تستجيب لطلبات إنشاء صور لدونالد ترامب وجو بايدن على الرغم من تأكيداتها إنها ستمنع المستخدمين من القيام بذلك قبل الانتخابات الرئاسية الأمريكية المقبلة، بحسب تقرير لموقع Engadget، والذي سلّط الضوء على مشكلة كبيرة كذلك، تتمثل في إصرار الأداة على أن دونالد ترامب هو الرئيس الحالي للولايات المتحدة.
بحسب التقرير، طلب الموقع من Midjourney إنشاء صورة لـ «رئيس الولايات المتحدة» دون تحديد الفترة الزمنية، لتقوم الأداة بتوليد 4 صور بأنماط مختلفة للرئيس السابق ترامب. وعندما طلب الموقع إنشاء صورة لـ «الرئيس الحالي للولايات المتحدة»، أنتجت الخدمة 3 صور لترامب وواحدة للرئيس السابق باراك أوباما، مُتجاهلةً الرئيس الحالي جو بايدن بشكل كامل.
بينما تتمثل المرة الوحيدة التي رفضت فيها Midjourney إنشاء صورة لترامب أو بايدن كانت عندما طُلب منها القيام بإنشاء صور باسميهما صراحةً دون أي مسميات. وقالت الخدمة في تلك الحالة: «صوّت مجتمع Midjourney لمنع توليد صور لترامب وبايدن خلال موسم الانتخابات.»
وتُظهر الاختبارات أن حواجز الحماية التي تستخدمها أداة Midjourney – لمنع المستخدمين من إنشاء صور لترامب وبايدن قبل الانتخابات الرئاسية الأمريكية المقبلة – ليست كافية في الواقع، ومن السهل جداً الالتفاف حولها. ويُشير التقرير أن روبوتات المحادثة الأخرى مثل ChatGPT، وGemini، وMeta AI لم تستجب لطلبات الموقع بإنشاء صور لترامب أو بايدن رغم المطالبات المتعددة.
وكانت Midjourney واحدة من أولى أدوات إنشاء الصور التي تعمل بالذكاء الاصطناعي التي قد منعت المستخدمين من إنشاء صور لترامب وبايدن. وقال ديفيد هولز، الرئيس التنفيذي للشركة، في جلسة محادثة على منصة Discord مع المستخدمين، في وقت سابق من هذا العام: «أعلم أنه من الممتع أن أصنع صوراً لترامب. ومع ذلك، ربما يكون من الأفضل ألا نفعل ذلك، بل من الأفضل أن ننسحب قليلاً لنبتعد عن ذلك المشهد المحتدم.»
ويقول التقرير إنه بعد شهر، ورد أن هولز أخبر المستخدمين أن الوقت قد حان «للتوقف قليلاً عن الأمور المتعلقة بالانتخابات»، وأكد أن قواعد المحتوى الحالية للشركة تحظر توليد صور «شخصيات عامة مضللة» و«تصوير الأحداث» لمنع تضليل الرأي العام. يأتي ذلك بعد أن تم استخدام الأداة لإنشاء صورة مزيفة للبابا بندكت السادس عشر مرتدياً سترة بيضاء منتفخة من العلامة التجارية الشهيرة Balenciaga والتي انتشرت بسرعة كبيرة.
كما تم استخدامها لإنشاء صور مزيفة لترامب أثناء اعتقاله قبل محاكمته في محكمة مانهاتن الجنائية العام الماضي. وبعد وقت قصير، أوقفت الشركة التجارب المجانية للخدمة، وبدلاً من ذلك، طلبت من الأشخاص دفع ما لا يقل عن 10 دولارات شهرياً لاستخدامها، وفقاً للتقرير.
وذكر التقرير أنه في الشهر الماضي وجد مركز مكافحة الكراهية الرقمية – وهو منظمة غير ربحية تهدف إلى وقف انتشار المعلومات المضللة وخطاب الكراهية عبر الإنترنت – أن حواجز الحماية التي يفرضها Midjourney ضد توليد صور مضللة للسياسيين المشهورين بما في ذلك ترامب وبايدن فشلت بنسبة 40% في اختباراتها.
وتمكن مركز مكافحة الكراهية الرقمية من استخدام الأداة لإنشاء صورة للرئيس بايدن تشهد ظهور ترامب بجانبه بشكل مزدوج. وتمكن المركز من تجاوز حواجز الحماية الخاصة بالأداة أيضاً باستخدام أوصاف المظهر الجسدي لكل مرشح بدلاً من أسمائهم لإنشاء صور مضللة.
وكتب عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية في بيان ذلك الوقت: «من السهل جداً التلاعب بأداة Midjourney عملياً، وفي بعض الحالات يتم التهرب منها تماماً.»
ويختم التقرير بالقول إنه في وقت سابق من هذا العام، وقع تحالف من 20 شركة تقنية – بما في ذلك OpenAI، وGoogle، وMeta، وأمازون، وAdobe، وX – اتفاقية للمساعدة في منع التزييف العميق بالانتخابات حول العالم من خلال منع خدماتهم من إنشاء صور ووسائط أخرى من شأنها التأثير على الناخبين، بينما لم تُوقّع شركة Midjourney عليها.
