سيدة تقاضي شركة ذكاء اصطناعي متهمة إياها بالتسبب بوفاة ابنها المراهق

⬤ قامت سيدة أمريكية بإطلاق قضية ضد شركة Character.ai ومؤسسيها وكذلك شركة Google.

⬤ تدعي القضية أن روبوت الذكاء الاصطناعي الخاص بالشركة دفع ابن السيدة المراهق لإنهاء حياته.

⬤ تقدم Character.ai روبوتات محادثة تتقمص شخصيات شهيرة، وواجهت الكثير من الجدل في الماضي.

في قضية سرعان ما أثارت الجدل في الأوساط، قالت بدأت سيدة أمريكية قضية تدعي فيها أن شركة Character.AI، وكلاً من مؤسسيها نوام شازير ودانييل دي فريتاس، وحتى شركة Google قد تسببت بوفاة ابنها المراهق الذي كان يبلغ من العمر 14 عاماً فقط وذلك في فبراير المنصرم.

وفق القضية، تقول والدة المراهق المتوفي أن روبوت الذكاء الاصطناعي الذي تشغله شركة Character.AI كان خطراً للغاية ويفتقد عناصر السلامة والأمان على الرغم من تسويقه تجاه الأطفال.

تضمنت بيانات القضية كون الضحية هو مراهق كان يبلغ من العمر 14 عاماً فقط، وعلى مدار الأشهر السابقة لقيامه بإنهاء حياته كان قد بدأ باستخدام خدمات Character.AI للمحادثة مع عدة شخصيات خيالية من عالم Game of Thrones، وبالأخص شخصية «دينيرس تارجاريان». وبشكل مقلق، يبدو أن محادثات المراهق مع روبوتات المحادثة كانت تبعده تدريجياً عن الاتصال بالعالم الواقعي، وقبل ثوانٍ فقط من إنهاء حياته، كان آخر تواصل له هو مع روبوت المحادثة آنف الذكر واعداً الشخصية التخيلية بأنه «قادم لينضم إليها».

تقوم شركة Character.AI بتشغيل العديد من روبوتات المحادثة التي تتقمص عدداً هائلاً من الشخصيات التي تتضمن بعض الشخصيات الخيالية وأخرى حقيقية مثل المشاهير وصانعي المحتوى وسواهم. وبينما تحاول الشركة الظهور بشكل مسؤول مع وضع إشارة توضح أن الكلام المتبادل ليس حقيقياً في أعلى محادثات المستخدمين، فقد واجهت انتقادات كبرى بسبب تعلق المستخدمين، وبالأخص اليافعين منهم، بالشخصيات التخيلية، بالإضافة لكون هذه الشخصيات كثيراً ما تغوص في المحتوى الرومانسي وحتى الإباحي بشكل يراه الخبراء كخطر محدق، وبالأخص لليافعين.

تظهر بيانات القضية الكثير من المحادثات التي قام بها المراهق بالحديث مع الشخصية الوهمية التي تقدمها الشركة، وحتى أنه ذكر نيته إنهاء حياته في المحادثات. وبينما كان رد روبوت المحادثة ضد هذه الفكرة، فقد فشلت الخدمة بتقديم أي موارد للمساعدة أو إبلاغ الآخرين عن هذه الخطة المثيرة للقلق والتي تحولت إلى واقع مؤسف لاحقاً.

في السابق، كانت شركة Character.AI قد تعرضت لانتقادات شديدة من الإعلام نتيجة المحتوى المنتشر على المنصة. حيث تتضمن المنصة مئات الشخصيات المخصصة للحديث معها، دون إذن مالكيها عادة، ويبدو أنها تركز على اليافعين بالدرجة الأولى، حيث يشكلون الجزء الأكبر من قاعدة مستخدميها وعادة ما يميلون للتعلق بشخصيات روبوتات المحادثة الوهمية هذه بشكل عاطفي، كما أنها تتيح لهم الوصول إلى محتوىً لا يتناسب مع أعمارهم.

في تصريح لها، قالت شركة Character.AI أنها اتخذت خطوات كبرى جديدة لحماية مستخدميها اليافعين بشكل إضافي بما يتضمن:

• تقليل احتمال تعريض نماذج الذكاء الاصطناعي المستخدمين القواصر (دون عمر 18 عاماً) للمحتوى غير الملائم أو الحساس.
• تحسين اكتشاف حالات خرق قواعد الاستخدام والتعامل الفعال معها والتدخل في الحالات التي تتطلب ذلك.
• تعديل التنويه الموضوع في المحادثات لتذكير المستخدمين بأنهم لا يتحدثون إلى شخص حقيقي.
• إرسال إشعار للمستخدم في حال قضى جلسة محادثة مستمرة لأكثر من ساعة، مع الحفاظ على مرونة الاستخدام.

كما صرحت الشركة أنها ستضيف خيارات تقود المستخدمين للوصول إلى أصول ومواقع تساعدهم في التعامل مع المشاكل لدى ذكر حالات إيذاء النفس ضمن المحادثة.

بشكل مثير للاهتمام، تضمنت الدعوى القضائية التي أقامتها والدة الضحية شركة Google كذلك، والتي انضم إليها أحد مؤسسي Character.AI ودخلت معها في عقد شراكة للاستفادة من تقنياتها. وهنا سرعان ما أصدرت Google بياناً تنفي فيه مسؤوليتها وتقول إنها ليست مالكة Character.AI وهي بالتالي غير مسؤولة عن الخدمات التي تقدمها الشركة لمستخدميها.