شركة محاسبة توقف مساعد الذكاء الاصطناعي خاصتها بعد قيامه بتسريب السجلات المالية لزبائنها
⬤ أوقفت شركة المحاسبات Sage مساعد الذكاء الاصطناعي خاصتها بعد قيامه بتسريب السجلات المالية لزبائنها.
⬤ يمكن الحصول على هذه المعلومات الحساسة، والتي يُزعم أنها تشمل المعاملات المالية الأخيرة، فقط بمجرد الطلب.
⬤ تحظر الشركات الكبرى، وخاصةً التكنولوجية، استخدام روبوتات المحادثة الخارجية مثل ChatGPT بين موظيفها.
أوقفت مجموعة Sage، والتي تصف نفسها بأنها رائد في المحاسبات والتقنية المالية، مساعد الذكاء الاصطناعي خاصتها Sage Copilot AI بعد قيامه بتسريب السجلات المالية لزبائنها.
جاء ذلك ضمن تقرير موقع The Register، والذي أفاد بأنه يمكن الحصول على هذه المعلومات الحساسة، والتي يُزعم أنها تشمل المعاملات المالية الأخيرة، فقط بمجرد مطالبة مساعد Sage بها.
قال مصدر لموقع The Register: «عندما طلب أحد الزبائن من مساعد Sage Copilot عرض قائمة بالفواتير الأخيرة، وجد أن مساعد الذكاء الاصطناعي جمع بيانات من حسابات زبائن آخرين، بما يشمل بيانات الزبون صاحب الطلب نفسه.»
لحسن الحظ، أبلغ الزبون عن المشكلة على الفور، وقد أبلغ متحدث باسم مجموعة Sage أنهم قاموا بتعطيل مساعد الذكاء الاصطناعي، والذي يُعد في مرحلة الوصول المبكر، لساعات عديدة في محاولة لمعالجة هذه المشكلة الخطيرة.
يُعد اعتبار الحادث خرقاً كبيراً للثقة أمراً مُبرراً، سواء كان ذلك بالنسبة للشركة نفسها أو بالنسبة للتقنية التجريبية التي تعمل على تطبيقها. ومع ذلك، يبدو أن Sage لديها وجهة نظر مختلفة، حيث وصف المتحدث باسمها الحادث بأنه «مشكلة بسيطة» تضمنت عدد صغير من الزبائن.
بجانب ما سبق، أنكرت Sage أن المساعد خاصتها قد سرب معلومات حساسة للزبائن، وهو ما علق عليه المتحدث باسم الشركة، قائلاً: «أظهرت المشكلة معلومات تجارية عديمة الصلة لعدد قليل جداً من الزبائن»، وأضاف: «لم يُكشف عن أي فواتير في أي وقت من الأوقات. لقد أصلحنا مساعد Sage Copilot بالكامل، والآن يعمل كما هو مُتوقع.»
بالتأكيد، لن تكون هذه أول وآخر مرة يسرب فيها مساعد Sage Copilot معلومات لا ينبغي عليه تسريبها، خاصةً وأن خصوصية البيانات تُعرف بأنها واحدة من أكثر المخاوف إلحاحاً بشأن تكنولوجيا الذكاء الاصطناعي، حيث تعتمد عليها الشركات بمختلف أحجامها، والجهات الحكومية، والأفراد.
تُعد هذه الحوادث دليلاً على صعوبة التحكم بنماذج الذكاء الاصطناعي، وهي نتيجة مباشرة للكم الهائل من البيانات التي تُستخدم أثناء المحادثات والتفاعلات، أو الممنوحة إليها بواسطة المنظمات التي تستخدمها، وهو ما يفسر حظر الشركات الكبرى، وخاصةً التكنولوجية مثل Amazon، والمصارف الكبرى مثل JPMorgan روبوتات المحادثة الخارجية مثل ChatGPT عن موظيفها.
يُجدر بالذكر أنه في شهر مايو من عام 2023، حظرت شركة سامسونج استخدام روبوت المحادثة ChatGPT بين موظفيها بعد تسريب بعضهم لمعلومات حساسة لروبوت المحادثة بغير عمد، حيث عانت الشركة من تسريبات سابقة رغم محاولتها لتدريب الموظفين على أن يكونوا أكثر حذراً عند استخدام هذه روبوتات المحادثة.
