استخدام الذكاء الاصطناعي يسبب تسريبات للمعلومات السرية بسامسونج
⬤ قبل 3 أسابيع، أتاحت سامسونج لمهندسي الشرائح لديها استخدام ChatGPT بهدف زيادة الإنتاجية.
⬤ منذ حينها سرب الموظفون معلومات سرية تتضمن أكواد برمجية ومعلومات منتجات وتسجيلات اجتماعات.
⬤ كان الخبراء قد حذروا سابقاً من خطورة تقديم معلومات سرية وحساسة لروبوتات المحادثة مثل ChatGPT.
بعد أسابيع فقط من إتاحة سامسونج الوصول إلى روبوت المحادثة الشهير، ChatGPT، لموظفي قسم تصنيع الشرائح ضمنها، تم اكتشاف أن هؤلاء الموظفين قد سربوا كميات كبيرة من المعلومات السرية وعالية الحساسية عبر تقديمها لروبوت المحادثة للحصول على إجابات.
كان من المفترض أن يستخدم المهندسون روبوت المحادثة لمساعدتهم في اكتشاف مشاكل الكود والأخطاء التي قد لا ينتبهون إليها بسرعة. لكن سرعان ما توسع الموظفون بالمعلومات التي يقدمونها للذكاء الاصطناعي لتشمل منحه الوصول إلى أكواد سرية لاختبار الشرائح بالإضافة إلى بيانات الاختبار والأداء وحتى نصوص اجتماعات سرية ضمن الشركة.
مع اكتشاف المشكلة، كان رد فعل الشركة محدوداً على ما يبدو. حيث استمرت الشركة بالسماح للموظفين باستخدام خدمة روبوت المحادثة المدعوم بالذكاء الاصطناعي، لكنها حدت مدخلاتهم إليه ب 1024 بايت فقط (أي 1024 حرفاً إنجليزياً أو نصف العدد للأحرف الأخرى).
ذكر تقرير صحيفة The Economist الذي كشف الخبر للمرة الأولى أن الشركة تخطط للتعامل مع الأمر عبر تطوير روبوت محادثة خاص بها. وبينما ذكرت المعلومات أن الشركة تعمل على روبوت محادثة مشابه لـ ChatGPT، فهي لم تحدد إن كان سيستخدم نفس واجهة تطوير التطبيقات الخاصة به مع تغيير بيانات التدريب، أو سيتم تطويره بشكل مستقل.
بالإضافة إلى حد المدخلات، فقد حذرت سامسونج موظفيها من خطورة إدخال المعلومات السرية إلى روبوتات المحادثة. لكن وبالنظر إلى أن 3 تسريبات قد حصلت خلال فترة قصيرة لا تتجاوز 3 أسابيع، فمن غير الواضح كم ستكون تحذيرات سامسونج مفيدة.
يذكر أن استخدام روبوتات المحادثة كان قد صعد بشدة في الفترة الأخيرة مع اكتشاف العديد من الفوائد لها مثل إنتاج رسائل البريد الإلكتروني وتقديم ملخصات للمعلومات والبحث عن الأخطاء في الكود. لكن ومع تزايد استخدامها، حذر الخبراء من أخطار منح معلومات سرية لهذ الخدمات، فهي مصممة لدراسة مدخلات المستخدمين واستخدامها لاحقاً، مما يعني أن أي معلومات تدخل إليها يمكن أن ينتهي بها الأمر لدى مستخدمين آخرين.