الحماية من هجمات التصيد الاحتيالي الموجه في عصر الذكاء الاصطناعي التوليدي

مقال ضيف بقلم نيكولاي سولينغ، الرئيس التنفيذي للتكنولوجيا في شركة Help AG

يشكل الذكاء الاصطناعي اليوم جانباً مميزاً في حياتنا اليومية، لا سيما في ضوء الازدياد السريع في معدلات الإقبال عليه بفضل الإنجازات الكبيرة التي يشهدها مجال تعلم الآلة، والقدرات الحوسبية المتقدمة، والتطبيقات المتطورة لمعالجة اللغة الطبيعية.

يحمل التطور الكبير في مجال الذكاء الاصطناعي تأثيرات عميقة على القطاعات والأفراد، ويمكن أن يؤدي الاعتماد السريع لهذه التكنولوجيا إلى جعلها عرضةً للتهديدات والثغرات الأمنية، كما هو الحال في أي إنجاز تقني كبير. وأثبتت هجمات التصيد الاحتيالي الموجه(Spear Phishing)  التي حدثت في الآونة الأخيرة إمكانية استغلال المجرمين السيبرانيين لقدرات الذكاء الاصطناعي التوليدي، ما يفرض تحديات كبيرة على المؤسسات والأفراد.

في هذه الحالة، يتمثل المسار الأفضل في فهم الطرائق التي يحدث الاستغلال من خلالها، ومن ثم اتخاذ إجراءات استباقية كافية لاستمرار الاستفادة من المزايا العديدة التي يوفرها الذكاء الاصطناعي.

وتتميز هجمات التصيد الاحتيالي الموجه عن هجمات التصيد الاحتيالي العادي بقدرتها العالية على التكيف بحسب الشخص المستهدف، وذلك بناءً على المعلومات والبيانات الوصفية الخاصة بالهدف والتي يسعى المهاجمون إلى الحصول على أكبر كمية منها. وفي هذه المرحلة، تبدأ الأمور بالتعقد، إذ يحاول المهاجم بناء الثقة ليتمكن من التطفل على المعلومات الشخصية، أو تثبيت برمجية خبيثة للوصول إلى معلومات حساسة أو بيانات مالية.

تأثير الذكاء الاصطناعي التوليدي على هجمات التصيد الاحتيالي الموجه

تسهم إصدارات الذكاء الاصطناعي دائمة التحسن والتطور في مساعدة المجتمع على الاستفادة من ميزاته الاستثنائية، لكنها وفي نفس الوقت تؤدي إلى زيادة تعقيد ووتيرة هجمات التصيد الاحتيالي بتسهيل وصول مصادر التهديد إلى أدوات تزيد من قدراتهم على الاستهداف. 

وفقاً لتقرير نشرته شركة Vade تحت عنوان «تفضيلات التصيد الاحتيالي لعام 2023»، سجل عام 2023 أرقاماً استثنائية لهجمات التصيد، حيث أرسل المهاجمون أكثر من 1.76 مليار رسالة تصيد عبر البريد الإلكتروني على مستوى العالم. وشكّلت هجمات الاحتيال التي تنتحل صفة علامات تجارية عالمية العامل الأكبر لهذه الزيادة، حيث طوّر المهاجمون تهديدات مقنعة للخداع باسم هذه العلامات.

وبحسب تقرير آخر باسم «حالة التصيد الاحتيالي 2024» من شركة Proofpoint، نُشر في وقت سابق من العام الحالي، شهدت نسبة نجاح هجمات التصيد ارتفاعاً مستمراً في دولة الإمارات العربية المتحدة، حيث أشارت 92% من الشركات المشمولة في الاستطلاع إلى أنها تعرّضت إلى هجمة ناجحة واحدة على الأقل في عام 2023، مقابل 86% في العام السابق، ما أدى إلى زيادة بنسبة 44% في تقارير العقوبات المالية مثل الغرامات التنظيمية، وزيادة بواقع 300% لنشر التقارير التي تؤثر سلباً على سمعة الشركات.

يرجع ارتفاع إقبال مصادر التهديد على استخدام هجمات التصيد الاحتيالي إلى أسباب عديدة، من بينها استغلال قدرات أنظمة روبوتات المحادثة على معالجة نماذج اللغة الكبيرة، مما ساهم في تسهيل إطلاق هذه الهجمات، وتقليل تكلفتها، وزيادة تعقيدها وتطورها. وفي حالة التصيد الاحتيالي الموجه، أتاحت قدرات الذكاء الاصطناعي للمهاجم الوصول إلى المحتوى والمعلومات التي يمكن أن يكون المستخدم قد نشرها مسبقاً على منصات التواصل الاجتماعي، واستخدامها لإنشاء محتوى مخصص وشبه أصلي لكسب ثقة الضحية. ويمكن للمهاجمين في وقتنا الحالي إنشاء رسائل بريد إلكتروني احتيالية مقنعة يصعب كشفها من دون جهد يُذكر وذلك باستخدام أوامر بسيطة وقصيرة لروبوتات المحادثة التابعة للخدمات الكبرى.

أدى ظهور الذكاء الاصطناعي التوليدي إلى إضفاء بعد جديد على هجمات التصيد الاحتيالي الموجه وإحداث تغيير كبير في اقتصاد الأمن السيبراني. وتشكل تقنيات الأتمتة المتطورة وقدرات النماذج اللغوية الكبيرة حافزاً يشجع المخترقين على شنّ هجماتهم بوتيرة متزايدة مع احتمالات أقل للكشف عنها. فمثلاً، يمكن اكتشاف نماذج التصيد الاحتيالي التقليدية من خلال الأخطاء في الكتابة والقواعد النحوية، إلا أن هذه الطريقة لم تعد مجدية اليوم، إذ يمكن لأدوات الذكاء الاصطناعي إنشاء رسائل تصيّد مثالية أو قريبة من المثالية من الناحية اللغوية. وفي عصر التزييف العميق وتعديل الصوت، تسهم قدرات تعلم الآلة في تعزيز الأساليب المستخدمة لخداع المستخدمين المستهدَفين.

سبل التعامل المقترحة

يجب أن تتسم حلول هذه التحديات برؤية استراتيجية ودقيقة فيما يتعلق باستخدامات الذكاء الاصطناعي التوليدي. ولذلك تكثر الحوارات في قطاع الأمن السيبراني حول أساليب أكثر أماناً وأخلاقيةً لتدريب النماذج اللغوية. كما تجري حوارات حول كيفية الاستفادة من نماذج وقدرات الذكاء الاصطناعي التوليدي، التي توفرها تقنيات الأتمتة وتعلم الآلة، لإنشاء استجابة أكثر قوة وكفاءة في حالات التصيد الاحتيالي الموجه وأنواع أخرى من الهجمات السيبرانية.

لعل واحدة من النواحي التي يعلق الكثيرون آمالهم عليها هي قدرة مسؤولي الحماية السيبرانية على الوصول إلى نفس التقنيات المتقدمة التي يستخدمها المهاجمون، مما يعني أن أدوات متخصصي الأمن السيبراني تتطور كذلك بشكل متكافئ مع تطور قدرات مصادر التهديد، وربما يستفيد متخصصو الأمن السيبراني من هذه الأدوات في تحسين قدرتهم على الكشف عن التهديدات الناشئة وصدّها والتجاوب مع المستجدات بطريقة استباقية. 

بكل الأحوال، يجب على المستخدمين اتباع التدابير الأمنية الأساسية، بما فيها إضافة فلاتر للرسائل غير المرغوب فيها على البريد الإلكتروني، وتجنّب إرسال معلومات شخصية أو مالية عبر البريد الإلكتروني من دون استخدام بروتوكولات الأمان المناسبة، والتأكد من هوية المُرسل. وفي عصر الانتشار الواسع للتكنولوجيا، نحتاج إلى بذل مزيد من الجهود التعاونية حتى يتمكن الجمهور من التكيف مع هذه البيئة ويصبح على دراية كاملة بكيفية استخدام المهاجمين أحدث التطورات لتحقيق أهدافهم.

يُعد تطبيق الحلول الأمنية المتطورة بنفس أهمية كشف رسائل البريد والنصوص والمكالمات الهاتفية الخبيثة ومنعها قبل أن تصل الأهداف المحتملة. ولتحقيق هذه الخطوة، يجب إجراء عمليات تدقيق وتقييمات أمنية باستمرار لتقدير مدى فاعلية ضوابط الأمن، فضلاً عن تحديث سياسات وإجراءات التكنولوجيا بانتظام للتخفيف من تهديدات هجمات التصيد الاحتيالي الموجه. ويبقى الابتكار والتأقلم والحذر عناصر حاسمة للنجاح في درء هجمات التصيد والحفاظ على الأمن السيبراني.