هناك موجة متزايدة من عمليات الاحتيال باستخدام التزييف العميق تسببت في سرقة ملايين الدولارات من الشركات في جميع أنحاء العالم، ويحذر خبراء الأمن السيبراني من أن الوضع قد يزداد سوءًا مع استغلال المجرمين للذكاء الاصطناعي التوليدي في الاحتيال، والتزييف العميق هو فيديو أو صوت أو صورة لشخص حقيقي تم تعديلها رقميًا والتلاعب بها غالبًا عبر الذكاء الاصطناعي، لإساءة تمثيلهم بشكل مقنع.
وفي واحدة من أكبر الحالات المعروفة هذا العام، تم خداع موظف مالي في هونغ كونغ لتحويل أكثر من 25 مليون دولار إلى محتالين باستخدام تقنية التزييف العميق الذين تظاهروا بأنهم زملاء له في مكالمة فيديو، وفقًا لما أخبرت به السلطات وسائل الإعلام المحلية في فبراير الماضي.
وأكدت شركة الهندسة البريطانية Arup الأسبوع الماضي لمنصة CNBC الإخبارية بأنها الشركة المعنية في تلك الحادثة، لكنها لم تتمكن من الخوض في التفاصيل بسبب التحقيق المستمر، وتزايدت هذه التهديدات نتيجة انتشار تطبيقات روبوت الدردشة ChatGPT من Open AI الذي أطلق في عام 2022 مما أدخل بسرعة تكنولوجيا الذكاء الاصطناعي التوليدي إلى الساحة العامة، ولم يعد المحتالون بحاجة إلى وجود مهارات تقنية متقدمة، فضلًا عن أن حجم وتعقيد عمليات الاحتيال قد توسعت مع استمرار تطور تقنية الذكاء الاصطناعي.
تزايد استخدام تقنية التزييف العميق
يمكن استخدام خدمات الذكاء الاصطناعي التوليدي المختلفة لإنتاج نصوص وصور ومحتويات فيديو شبيهة بالواقع، وبالتالي يمكن أن تكون أدوات قوية للمجرمين الذين يحاولون التلاعب الرقمي وإعادة إنشاء بعض الأفراد، فقد قال متحدث باسم شركة Arup لـ CNBC
“مثل العديد من الشركات الأخرى حول العالم، عملياتنا تتعرض لهجمات منتظمة، بما في ذلك احتيال الفواتير، عمليات التصيد الاحتيالي، انتحال صوت عبر واتس آب، فضلًا عن التزييف العميق.”
يُقال إن الموظف المالي قد حضر مكالمة فيديو مع أشخاص يُعتقد أنهم المدير المالي للشركة وأعضاء آخرين من الموظفين، الذين طلبوا منه إجراء تحويل مالي. ومع ذلك، كان باقي الحضور في ذلك الاجتماع، في الواقع، عبارة عن تزييف عميق رقميًا.
وأكدتArup أنه تم استخدام “أصوات وصور مزيفة” في الحادثة، مضيفة أن “عدد وتعقيد هذه الهجمات قد زاد بشكل حاد في الأشهر الأخيرة، كما أفادت وسائل الإعلام الصينية بحالة مشابهة في مقاطعة شانشي هذا العام تتعلق بموظفة مالية، تم خداعها لتحويل 1.86 مليون يوان (262,000 دولار) إلى حساب محتال بعد مكالمة فيديو مع تزييف عميق لرئيسها.
عمليات الاحتيال الرقمي ليست جديدة
في عام 2019، قام المدير التنفيذي لشركة بريطانية لتوفير الطاقة بتحويل 220,000 يورو (238,000 دولار) إلى محتال كان قد قلد رئيس شركته الأم رقميًا وطلب تحويل الأموال إلى مورد مزعوم في مكالمة هاتفية.
وفي أغسطس من العام الماضي، وثق باحثون في شركة الأمن السيبراني ماندينت، المملوكة لشركة جوجل، عددًا من الحالات التي استخدم فيها المحتالون غير الشرعيين تقنيات الذكاء الاصطناعي والتزييف العميق في عمليات تصيد احتيالي، ونشر المعلومات الخاطئة لأغراض غير قانونية.
وفي ذلك الوقت، قالت الشركة إن استخدام التكنولوجيا لمثل هذه الأنشطة كان محدودًا، لكن تزايد توفر أدوات الذكاء الاصطناعي التوليدية الجديدة سيسرع من استخدامها من قبل الجهات الخبيثة.
تداعيات أوسع وطرق أكثر للاحتيال
بالإضافة إلى الهجمات المباشرة، يتزايد قلق الشركات بشأن طرق أخرى يمكن أن تُستخدم فيها صور، فيديوهات، أو خطب تزييف عميق لأعضاء من المديرين بشكل ضار، حسبما يقول خبراء الأمن السيبراني.
وفقًا لجيسون هوج، خبير الأمن السيبراني والمستشار التنفيذي في شركة جريت هيل بارتنرز، يمكن استخدام التزييف العميق لأعضاء الشركة البارزين لنشر أخبار مزيفة للتلاعب بأسعار الأسهم، وتشويه سمعة العلامة التجارية والمبيعات ونشر معلومات مضللة أخرى ضارة.
وقال هوج، الذي عمل سابقًا كعميل خاص في مكتب التحقيقات الفيدرالي: “هذا مجرد بداية”.
وأشار إلى أن الذكاء الاصطناعي التوليدي قادر على إنشاء تزييف عميق استنادًا إلى كمية كبيرة من المعلومات الرقمية مثل المحتوى المتاح علنًا على وسائل التواصل الاجتماعي والمنصات الإعلامية الأخرى.
وفي عام 2022، ادعى باتريك هيلمان، رئيس قسم الاتصالات في شركة بينانس، في منشور على مدونة أن المحتالين أنشأوا تزييفًا عميقًا له استنادًا إلى مقابلاته الإخبارية السابقة وظهوره التلفزيوني، واستخدموه لخداع العملاء وجهات الاتصال لعقد اجتماعات.
وقال فيرمان من شركة Netskope إن هذه المخاطر دفعت بعض التنفيذيين إلى البدء في محو أو تقليل وجودهم على الإنترنت خوفًا من أن يتم استخدامه كذخيرة من قبل مجرمي الإنترنت.
وقد أصبحت تكنولوجيا التزييف العميق بالفعل منتشرة خارج عالم الشركات، من الصور الإباحية المزيفة إلى مقاطع الفيديو المتلاعب بها للترويج لأدوات الطهي، فقد وقعت شخصيات مشهورة مثل تايلور سويفت ضحية لتكنولوجيا التزييف العميق. وقد كانت التزييفات العميقة للسياسيين منتشرة أيضًا.
وفي غضون ذلك، قام بعض المحتالين بإنشاء تزييفات عميقة لأفراد عائلات وأصدقاء الأشخاص في محاولات لخداعهم وسرقة أموالهم، ووفقًا لهوج، فإن القضايا الأوسع ستتسارع وتزداد سوءًا لفترة من الوقت حيث تتطلب الوقاية من الجرائم الإلكترونية تحليلًا دقيقًا من أجل تطوير أنظمة وممارسات وضوابط للدفاع ضد التقنيات الجديدة.
ومع ذلك، قال خبراء الأمن السيبراني إنه يمكن للشركات تعزيز الدفاع ضد التهديدات المدعومة بالذكاء الاصطناعي من خلال تحسين تعليم الموظفين، واختبارات الأمن السيبراني، وفرض كلمات مرور ورموز أمان وموافقة متعددة المستويات لجميع المعاملات وهو الأمر الذي كان من الممكن أن يمنع حالات مثل حالة شركة Arup.
