انتشرت نماذج روبوتات الدردشة المدعومة بالذكاء الاصطناعي كثيرًا في الآونة الأخيرة، لكن من الواضح أنه من السهل على المتسللين التجسس على تلك المحادثات التي تدور بينك وبين روبوتات الدردشة.
حيث يؤكد أحد خبراء الذكاء الاصطناعي أن في الوقت الحالي، يمكن لأي شخص قراءة الدردشات الخاصة المرسلة من روبوت ChatGPT وغيرها من الخدمات، ويشمل ذلك الجهات الخبيثة الموجودة على نفس شبكة الوايف اي أو الشبكة المحلية أو حتى المتسللين الذين يراقبون حركة المرور.
وهذه الأنواع من الاختراقات تعرف باسم هجمات القناة الجانبية، والتي تتضمن قيام أطراف ثالثة باستنتاج البيانات بشكل سلبي باستخدام البيانات الوصفية أو غيرها من عمليات التعرض غير المباشرة بدلًا من اختراق جدران الحماية الأمنية، وعلى الرغم من أن هذه الثغرات الأمنية موجودة في مختلف أنواع التقنية، إلا أن الذكاء الاصطناعي يبدو ضعيفًا بشكل خاص لأن جهود التشفير التي يبذلها ليست كافية.
اقرأ أيضًا >> مرسيدس تدرب روبوتات شبيهة بالبشر للقيام بمهام التصنيع المملة والمكررة
وكشف الباحث أن الهجوم السلبي يمكن حدوثه دون علم شركة OpenAI أو عملائهم، وتقوم شركة OpenAI بتشفير حركة المرور الخاصة بهم لمنع هذه الأنواع من هجمات التنصت لكن يظهر أن الطريقة التي تستخدمها الشركة في التشفير معيبة وبالتالي فإن الرسائل قد تكون مكشوفة.
وعلى الرغم من أن هجمات القنوات الجانبية أقل توغلًا من الأشكال الأخرى من الاختراقات، إلا أنها يمكنها استنتاج مطالبة معينة لروبوت الدردشة بدقة تصل إلى 55% مما يجعل أي أسئلة حساسة قد يطرحها المرء على نماذج الذكاء الاصطناعي سهلة الاكتشاف.
ويشير التقرير أن الباحثون الأمنيون يركزون على أخطاء التشفير في منصة OpenAI ونماذج الدردشة الأخرى باستثناء جيميناي من جوجل، وتعتمد هذه المشكلة على أن روبوتات الدردشة تستخدم أجزاء من البيانات المشفرة المعروفة باسم الرموز المميزة والتي تساعد نماذج اللغة الكبيرة LLMs على ترجمة المدخلات وتوفير استجابات واضحة بسرعة، وغالبًا ما يتم إرسالها بسرعة كبيرة لتتدفق سريعًا.
وعلى الرغم من أن عملية التسليم مشفرة بشكل عام، إلا أن الرموز المميزة نفسها تنتج قناة جانبية لم يكن الباحثون على علم بها من قبل، ويمكن لأي شخص أن يتمكن من الوصول إلى هذه البيانات في الوقت الفعلي، كما أوضح الباحثون أن ذلك قادرًا على استنتاج مطالبات المستخدم بناء على الرموز المميزة.
وفي توضح من شركة مايكروسوفت، أكدت أن هذه الثغرة تؤثر على روبوت الدردشة كوبايلوت الخاص بها ولكنه لا يعرض التفاصيل الشخصية للخطر.
