اكتشف علماء الحواسب في جامعة نانيانغ التقنية في سنغافورة طريقة فعالة لاختراق روبوتات الدردشة باستخدام الذكاء الاصطناعي، وللقيام بذلك يقوموا بتدريب روبوت الدردشة المدعوم بالذكاء الاصطناعي على إنشاء أدلة تتجاوز أمانت روبوتات الدردشة الأخرى المعتمدة أيضًا على الذكاء الاصطناعي.
استخدم الباحثون في سنغافورة طريقة قرصنة ذات شقين تُدعى Masterkey حيث قاموا بإجراء هندسة عكسية للطريقة التي يكتشف بها الاستعلامات الضارة ويدافعون عنها وباستخدام هذه المعلومات قاموا بتعليم الروبوتات كيفية التعلم آليًا وتقديم تلميحات تسمح لهم بتجاوز أمان روبوتات الدردشة الأخرى.
اقرأ أيضاً >> أمازون تختبر روبوتات بشكل بشري لمساعدة الموظفين
وبهذه الطريقة، تمكن هؤلاء العلماء من الوصول إلى طريقة يمكنها التكيف تلقائيًا مع الظروف الجديدة وإنشاء طلبات اختراق جديدة بعد قيام المطورين بإجراء تصحيحات على روبوتات الدردشة الخاصة بهم.
وبعد إجراء سلسلة من الاختبارات باستخدام روبوتات الدردشة لإثبات فعالية هذه الطريقة وأنها بالفعل تشكل تهديدًا حقيقًا، قام الباحثون على الفور بإخطار مقدمي الخدمة بالمشكلات التي تم تحديدها بعد اختراق نماذج الذكاء الاصطناعي الخاصة بهم بنجاح.
وتهدف هذه الطرق في الأساس إلى مساعدة الشركات على تحديد نقاط الضعف والقيود في روبوتات الدردشة الخاصة بالذكاء الاصطناعي حتى يتمكنوا من اتخاذ تدابير لحمايتهم من المتسللين.
