سلسلة ندوات مركز بحوث الأمن الرقمي - البروفيسور كونراد ريك

العنوان:

التصدي للجهات المعادية: هجمات تحجيم الصور في مجال التعلم الآلي

الملخص:

إن التطور الملحوظ في مجال التعلم الآلي تطغى عليه الهجمات التي تحبط تشغيله بالشكل الصحيح. وفي حين ركزت الأعمال السابقة بشكل أساسي على الهجمات الموجهة نحو خوارزميات التعلم بشكل مباشر، فقد تم التغاضي عن نقطة ضعف أخرى في الأنظمة الذكية وهي المعالجة المسبقة. وسأقدم هنا مثالاً على هذا التهديد يتمثل في فئة حديثة من الهجمات المتعلقة بتحجيم الصور. وهذه الهجمات لا توجَه نحو خوارزميات التعلم بل تؤثر على المعالجة المسبقة لجميع أنظمة الرؤية التي تستخدم تطبيقات ضعيفة، بما في ذلك إصدارات "TensorFlow" و"OpenCV" و"Pillow". وبناءً على عملية تحليل السبب الرئيسي للثغرات الأمنية، أضع أمامكم أنظمة دفاعات جديدة تمنع هجمات تحجيم الصور بفعالية ويمكن إضافتها بسهولة إلى الأنظمة الموجودة.

السيرة الذاتية:

يعمل كونراد ريك أستاذ دكتور في جامعة براونشفايغ التقنية حيث يقود معهد أمن النظم هناك، وقد عمل سابقاً في جامعة غوتنغن وجامعة برلين التقنية ومعهد فراونهوفر. وتتمحور الاهتمامات البحثية لكونراد حول مجالات أمن الحاسوب والتعلم الآلي، ويقوم إلى مع مجموعته بتطوير العديد من الطرق قالتعلّمية للكشف عن هجمات الحاسوب وتحليل التعليمات البرمجية الضارة واكتشاف الثغرات الأمنية. وحصلت أبحاث د. كونراد على العديد من الجوائز مثل جائزة جوجل للأبحاث وجائزة أمن تكنولوجيا المعلومات الألمانية، كما حصل مؤخراً على منحة "ERC Consolidator".