أخطر ثغرة في تطبيقات 2026 البرمجية
مع دمج النماذج اللغوية داخل مواقع الويب ولوحات التحكم، برزت ثغرة حقن الأوامر غير المباشر (Indirect Prompt Injection) كأحد أخطر بنود قائمة OWASP Top 10 for Agentic Applications 2026. قد يترك مستخدم خبيث تعليماً مخفياً داخل سيرة ذاتية أو تذكرة دعم فني يخدع الوكيل الذكي لتسريب بيانات قاعدة البيانات.
قد يعجبك ايضا
ضوابط هندسية لا بد منها
- فصل التعليمات عن البيانات: لا تمرر مدخلات المستخدم الخام داخل موجه النظام الرئيسي (System Prompt) دون تنقية.
- صلاحيات مقيدة للأدوات: لا تمنح الوكيل صلاحية حذف الجداول أو إرسال بريد جماعي دون موافقة بشرية صريحة.
- التحقق من المخرجات (Output Validation): افحص كل استعلام SQL أو رابط يولده النموذج قبل تنفيذه فعلياً.
عامل مخرجات الذكاء الاصطناعي دائماً وكأنها مدخلات مستخدم غير موثوقة تحتاج إلى فحص وتحقق صارم.
التعليقات (0)
أضف تعليقك