تحذيرات من هجمات حقن غير مباشر على وكلاء الذكاء الاصطناعي

حذر باحثو جوجل من أن صفحات الويب العامة تتعرض للاختراق من خلال حقن غير مباشر للأوامر. كشفت الفرق الأمنية عن وجود فخاخ رقمية تتضمن تعليمات مخفية ضمن HTML، مما يسمح بتنفيذ الأوامر الخبيثة عند استعراض الوكلاء للصفحات. على سبيل المثال، يمكن لوكيل الذكاء الاصطناعي الذي يقوم بمراجعة سيرة ذاتية أن يتعرض لأوامر خفية تؤدي إلى تسريب بيانات حساسة. تعمل هذه الهجمات على تجاوز الحواجز الأمنية التقليدية التي تركز على منع الحقن المباشر. بدلاً من ذلك، يتم تضمين الأوامر الخبيثة داخل مصادر بيانات موثوقة، مما يجعل من الصعب على أنظمة الدفاع السيبراني اكتشافها. على سبيل المثال، يمكن لوكيل الذكاء الاصطناعي أن يقرأ محتوى موقع ويب ويستخرج تعليمات خفية تؤدي إلى تسريب معلومات حساسة.