تأمين نماذج اللغة الكبيرة: المخاطر والتحديات الحالية

تتناول نماذج اللغة الكبيرة (LLMs) الآن كيفية قراءة رسائل البريد الإلكتروني والاستعلام عن قواعد البيانات الحية وتنفيذ إجراءات حقيقية. يمكن أن يتسبب إدخال ضار واحد في إحداث أضرار حقيقية، سواء من خلال تسميم البيانات أو التلاعب بالذكاء الاصطناعي لتجاهل القواعد المهيأة. تحدد OWASP المخاطر الرئيسية لأمان LLMs، حيث تستخدم فرق الأمان هذا الإطار القياسي لتحديد التهديدات الشائعة. تختلف هذه المخاطر عن الأخطاء التقليدية في التطبيقات، حيث تشمل سطح الهجوم: تفكير النموذج، بيانات التدريب، والأدوات التي يمكنه الوصول إليها.