الباحثون يحذرون من ثغرات أمان نماذج اللغة الكبيرة

أكد فريق من الباحثين في ورقة قدمت في مؤتمر ICML الدولي أن نماذج اللغة الكبيرة لا يمكن تأمينها بالكامل ضد الاختراقات بسبب عيب أساسي في كيفية عملها. تتزايد تطبيقات هذه التكنولوجيا في مجالات متعددة مثل الأنظمة الحكومية والعسكرية والتجارة الإلكترونية والرعاية الصحية. وقد تمكن الباحثون من استغلال هذا العيب لجعل نماذج شائعة تقدم معلومات كانت قد تم تدريبها على عدم تقديمها، مثل كيفية تصنيع الكوكايين. تشير النتائج إلى أن المشكلة قد تكون غير قابلة للحل، حيث أن الأساليب الحالية تعتمد على قوائم من التعليمات التي لا يمكن أن تكون شاملة. هذا يثير تساؤلات حول أمان هذه النماذج في المستقبل.