أخبار الذكاء الاصطناعي

تحسينات في GPT-6 Astra لكن لا تزال هناك ثغرات

أظهر نموذج GPT-6 Astra من OpenAI تحسنًا في تقليل الهلاوس، حيث يمنع 99.99% من هجمات حقن الأوامر المباشرة. ومع ذلك، عندما تكون الهجمات مخفية داخل الوثائق التي يقرأها النموذج، لا يزال يتم اختراقه في 8.5% من السيناريوهات، بينما يحقق Claude Opus 5 أداءً أفضل بنسبة 4.8%. تشير هذه الأرقام إلى أن الأنظمة المستقلة التي تتعامل مع بيانات حقيقية لا تزال تواجه تحديات كبيرة في الأمان، مما يستدعي المزيد من التحسينات لضمان موثوقية أكبر في الاستخدامات العملية.