OpenAI تطلق نظام GPT-Red لتحسين أمان الذكاء الاصطناعي

أعلنت OpenAI عن إطلاق نظام GPT-Red، وهو نظام آلي لتقييم الأمان يستخدم تقنية اللعب الذاتي. يهدف هذا النظام إلى تعزيز أمان الذكاء الاصطناعي من خلال تحسين التوافق ومقاومة حقن الأوامر. يعد GPT-Red خطوة مهمة نحو تطوير نماذج ذكاء اصطناعي أكثر أمانًا وموثوقية. تستخدم آلية اللعب الذاتي في GPT-Red لتقييم أداء النموذج في سيناريوهات مختلفة، مما يسمح بتحديد نقاط الضعف وتحسينها بشكل مستمر. هذا النظام يمثل تطورًا في كيفية معالجة OpenAI لمخاطر الذكاء الاصطناعي، حيث يركز على التفاعل الذاتي بين النماذج بدلاً من الاعتماد على تقييمات بشرية فقط.