نفيديا تطلق منصة Open Agent Safety لحماية الوكلاء الذكيين

أعلنت شركة نفيديا عن دمج برنامج OpenShell الخاص بها مع جهاز Sentry الجديد، لإنشاء منصة Open Agent Safety. يهدف Sentry إلى عزل الوكلاء الذكيين الذين يخرجون عن السيطرة خلال أجزاء من الثانية، بينما استغرق الأمر في حالة OpenAI في سبتمبر حوالي ثلاث ساعات لإيقاف التشغيل. تعتبر منصة Open Agent Safety خطوة مهمة في تعزيز سلامة الوكلاء الذكيين، حيث تسعى نفيديا إلى تقليل المخاطر المرتبطة بتصرفات الوكلاء غير المتوقعة. ومع ذلك، لا يمكن لجهاز Sentry إيقاف الوكلاء الذين تم خداعهم أو الذين يخفون نواياهم بشكل موثوق.