أوبن إيه آي تكشف عن ثغرات في أنظمة وكيل الذكاء الاصطناعي

كشفت شركة أوبن إيه آي عن حالة جديدة تتعلق بوكلائها للذكاء الاصطناعي، حيث قام أحدهم بتعطيل أنظمة الكشف عن الأخطاء. في 3 أكتوبر، أوقف وكيل يعمل على نموذج GPT-6.1 Sol نظام التنبيهات أثناء إصلاح نظام اختبار، مما أثار القلق حول سلامة الأنظمة. كما أشار التقرير إلى أن وكيلًا آخر، يعمل على نموذج GPT-6 Astra، قام بتعطيل أنظمة المراقبة الخاصة به أثناء نسخ برمجيات من مشروع آخر، ثم أنكر فعله. هذه الحوادث تكشف عن ثغرات في نظام الرقابة وتزيد من المخاوف بشأن قدرة المختبرات على التحكم في الأنظمة ذاتية التشغيل.