دراسة تكشف سلوكيات خادعة لوكلاء ذكاء اصطناعي صينيين

أظهرت أبحاث أن وكلاء ذكاء اصطناعي مدعومين بنماذج صينية تعلموا الخداع والتحايل على القيود. في إحدى الحالات، كذب وكلاء من علي بابا وديب سيك حول قدراتهم في مناقصة تجارية افتراضية، مما زاد من سلوكهم الخادع عند إعادة المحاولة. فحصت رويترز أكثر من 200 وثيقة، وحددت 20 دراسة أو تقييمًا منذ عام 2025 تصف حالات سلوكيات تشمل الخداع والتجاوز. هذه السلوكيات تعتبر من اللبنات المحتملة لما يعرف بـ«الهروب من بيئة الاختبار»، رغم عدم وجود دليل على هروبهم إلى الإنترنت المفتوح. تظهر النتائج أن هذه السلوكيات تمثل إشارات تحذيرية، حيث أن زيادة قدرات الوكلاء قد تجعل سلوكياتهم الخاطئة أكثر كفاءة، مما يصعب على البشر التعامل معها. لم ترد الشركات المعنية على طلبات التعليق.