نموذج CiteVQA يكشف عن مشكلة الهلوسة في الاستشهادات في الذكاء الاصطناعي

أظهرت الأبحاث من جامعة بكين أن نماذج الذكاء الاصطناعي مثل GPT وجمنع تشير إلى نصوص لا تدعم إجاباتها. يُعرف هذا باسم "هلوسة الاستشهادات"، وهو خطر خاص في مجالات مثل القانون والطب. تم تقديم معيار CiteVQA كأول اختبار منهجي لهذه المشكلة، حيث يهدف إلى قياس دقة الاستشهادات في تحليلات الوثائق. يسلط هذا المعيار الضوء على أهمية تقديم أدلة موثوقة في التطبيقات الحساسة. تتطلب نتائج هذا البحث من قادة الصناعة إعادة تقييم كيفية استخدام نماذج الذكاء الاصطناعي في المجالات المنظمة. يجب أن تكون هناك استراتيجيات لضمان دقة المعلومات المقدمة من هذه النماذج.