نموذج ByteDance Seed يتفوق في معالجة الوثائق الطويلة

أظهر نموذج ByteDance Seed الذي يحتوي على 7 مليارات معلمة قدرة على الإجابة عن الأسئلة المتعلقة بالوثائق الطويلة والغنية بالصور بشكل أكثر موثوقية من النماذج الأكبر. تم اختبار النموذج على وثائق أطول بأربع مرات من تلك التي تم تدريبه عليها، مما يبرز فعاليته في التعامل مع المعلومات المعقدة. بدلاً من الاعتماد على نسخ النصوص، يتعلم النموذج من خلال الإجابة على الأسئلة والعثور على المقاطع الصحيحة بمفرده. هذه الطريقة تمثل تحولًا في كيفية تدريب النماذج اللغوية الكبيرة، حيث تركز على الفهم بدلاً من التكرار.