ملخص بالذكاء الاصطناعي٣ ربيع الآخر ١٤٤٨ هـ١٤ سبتمبر ٢٠٢٦
ملخص بالذكاء الاصطناعي
٣ ربيع الآخر ١٤٤٨ هـ١٤ سبتمبر ٢٠٢٦
إطلاق نموذج NCP-ArchPreview من مختبر شنغهاي للذكاء الاصطناعي
أطلق فريق NCP في مختبر شنغهاي للذكاء الاصطناعي ونموذج LUMIA في جامعة شنغهاي جياو تونغ نموذج NCP-ArchPreview، وهو نموذج لغوي مفتوح بمساحة كامنة يحتوي على حوالي 8.9 مليار معلمة. يُعتبر هذا المشروع أكبر عرض حتى الآن لنموذج لغوي تم تدريبه على نطاق يتجاوز التريليونات من الرموز، حيث يتنبأ النموذج بمفاهيم متعددة الرموز بدلاً من مجرد الرموز التالية.
يستخدم النموذج بنية Transformer ذات 16 / 8 / 16، ويعتمد على 5.73 تريليون رمز من عائلة Dolma-3. يدعي التقرير أن NCP-ArchPreview يحقق كفاءة عالية، حيث يصل إلى خسارة التدريب النهائية لنموذج OLMo-3-7B بعد استهلاك حوالي 51.3% فقط من إجمالي الرموز التدريبية.
تابع هذه المواضيع
سجّل دخولك لمتابعة المواضيع التي تهمك
يُنتج هذا الملخص باستخدام تقنيات الذكاء الاصطناعي مع مراجعة تحريرية دورية، ويرجى الرجوع إلى المصدر الأصلي للتفاصيل الكاملة.
إطلاق نموذج NCP-ArchPreview من مختبر شنغهاي للذكاء الاصطناعي
أطلق فريق NCP في مختبر شنغهاي للذكاء الاصطناعي ونموذج LUMIA في جامعة شنغهاي جياو تونغ نموذج NCP-ArchPreview، وهو نموذج لغوي مفتوح بمساحة كامنة يحتوي على حوالي 8.9 مليار معلمة. يُعتبر هذا المشروع أكبر عرض حتى الآن لنموذج لغوي تم تدريبه على نطاق يتجاوز التريليونات من الرموز، حيث يتنبأ النموذج بمفاهيم متعددة الرموز بدلاً من مجرد الرموز التالية.
يستخدم النموذج بنية Transformer ذات 16 / 8 / 16، ويعتمد على 5.73 تريليون رمز من عائلة Dolma-3. يدعي التقرير أن NCP-ArchPreview يحقق كفاءة عالية، حيث يصل إلى خسارة التدريب النهائية لنموذج OLMo-3-7B بعد استهلاك حوالي 51.3% فقط من إجمالي الرموز التدريبية.
نماذج
تابع هذه المواضيع
سجّل دخولك لمتابعة المواضيع التي تهمك
يُنتج هذا الملخص باستخدام تقنيات الذكاء الاصطناعي مع مراجعة تحريرية دورية، ويرجى الرجوع إلى المصدر الأصلي للتفاصيل الكاملة.
0
0 يقرأون الآن
تقييم الخبر
سيظهر متوسط التقييم بعد 3 تقييمات.
لم تقم بالتقييم بعد.
سجل الدخول للتفاعل والتقييم والحفظ. تسجيل الدخول
