ملخص بالذكاء الاصطناعي١٧ صفر ١٤٤٨ هـ٣١ يوليو ٢٠٢٦
ملخص بالذكاء الاصطناعي
١٧ صفر ١٤٤٨ هـ٣١ يوليو ٢٠٢٦
تقرير تقني عن كيمي ك3 يكشف تفاصيل بنية النموذج والبنية التحتية
كشف التقرير التقني عن نموذج كيمي ك3 عن تفاصيل بنية النموذج والبنية التحتية، مشيرًا إلى أن التجربة الهندسية القيمة لا يمكن نسخها من الورق. وأوضح مهندس OpenAI ونج جياي أن الفجوة الأساسية في التدريب تكمن في البنية التحتية، حيث يقوم المهندسون بشكل رئيسي بإصلاح أخطاء البنية التحتية.
تتضمن أخطاء البنية التحتية مشكلات تقليدية تؤثر على الدقة والثبات، بالإضافة إلى قضايا نظامية لا تؤثر على الدقة الرياضية ولكنها تسبب انتظار GPU، وهدر الذاكرة، وعرقلة الاتصال. وقد أظهرت حالات التدريب الكبيرة على نطاق واسع أن معدل استخدام FLOPs لنموذج ByteDance MegaScale بلغ 55.2%، وهو من بين أعلى السجلات.
تابع هذه المواضيع
سجّل دخولك لمتابعة المواضيع التي تهمك
يُنتج هذا الملخص باستخدام تقنيات الذكاء الاصطناعي مع مراجعة تحريرية دورية، ويرجى الرجوع إلى المصدر الأصلي للتفاصيل الكاملة.
تقرير تقني عن كيمي ك3 يكشف تفاصيل بنية النموذج والبنية التحتية
كشف التقرير التقني عن نموذج كيمي ك3 عن تفاصيل بنية النموذج والبنية التحتية، مشيرًا إلى أن التجربة الهندسية القيمة لا يمكن نسخها من الورق. وأوضح مهندس OpenAI ونج جياي أن الفجوة الأساسية في التدريب تكمن في البنية التحتية، حيث يقوم المهندسون بشكل رئيسي بإصلاح أخطاء البنية التحتية.
تتضمن أخطاء البنية التحتية مشكلات تقليدية تؤثر على الدقة والثبات، بالإضافة إلى قضايا نظامية لا تؤثر على الدقة الرياضية ولكنها تسبب انتظار GPU، وهدر الذاكرة، وعرقلة الاتصال. وقد أظهرت حالات التدريب الكبيرة على نطاق واسع أن معدل استخدام FLOPs لنموذج ByteDance MegaScale بلغ 55.2%، وهو من بين أعلى السجلات.
نماذج
تابع هذه المواضيع
سجّل دخولك لمتابعة المواضيع التي تهمك
يُنتج هذا الملخص باستخدام تقنيات الذكاء الاصطناعي مع مراجعة تحريرية دورية، ويرجى الرجوع إلى المصدر الأصلي للتفاصيل الكاملة.
0
0 يقرأون الآن
تقييم الخبر
سيظهر متوسط التقييم بعد 3 تقييمات.
لم تقم بالتقييم بعد.
سجل الدخول للتفاعل والتقييم والحفظ. تسجيل الدخول
