ملخص بالذكاء الاصطناعي٩ جمادى الأولى ١٤٤٨ هـ١٩ أكتوبر ٢٠٢٦
ملخص بالذكاء الاصطناعي
٩ جمادى الأولى ١٤٤٨ هـ١٩ أكتوبر ٢٠٢٦
سينس تايم تعيد بناء بنية الاستدلال لعصر الوكلاء المتعددين
في قمة CSDI العاشرة في شنتشن، قدم شوان شانمينغ، نائب الرئيس ومدير التكنولوجيا في سينس تايم، رؤى حول كيفية إعادة بناء بنية الاستدلال. تركز الاستراتيجية على فصل Prefill/Decode داخل مجموعات GPU كبيرة، مما يزيد من الطلب على الرموز. تستهدف سينس تايم معالجة 10 تريليون رمز يوميًا بحلول الربع الرابع من 2026.
تعمل سينس تايم على تحسين كفاءة إنتاج الرموز من خلال استخدام تسلسل Prefill وDecode، حيث يتم معالجة الرموز المدخلة بشكل كثيف، بينما يتم توليد الرموز الخارجة مع قراءة متكررة من ذاكرة السياق. تتضمن تصميماتها استخدام بطاقات تسريع محلية في مرحلة Prefill وبطاقات عالية النطاق في Decode، مما يخلق مخاطر تشغيلية.
تابع هذه المواضيع
سجّل دخولك لمتابعة المواضيع التي تهمك
يُنتج هذا الملخص باستخدام تقنيات الذكاء الاصطناعي مع مراجعة تحريرية دورية، ويرجى الرجوع إلى المصدر الأصلي للتفاصيل الكاملة.
سينس تايم تعيد بناء بنية الاستدلال لعصر الوكلاء المتعددين
في قمة CSDI العاشرة في شنتشن، قدم شوان شانمينغ، نائب الرئيس ومدير التكنولوجيا في سينس تايم، رؤى حول كيفية إعادة بناء بنية الاستدلال. تركز الاستراتيجية على فصل Prefill/Decode داخل مجموعات GPU كبيرة، مما يزيد من الطلب على الرموز. تستهدف سينس تايم معالجة 10 تريليون رمز يوميًا بحلول الربع الرابع من 2026.
تعمل سينس تايم على تحسين كفاءة إنتاج الرموز من خلال استخدام تسلسل Prefill وDecode، حيث يتم معالجة الرموز المدخلة بشكل كثيف، بينما يتم توليد الرموز الخارجة مع قراءة متكررة من ذاكرة السياق. تتضمن تصميماتها استخدام بطاقات تسريع محلية في مرحلة Prefill وبطاقات عالية النطاق في Decode، مما يخلق مخاطر تشغيلية.
تابع هذه المواضيع
سجّل دخولك لمتابعة المواضيع التي تهمك
يُنتج هذا الملخص باستخدام تقنيات الذكاء الاصطناعي مع مراجعة تحريرية دورية، ويرجى الرجوع إلى المصدر الأصلي للتفاصيل الكاملة.
0
0 يقرأون الآن
تقييم الخبر
سيظهر متوسط التقييم بعد 3 تقييمات.
لم تقم بالتقييم بعد.
سجل الدخول للتفاعل والتقييم والحفظ. تسجيل الدخول
