العودة إلى المعجم
السلامة والأخلاقيات

محاذاة النماذج اللغوية

LLM Alignment

تدريب النموذج اللغوي نفسه ليتصرّف وفق نيّة المستخدم وقيم بشرية متفق عليها، فيكون مفيداً وصادقاً ويتجنب الأذى، بأساليب مثل التعلّم المعزّز من التغذية الراجعة البشرية (RLHF). وتختلف عن حواجز الأمان: المحاذاة تغيّر سلوك النموذج من الداخل أثناء التدريب، والحواجز طبقة خارجية تفحص المدخلات والمخرجات وقت الاستخدام.

مصطلحات في الفئة نفسها

تصفّح المعجم كاملاً