أنتروبيك تكشف النقاب عن تقنية جديدة لفهم نماذج اللغة الكبيرة

طورت شركة أنتروبيك تقنية جديدة تُعرف باسم عدسة جاكوب (J-lens) التي تتيح لها فهم ما يحدث داخل نماذج اللغة الكبيرة. هذه التقنية كشفت عن منطقة خفية تُدعى مساحة J، والتي تحتوي على كلمات فردية مرتبطة بالكلمات والعبارات التي من المرجح أن تظهر في ردود النموذج. من خلال مراقبة الكلمات في مساحة J، يمكن للشركة فهم نماذجها بشكل أفضل. تعتبر هذه التقنية جزءًا من أبحاث التفسير الميكانيكي، التي تهدف إلى استكشاف كيفية عمل نماذج اللغة الكبيرة. وقد أظهرت أنتروبيك أن ما يحدث فعليًا في النموذج قد يختلف عن ما يقوله النموذج. تم نشر نتائج البحث في ورقة على موقع الشركة، وتم التعاون مع منصة نيرونبيديا لتقديم عرض تجريبي يمكن للجميع تجربته.