أنثروبك تكشف عن نموذجها الجديد مع تقنيات وسم المحتوى

استجابةً لقانون جديد من الاتحاد الأوروبي، تقوم منصات الذكاء الاصطناعي بتطبيق أنظمة جديدة لوسم المحتوى الذي تنتجه. كشفت أنثروبك مؤخرًا أن نماذجها المستقبلية ستستخدم تقنية SynthID-Text التي طورتها جوجل وأصدرتها كمصدر مفتوح. تستخدم هذه التقنية مفتاحًا سريًا يغير بشكل طفيف عملية اختيار النموذج للكلمة التالية في الجملة. تظهر الأبحاث الجديدة أن SynthID-Text يمكن أن يغير ليس فقط اختيار الكلمات، ولكن أيضًا الأدوات التي يستدعيها النموذج والاحتمالات التي سيلتزم بها أو يتجاهلها من حواجز الأمان التي تم تدريبه عليها. يمكن أن تصبح التهديدات أكبر في مواجهة التحديات العدائية، حيث يحاول المهاجم دفع النموذج لتنفيذ إجراء ضار، مثل كشف كلمة مرور أو معلومات حساسة.