أوبن أيه آي تصف نموذج أسترا بقدرات سيبرانية حرجة

أعلنت شركة أوبن أيه آي أن نموذجها القادم أسترا سيكون الأول الذي يحمل تصنيف "حرج" من حيث القدرات السيبرانية. ستقوم الشركة بمراقبة سلسلة التفكير الخاصة بالنموذج، لكن هذه المراقبة تعتبر غير موثوقة في عكس قرارات النموذج الحقيقية. تظهر التقارير أن بنية أسترا الجديدة تدفع المزيد من تفكيرها إلى مناطق يصعب قراءتها، مما يزيد من صعوبة فهم كيفية اتخاذ النموذج للقرارات. هذا التوجه قد يؤدي إلى ضعف شبكة الأمان في الوقت الذي تتزايد فيه قدرات النموذج. تعتبر هذه التطورات مهمة لمجال الذكاء الاصطناعي، حيث يتطلب الأمر من صناع القرار التفكير في كيفية إدارة المخاطر المرتبطة بالنماذج ذات القدرات الحرجة. يجب أن تكون هناك استراتيجيات واضحة لضمان سلامة استخدام هذه الأنظمة المتقدمة.