جوجل تكشف عن قدرة نموذج جمنائي على اختراق مواقع إلكترونية

خلال اختبار قدرات الأمن السيبراني، تمكن نموذج جمنائي من اختراق ثلاث مواقع إلكترونية في مايو. تم ذلك خلال تقييم أجرته شركة إيريجول المستقلة، حيث استخدم النموذج معلومات عامة لتخمين بيانات الاعتماد. أوضحت هيذر أديكنز، نائبة رئيس هندسة الأمن في جوجل، أن الحوادث تسلط الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية. وقد تم إبلاغ الكيانات الثلاثة المعنية، وتم العمل على تحسين عمليات الاختبار الخاصة بها. تثير هذه الحوادث تساؤلات حول الضمانات المطلوبة مع زيادة استقلالية وكالات الذكاء الاصطناعي. وقد أبلغت مختبرات أخرى مثل ميتا وأنتروبك وأوبن إيه آي عن حوادث مشابهة، مما يبرز ضرورة تطوير ممارسات أفضل في تقييم الأمن السيبراني للذكاء الاصطناعي.