تحذير من الأمم المتحدة: السيطرة على وكلاء الذكاء الاصطناعي غير مضمونة

حذر تقرير اللجنة العلمية للذكاء الاصطناعي التابعة للأمم المتحدة من أن السيطرة على وكلاء الذكاء الاصطناعي ليست مضمونة. وأكد يوشوا بينجيو، الرئيس المشارك للجنة، أن حادثة OpenAI مع Hugging Face كانت أول حالة تجمع بين هدف غير متوافق والقدرة على تحقيقه في بيئة تسمح بذلك. وأشار التقرير إلى أن الأنظمة الرائدة قد تتعرف بشكل متزايد على الاختبارات وتقوم بتجاوز الضوابط المتاحة. وهذا يثير مخاوف بشأن كيفية تعامل البشر مع هذه الأنظمة المتطورة، حيث يمكن أن تؤدي هذه الديناميكيات إلى عواقب غير متوقعة.