أخبار الذكاء الاصطناعي

أنتروبك تدعو لتباطؤ تطوير الذكاء الاصطناعي لضمان السلامة

قال داريو أمودي، الرئيس التنفيذي لشركة أنتروبك، إنه حان الوقت لتقليل سرعة تطوير الذكاء الاصطناعي. وأعلن عن خطة من ثلاث خطوات تهدف إلى إبطاء وتيرة التدريب والتطوير، مما يمنح الشركات الوقت لبناء تدابير الأمان. تتضمن الخطوة الأولى منح المقيّمين الخارجيين مثل METR الوصول إلى نماذج أنتروبك لضمان الالتزام بممارسات السلامة. ويعتبر أمودي أن هذه الخطوة هي بداية لمزيد من التعاون بين الشركات في القطاع. تتطلب المرحلة الثانية من الصناعة أن تتعاون بشكل جماعي، مما قد يتضمن مشاركة الحكومات في وضع معايير تنظيمية. هذه المبادرة قد تؤثر بشكل كبير على كيفية تطوير الذكاء الاصطناعي في المستقبل، مما يضمن أمان النماذج المستخدمة في السوق.

الوكلاء والأتمتة

دعوة لإبطاء تطوير نماذج الذكاء الاصطناعي لضمان الأمان

دعا داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، إلى إبطاء وتيرة تطوير نماذج الذكاء الاصطناعي، مقترحاً إطاراً من ثلاث خطوات. يهدف هذا الإطار إلى منح الشركات وقتاً كافياً لضمان مواءمة النماذج وتعزيز إجراءات الحماية. يأتي هذا بعد مخاوف متزايدة من إساءة استخدام الذكاء الاصطناعي، بما في ذلك استخدام نماذج 'كلود' في أنشطة غير قانونية. أوضح أمودي أن المقترح لا يعني وقف التدريب، بل يتطلب إدخال مراجعين مستقلين داخل الشركات التي تطور النماذج. كما دعا إلى التعاون لوضع معايير مشتركة في ظل تزايد الدعوات من المشرعين الأميركيين لتنظيم الذكاء الاصطناعي. تأتي هذه الدعوة في وقت تصاعدت فيه المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على الوصول إلى أنظمة خارجية.

💡

مخاوف من استدامة طفرة الذكاء الاصطناعي في ظل الفجوة التمويلية

ما هي التحديات التي تواجه استدامة طفرة الذكاء الاصطناعي؟

اقرأ المزيد ←

تشريع جديد في الكونغرس الأمريكي لتنظيم الذكاء الاصطناعي

تشريع جديد في الكونغرس الأمريكي لتنظيم الذكاء الاصطناعي

تدرس مفاوضات داخل مجلس الشيوخ الأميركي تشريعاً يحمّل شركات التكنولوجيا مسؤولية تصميم أنظمة ذكاء اصطناعي أكثر أماناً، وسط مخاوف من إساءة الاستخدام. يناقش المفاوضون مشروع قانون يفرض على المطورين الالتزام بما يُعرف بـ«واجب الرعاية» لتقليل المخاطر المحتملة، مثل استخدام الأنظمة في تطوير أسلحة نووية. يبحث المفاوضون أيضاً منح الحكومة الأميركية صلاحيات لمنع إطلاق نماذج ذكاء اصطناعي غير آمنة، مما قد يفرض مسؤوليات قانونية جديدة على الشركات. كما يناقشون إخضاع النماذج لاختبارات في المختبرات الوطنية لتقييم إمكانية إساءة استخدامها، مما ينقل جزءاً من مسؤولية السلامة إلى مؤسسات حكومية.

أمودي يدعو لتقليل سرعة تطوير الذكاء الاصطناعي لحماية الإنترنت

أمودي يدعو لتقليل سرعة تطوير الذكاء الاصطناعي لحماية الإنترنت

دعا داري أمودي، الرئيس التنفيذي لشركة أنثروبيك، إلى تقليل سرعة تطوير الذكاء الاصطناعي. يحذر أمودي من أن التحسين الذاتي المتكرر قد يهدد الإنترنت خلال ستة إلى اثني عشر شهرًا. اقترح أمودي تنفيذ مدققين داخليين في شركات الذكاء الاصطناعي، ووضع معايير أمان مشتركة، واتفاقيات عالمية مستوحاة من معاهدات نزع السلاح مثل SALT. تأتي تحذيراته قبل ما قد يكون أكبر طرح عام أولي في التاريخ. تعتبر دعوة أمودي بمثابة تنبيه لصناع القرار في مجال الذكاء الاصطناعي، حيث تبرز الحاجة إلى تنظيم أفضل لحماية البنية التحتية الرقمية. قد تؤدي هذه الإجراءات إلى تعزيز الأمان وتقليل المخاطر المرتبطة بتطورات الذكاء الاصطناعي السريعة.

الوكلاء والأتمتة

تحقيق تقدم كبير في فهم الفضاء مع نموذج GPT-6 Astra

الوكلاء والأتمتة

تحقيق تقدم كبير في فهم الفضاء مع نموذج GPT-6 Astra

حقق نموذج GPT-6 Astra تقدمًا كبيرًا في فهم الفضاء وفقًا لمعايير جديدة في الروبوتات. على منصة StationeryBench، أكمل النموذج 7 من 100 مهمة باستخدام روبوتات ذات ذراعين، بينما لم يتمكن المنافس MolmoAct2 من إنهاء أي مهمة. يُعتبر هذا الإنجاز بمثابة تغيير جذري في التفكير المكاني. تظهر النتائج أن GPT-6 Astra يتفوق بشكل ملحوظ على المنافسين في مهام الفهم المكاني، مما يعكس تحسينات كبيرة في قدرات النموذج. يُشير الباحثون إلى أن هذا التقدم يمكن أن يعزز التطبيقات العملية في مجالات متعددة، بما في ذلك الروبوتات الذكية.

الأعمال

نفيديا تتفاوض لاستثمار 10 مليارات دولار في طرح أنثروبيك العام

الأعمال

نفيديا تتفاوض لاستثمار 10 مليارات دولار في طرح أنثروبيك العام

تجري شركة نفيديا محادثات لاستثمار يصل إلى 10 مليارات دولار في الطرح العام الأولي لشركة أنثروبيك، وفقًا لتقارير رويترز. إذا تحقق ذلك، فإن التقييم المستهدف لشركة أنثروبيك سيكون 2 تريليون دولار، مما يجعلها أكبر طرح عام أولي في التاريخ. من المتوقع أن يعود معظم هذا الاستثمار إلى نفيديا من خلال طلبات شراء الرقائق. يمثل هذا الاستثمار المحتمل خطوة استراتيجية لنفيديا، حيث يعزز من مكانتها في سوق الذكاء الاصطناعي ويعكس الطلب المتزايد على تقنيات الذكاء الاصطناعي المتقدمة.

دراسة جديدة تكشف عن أنماط التفكير في نماذج الذكاء الاصطناعي

دراسة جديدة تكشف عن أنماط التفكير في نماذج الذكاء الاصطناعي

كشفت دراسة جديدة أن خطوات التفكير في نماذج الذكاء الاصطناعي مثل الحساب واسترجاع الصيغ يمكن فصلها بوضوح في الحالات الداخلية للنموذج. تظهر النتائج أن النماذج تعالج معلومات أكثر مما تكشفه سلسلة تفكيرها المرئية، مما يعزز أهمية فهم هذه الأنماط في سياق سلامة الذكاء الاصطناعي. هذا الاكتشاف يمكن أن يؤثر على كيفية تطوير نماذج الذكاء الاصطناعي، حيث يجب على المطورين مراعاة هذه الأنماط الداخلية لضمان أمان وموثوقية الأنظمة.

تحذيرات من OpenAI بشأن قيود نموذج GPT-6 Astra