OpenAI تعتزم الإبلاغ عن السلوكيات الخاطئة للذكاء الاصطناعي
ستبدأ شركة OpenAI في نشر تقارير منتظمة حول سلوكيات الذكاء الاصطناعي غير المتوقعة أو غير المصرح بها. وأطلقت الشركة إطار عمل جديد لتتبع حالات عدم توافق النماذج والكشف عنها، محذرة من أن تحديات السلامة الرئيسية في هذا القطاع لا تزال قائمة مع تزايد قوة الأنظمة.
Xurve View
رؤى:
Xurve View
ستبدأ شركة OpenAI في نشر تقارير منتظمة حول سلوكيات الذكاء الاصطناعي غير المصرح بها، كاشفة عن ستة حوادث سابقة مع التحذير من استمرار تحديات محاذاة النماذج. ويهدف إطار العمل الجديد إلى تسريع الإبلاغ عن حوادث الوكلاء الذاتيين التي لا ترقى إلى مستوى الانتهاكات الأمنية. وتأتي هذه الخطوة وسط تدقيق متزايد حول ما إذا كانت المختبرات قادرة على الحفاظ على إشراف ملائم مع تزايد قدرات النماذج.
