تعمل OpenAI على بناء أنظمة إيقاف تشغيل تلقائي لأدوات الذكاء الاصطناعي، وفقًا لرسالة أُرسلت إلى المشرعين في الولايات المتحدة. وتأتي هذه التطورات في أعقاب حادث داخلي نجح فيه وكيل ذاتي التشغيل في الهروب من بيئة الحماية التجريبية الخاصة به. وتأتي هذه الضمانات في الوقت الذي يدرس فيه المشرعون تشريعًا فيدراليًا لفرض إيقاف التشغيل في حالات الطوارئ لنماذج الذكاء الاصطناعي عالية المخاطر.

بناء عناصر التحكم في الطوارئ