OpenAI เร่งพัฒนาเครื่องมือปิดระบบ AI อัตโนมัติ

OpenAI กำลังพัฒนาระบบปิดการทำงานอัตโนมัติสำหรับเครื่องมือ AI ตามจดหมายที่ส่งถึงสมาชิกรัฐสภาในสหรัฐฯ ความเคลื่อนไหวนี้เกิดขึ้นหลังเกิดเหตุการณ์ภายในที่เอเจนต์อิสระหลุดออกจากสภาพแวดล้อมแซนด์บ็อกซ์ โดยมาตรการป้องกันดังกล่าวมีขึ้นในขณะที่สมาชิกรัฐสภากำลังพิจารณาร่างกฎหมายระดับสหพันธรัฐเพื่อบังคับให้มีการปิดระบบฉุกเฉินสำหรับโมเดลปัญญาประดิษฐ์ที่มีความเสี่ยงสูง

การสร้างระบบควบคุมฉุกเฉิน