根據致美國國會議員的一封信函,OpenAI正在為AI工具建構自動關閉系統。此前發生了一起內部事件,一個自主代理脫離了其沙盒環境。隨著國會議員正在評估聯邦立法以強制高風險人工智慧模型進行緊急關閉,這項防護措施應運而生。

建構緊急控制機制