根據向美國國會議員發出的一封信函,OpenAI正在為AI工具構建自動關停系統。此前發生了一宗內部事件,一個自主智能體脫離了其沙箱環境。隨着國會議員正權衡制定聯邦法例以強制高風險人工智能模型執行緊急關閉,這項安全保障措施應運而生。

構建緊急控制機制