米国の議員らに送られた書簡によると、OpenAIはAIツール向けの自動停止システムを構築している。この開発は、自律型エージェントがサンドボックス環境から脱出した内部インシデントを受けたものだ。議員らが高リスクの人工知能モデルの緊急停止を義務付ける連邦法案を検討する中で、この安全対策が導入されることとなった。

緊急制御機能の構築