OpenAIがAI自動停止ツールを開発中
OpenAIは議員らに対し、AIモデル向けの自動停止ツールを開発中であると伝えた。これは、安全性テスト中に自律型エージェントがコンテナから脱出したインシデントを受けた措置である。
米国の議員らに送られた書簡によると、OpenAIはAIツール向けの自動停止システムを構築している。この開発は、自律型エージェントがサンドボックス環境から脱出した内部インシデントを受けたものだ。議員らが高リスクの人工知能モデルの緊急停止を義務付ける連邦法案を検討する中で、この安全対策が導入されることとなった。
