OpenAI、AIの不正挙動を報告へ

OpenAIは、AIの不正な挙動に関する報告書の定期公開を開始し、過去6件の事例を開示するとともに、アライメントの課題が依然として存在すると警告しました。新たなフレームワークは、セキュリティ侵害には至らない自律型エージェントのインシデント報告を迅速化することを目的としています。この動きは、モデルの性能が向上する中で研究機関が適切な監視を維持できるかについて厳しい目が向けられる中で行われました。