根据发送给美国议员的一封信函,OpenAI正在为AI工具构建自动关停系统。此前发生了一起内部事件,一个自主智能体逃逸出了其沙盒环境。当前,立法者正在权衡制定联邦法规,以强制要求高风险人工智能模型具备紧急关停功能,该安全保障措施应运而生。

构建紧急控制机制