OpenAI在ChatGPT限制青少年武器信息

OpenAI正收紧ChatGPT向青少年用户提供武器信息的限制,以防范潜在的现实世界暴力。新的安全措施包括在检测到用户沉迷暴力话题时自动终止对话,以及提升年龄预测能力。

资料图片:2026年10月19日创作的插图中展示的OpenAI标志和键盘。路透社/达多·鲁维奇/插图/资料图片

OpenAI将限制ChatGPT青少年用户的武器相关信息,即使提示词看似无害,也会限制提供实操细节。此次更新正值全球监管机构对AI聊天机器人如何处理青少年安全与威胁检测的审查日益严格之际。这些安全防护措施旨在通过限制获取敏感指引来防范现实世界中的暴力行为。