OpenAI对青少年询问枪支问题增设更严格限制

OpenAI正在收紧青少年用户通过ChatGPT获取武器相关信息的权限，即便提问看起来“人畜无害”也不例外。该公司在最新公告中表示，现有政策已经禁止ChatGPT协助用户实施暴力行为、或帮助青少年接触武器，但为了进一步堵住漏洞，将针对青少年账号限制那些“可能被滥用于助长暴力的武器和安全系统实用信息”，哪怕对话中没有流露出任何暴力意图。与此同时，青少年仍然可以用ChatGPT咨询如何预防或缓和暴力冲突、寻求心理支持以及联系可信赖的成年人。 这一轮限制并不只针对青少年。OpenAI同步收紧了面向全体用户的政策边界，重点盯防几类提问：对过往大规模袭击事件的“复盘”，包括所用武器装备的细节、获取途径，以及对不同事件伤害规模的详细比较——公司认为这类内容可能放大袭击者的恶名。新规将与去年上线的家长控制功能配合运行：当关联的青少年账号触犯与暴力威胁、暴力行为相关的ChatGPT政策时，系统会向家长发送通知。这一系列动作的背景是，OpenAI去年因一起过失致死诉讼被起诉，其CEO山姆·奥特曼今年也因未能就Tumbler Ridge枪击案相关的异常聊天记录及时报警而公开道歉。OpenAI还透露，将于2027年初发布首份社区安全报告，此后每半年更新一次。对跨境电商和AI从业者而言，这释放出一个明确信号：主流大模型平台正在把未成年人保护和暴力内容管控从“事后补救”推向“事前设限”，涉及AI内容审核、 parental controls（家长控制）以及合规风控的产品设计，都需要提前把这些边界纳入考量。