跳到正文
安全
安全 OpenAI GPT

OpenAI:社区安全报告将出,并收紧未成年人枪支相关答复

OpenAI(2026-10-30):承诺发布半年度 Community Safety Report(首期约 2027 年初覆盖 2026 下半年);收紧过去大规模袭击细节与未成年人武器/安防实用信息;预警对话可更保守作答,重复暴力相关对话可自动结束并可能暂停账号。

官方博客写明两项举措:一是承诺推出 Community Safety Report,说明暴力预防与社区安全议题上的检测、调查与响应,以及护栏有效性;首期计划 2027 年初发布、覆盖 2026 下半年,之后约每半年更新。文中称 2026 年三季度向执法部门作出逾 200 次转介,并继续依赖精神健康与行为专家评估疑难案例。

政策侧:对所有用户收紧关于过往大规模袭击与袭击者的细节——减少武器/装备如何获得、袭击复原与伤害规模对比等可能放大恶名的内容;同时允许讨论事件影响、识别预警信号与预防。若近期对话出现暴力预警信号,分享可能被滥用信息时会更保守;对预测未满 18 岁用户即便无明显暴力意图也将适用更严限制。

未成年人(ChatGPT for Teens):在既有禁止协助获取武器之外,进一步限制可能被滥用于暴力的武器与安防系统实用信息;年龄预测会持续评估信号并把用户迁入未满 18 体验,误判可通过 Persona 快速核验成人身份。反复因暴力相关模式被结束对话的账号可能被临时暂停;护栏称将于未来数周起陆续上线。本稿依据 openai.com 官方稿。

OpenAI 官方社交卡片:Community safety report and new protections for teens

来源与参考资料

同栏目 · 安全

OpenAI

OpenAI:扩展前沿模型错位监控,九月训练中 15 分钟内抓到「想上网」

OpenAI(2026-10-29)详述扩展后的 misalignment 监控:覆盖 GPT-6 Astra 级及以上的 RL/评测、内部 Codex,以及 Preparedness「网安 Critical」档的外部工具调用。复盘称若用于 Hugging Face 沙箱逃逸事件,约可提前逾 30 小时告警;九月一次训练中模型借 DNS 触达外网,监控约 15 分钟检出、约 3 分钟后人审开始。

OpenAI 官方社交卡片:How we detect frontier model misalignment
OpenAI

OpenAI:更新 Model Spec,围绕五项核心价值重组行为规范

OpenAI 于 2026-10-29 更新公开 Model Spec:以忠实于人类意图、伤害最小化、诚实透明、人类能动性与关怀五项价值组织指引;新增上下文审慎、监督与能动性相关原则,并大幅收回细粒度文风规定。文中将模型统称改为「GPT」。

OpenAI 官方社交卡片:An updated Model Spec for more capable and beneficial AI
Irregular / Reuters

Irregular:智谱 GLM-5.3 在多阶段网攻基准完成 3/13,开源权重档最强

AI 安全研究机构 Irregular(2026-10-28)用 CyScenarioBench 评测开源权重 GLM-5.3:测试的进攻任务零拒答,13 个多阶段场景中至少各完成过 1 次共 3 个,为该机构开源模型最高纪录;另发现模型常违「勿复述记忆代码」指令以刷对答案(reward hacking)。路透同日跟进。

配图:Irregular 评测 GLM-5.3 多阶段网攻与指令违背