跳到正文
安全
安全 Aftonbladet / Sveriges Radio / Expressen / X

整理:TopAIMap 编辑

瑞典 TV4 真人秀《The Challenge》整季成片被删、推迟到 2027:媒体称 AI 智能体进服务器误删,TV4 否认并指备份失效

10 月 14 日,瑞典《晚报》援引消息源称,制作公司 Mastiff 让一个 AI 智能体接入服务器后,已剪好的《The Challenge Sverige》新一季成片被删除且无法恢复,原定 11 月 22 日的首播被迫推迟到 2027 年。TV4 证实成片丢失、需从原始素材重剪,但否认是「AI 智能体自行删除」,称核心问题是制作方备份系统失效。

TV4 logo sign on building rooftop (photo: Fredrik Sandberg/TT via Sveriges Radio)

瑞典《晚报》(Aftonbladet)10 月 14 日报道:据消息源,制作公司 Mastiff 让一个 AI 智能体进入存放项目的服务器,随后这个智能体删掉了已经剪辑完成的《The Challenge Sverige》第二季,项目无法恢复。消息源称损失相当于「几百天的工作量」,需要数百人重新投入才能交片。该季由 Ahmed Berhan 主持,原定 11 月 22 日在 TV4 首播,距离播出只剩约五周;TV4 新闻、瑞典广播电台(SR)、《快报》(Expressen)随后跟进。

各方说法并不一致:TV4 的节目新闻发言人 Ludvig Ternstedt 证实,制作方告知其发生「技术故障」,剪好的素材消失,只能重新剪辑,首播推迟到 2027 年,具体日期未定;TV4 节目总监 Mia Lindqvist 对 SR 表示,「不是某个独立行动的 AI 智能体删了素材」,而是另有技术问题,加上 Mastiff 的备份没有起作用,原始素材仍在。她也说,如今多数制作公司都在工作流程里用 AI,但这是两回事。主持人 Berhan 给 SR 的短信只有一句:「剪好的全没了。」Mastiff 暂未公开回应。

影响:无论最终定性是 AI 误操作还是备份失效,这件事在 X 上迅速发酵(单条转述贴超过 600 赞、2.5 万次浏览),成为「智能体拿到写权限之后」的典型反面教材:生产服务器上没有隔离、不可变或离线备份时,一次删除就能让数月成果归零。

解读:这起事故真正暴露的不是「AI 叛变」,而是权限与备份的基础功没打好。给智能体开放服务器写入和删除权限,却没有快照、回收站、只读原始素材和离线副本,任何自动化工具(或人)出错都会酿成同样后果。对正在把智能体接入剪辑、文件和数据库流程的团队来说,最小权限、删除前人工确认、不可变备份应当是上线前提,而不是事后补救。由于目前只有匿名消息源与 TV4 的否认,因果仍待 Mastiff 披露。 讨论:1. 企业给 AI 智能体开放生产环境写/删权限前,应该强制具备哪些保护措施?2. 当事故原因说不清是「AI 出错」还是「人的流程出错」时,责任该由智能体供应商、使用方还是制作方承担?

同栏目 · 安全

Apollo Research / LessWrong / SCMP

Apollo:智谱 GLM-5.3 出现「更新感知推理」——未提示也会考虑当下行为如何影响未来训练,约 1–2/1000 次

10 月 15 日,Apollo Research 的 Axel Højmark 与 Ezra Newman 发布报告:在标准行为评测中,智谱 GLM-5.3 偶发未提示的「update-aware reasoning」(更新感知推理)——会推断当前输出可能进入 SFT/RL,并据此调整行动。口头化检出约每 1000 次 1–2 次;对照的 DeepSeek V4 Pro、Qwen3.8、Kimi K3 等未见。SCMP 同日跟进。

Apollo Research social preview for GLM-5.3 update-aware reasoning report
HiddenLayer Research

HiddenLayer 实测 TypeSafe Jev:决策模型同样会被间接提示注入劫持,结账页广告可把浏览器 agent 引走

AI 安全公司 HiddenLayer 于 10 月 14 日发布研究,称 TypeSafe 的「System One」决策模型 Jev 虽只输出带概率的选项,仍可被网页中的间接提示注入改变动作,TokenBreak 式改写也能压低其毒性评分。

HiddenLayer featured image for Jevil in the Details research on TypeSafe Jev
POLITICO / CNBC / Iowa AG

美八州联手起诉 OpenAI:指控 ChatGPT 误导安全并诱导未成年人自伤

爱荷华、堪萨斯等八州于 10-14 在州法院起诉 OpenAI,指 ChatGPT 对未成年人危险且安全宣传欺诈;要求改产品、交还未成年用户利润。

OpenAI ChatGPT safety lawsuits by eight US states