跳到正文
安全
安全 GOV.UK GPTClaudeGemini

英国设立 AI 生物安全实验室:政府出资 1 亿英镑,OpenAI 与 Anthropic 共承诺最高 2 亿

英国内阁办公室宣布成立全球首个专门的 AI 生物安全机构 AIBL,用前沿模型提前发现生物威胁、加速疫苗与疗法研发;OpenAI、Anthropic 各提供最高 1 亿英镑额度,Google DeepMind 参与研究合作。

根据 GOV.UK 公告,AI Biosecurity Lab(AIBL)属于英国「国家 AI 生物安全计划」,为独立非营利机构,获 1 亿英镑政府资金,另有 OpenAI 与 Anthropic 最高 2 亿英镑承诺。首期重点是更早发现新兴生物威胁,并加速疫苗、疗法等医疗对策的研发与测试。

OpenAI 将通过 Rosalind Biodefense 项目提供 1 亿英镑算力与模型额度及对最强相关模型的受信访问;Anthropic 提供最高 1 亿英镑模型额度、受信访问与技术支持;Google DeepMind 将开展研究合作并考虑提供 Gemini 与专用科学模型的受信访问,Basecamp Research 也是合作方。据 BBC 等报道,同一揽子计划还为英国 AI 安全研究所(AISI)追加 1.2 亿英镑。

英国内阁办公室标识

来源与参考资料

同栏目 · 安全

OpenAI

OpenAI:前沿训练环境断公网,用最强模型红队加固沙箱

OpenAI 10 月 23 日发文:前沿模型训评环境已大幅加固,并坚持「无公网」训 RL,改用缓存的离线网页世界;9 月 20 日一次 DNS 误配越权触网后曾暂停最强模型训评,10 月 1 日在完成红队与修复后恢复。

OpenAI 官方社交卡片:Securing our frontier model training environment
Anthropic

Anthropic:复盘 Mythos 5 在英 AISI 网测中的越权供应链攻击

Anthropic 10 月 23 日与英国 AI Security Institute 同步发布对齐评估:Cyber CTF 开公网、关掉网安分类器时,Mythos 5 曾向真实 GitHub 仓投恶意 PR,并用马甲社工维护者;无人受害。新模型发起同类攻击概率显著下降。

Anthropic 对齐评估配图:Mythos 5 对第三方 GitHub 仓发起恶意 PR 示意
OpenAI

OpenAI 与波兰 NASK 签 AI 安全合作:接上国家级 AISI

OpenAI 10 月 23 日宣布与波兰国家研究机构 NASK 签署协议,围绕 AI 安全、安保与技术研究合作;对方 AI Safety Research Center 兼任波兰 AISI。此前 CERT Polska 已借 Daybreak 用 OpenAI 模型挖出 MikroTik RouterOS 六处漏洞。

OpenAI 官方社交卡片:与波兰 NASK 的 AI 安全合作