2026年11月19日 更新于 往期简报 收藏 EN
AI 每日雷达

AI 与前沿科技,每天早上讲清楚

已宣布

OpenAI 首次允许四家独立机构现场审计未发布模型

图片: Dietmar Rabich / Wikimedia Commons · CC BY-SA 4.0,已裁剪

据 The Decoder 报道,OpenAI 首次允许四家独立审计机构直接接触其未发布模型、源代码和训练数据,已知机构包括 Apollo Research 和 METR。这些“嵌入式”审查旨在发现隐藏的不当行为和安全缺口。报道同时指出,OpenAI 可以删改或延迟审计报告,因此这项监督的实际独立性仍待观察。由于报道未引用 OpenAI 的原始公告,四家机构的具体身份和审计范围也尚未完全公开。

已证实与未证实

  • 已证实: 据 The Decoder 报道,OpenAI 向包括 Apollo Research 和 METR 在内的四家独立机构开放了未发布模型、源代码和训练数据的直接访问权限,用于查找隐藏的不当行为和安全缺口。
  • 尚未证实: 这篇报道未引用 OpenAI 的原始公告;“首次”的说法、另外两家机构身份、审计启动时间与范围、报告是否公开,以及 OpenAI 删改或延迟报告的权限细节,均只来自该报道。

背景

这并非一套全新机制:OpenAI 几天前已正式公布名为“嵌入式评估”(embedded assessments)的第一阶段计划,与 Apollo Research、METR、Transluce 和 Goodfire 四家独立机构签约,并明确承诺嵌入六名 Apollo 研究员,调查模型是否出现欺骗、隐藏目标等“颠覆性”行为(AI Daily Radar 11 月 16 日的日报曾报道)。The Decoder 的这篇报道是对该计划的跟进解读,重点补上了此前披露较少的一条限制:OpenAI 可以删改或延迟发布评估报告,因此这些审计的独立性仍有待观察。

为什么重要

对使用 OpenAI 模型的企业和监管者来说,这项安排目前不足以充当独立的安全认证:报道称 OpenAI 可删改或延迟报告,外部无法仅凭“已接受审计”判断模型风险。采购或合规评估应关注审计结论是否公开,以及删改范围是否披露。

后续看点

首批审计报告或审计方法说明是否公开发布,以及 OpenAI 是否会行使删改或延迟报告的权限。

延伸阅读

评论

评论

评论需要 GitHub 账号登录,会经过管理。 评论规则

更多 人工智能

查看全部