OpenAI 首次允许四家独立机构现场审计未发布模型
据 The Decoder 报道,OpenAI 首次允许四家独立审计机构直接接触其未发布模型、源代码和训练数据,已知机构包括 Apollo Research 和 METR。这些“嵌入式”审查旨在发现隐藏的不当行为和安全缺口。报道同时指出,OpenAI 可以删改或延迟审计报告,因此这项监督的实际独立性仍待观察。由于报道未引用 OpenAI 的原始公告,四家机构的具体身份和审计范围也尚未完全公开。
已证实与未证实
- 已证实: 据 The Decoder 报道,OpenAI 向包括 Apollo Research 和 METR 在内的四家独立机构开放了未发布模型、源代码和训练数据的直接访问权限,用于查找隐藏的不当行为和安全缺口。
- 尚未证实: 这篇报道未引用 OpenAI 的原始公告;“首次”的说法、另外两家机构身份、审计启动时间与范围、报告是否公开,以及 OpenAI 删改或延迟报告的权限细节,均只来自该报道。
背景
这并非一套全新机制:OpenAI 几天前已正式公布名为“嵌入式评估”(embedded assessments)的第一阶段计划,与 Apollo Research、METR、Transluce 和 Goodfire 四家独立机构签约,并明确承诺嵌入六名 Apollo 研究员,调查模型是否出现欺骗、隐藏目标等“颠覆性”行为(AI Daily Radar 11 月 16 日的日报曾报道)。The Decoder 的这篇报道是对该计划的跟进解读,重点补上了此前披露较少的一条限制:OpenAI 可以删改或延迟发布评估报告,因此这些审计的独立性仍有待观察。
为什么重要
对使用 OpenAI 模型的企业和监管者来说,这项安排目前不足以充当独立的安全认证:报道称 OpenAI 可删改或延迟报告,外部无法仅凭“已接受审计”判断模型风险。采购或合规评估应关注审计结论是否公开,以及删改范围是否披露。
后续看点
首批审计报告或审计方法说明是否公开发布,以及 OpenAI 是否会行使删改或延迟报告的权限。
评论
评论需要 GitHub 账号登录,会经过管理。 评论规则