2026年11月19日 更新于 往期简报 收藏 EN
AI 每日雷达

AI 与前沿科技,每天早上讲清楚

已宣布

OpenAI 启动首批内嵌评估:Apollo、METR 等四家机构参与

图片: Norman_Gil / Pixabay

OpenAI 于 11 月 16 日宣布启动首阶段“内嵌评估”(embedded assessments),邀请 Apollo Research、METR、Transluce 和 Goodfire 四家外部机构进入内部,独立评估其模型的对齐情况、防护措施与监控系统。随公告发布的报道摘要称,Apollo Research 将有六名评估人员常驻,重点调查模型是否表现出“颠覆性行为”(subversive behavior,即模型在评估中刻意隐藏真实能力或意图)。OpenAI 没有公布评估覆盖哪些模型、时间表或任何结论,报道同时指出,访问权限与披露方面的限制令外界质疑这些评估的独立性。

已证实与未证实

  • 已证实: OpenAI 宣布与 Apollo Research、METR、Transluce 和 Goodfire 启动首阶段“嵌入式评估”,评估范围包括模型对齐、防护措施和监控系统;OpenAI 还表示将嵌入六名 Apollo Research 评估人员,调查模型是否存在颠覆性行为。
  • 尚未证实: 评估所涉具体模型、时间表、各合作方的访问权限和披露条件均未公布,首阶段也尚无评估结果;这些评估能否被视为“独立”仍待观察,因为随附摘要提到,访问与披露限制引发了对独立性的疑问。

背景

“嵌入式评估”(embedded assessments)指外部研究机构的人员进入实验室内部,在模型发布前后获得超出公开 API 的访问权限,对模型的对齐性、安全防护与监控系统做独立检查。这类合作的关键条件通常是访问深度与披露自由度:评估方能否看到模型的内部状态、能否公开发表结论。此次 OpenAI 点名 Apollo Research、METR、Transluce 与 Goodfire 四家机构,其中 Apollo Research 将派出六名评估员,专门调查模型是否出现“颠覆性行为”(subversive behavior);但据转述,相关安排对访问与披露设有一定限制,这也是外界质疑其独立性的焦点。

为什么重要

对关心模型安全的开发者和研究者来说,这次变化的关键在于评估方式从“实验室外的红队测试”转向“进入实验室内部”;如果评估方真能接触训练与监控接口,Apollo 等机构就首次有条件检验 OpenAI 的监控系统能否发现模型在评估中隐藏意图。但报道提到的访问与披露限制意味着,在这些条款公开之前,外界无法判断结论覆盖了哪些系统,读到结果时应先确认评估范围与权限说明。

后续看点

接下来可核查的是首批评估结论或报告是否公开发布,以及 OpenAI 与四家机构是否披露访问范围和披露权限的具体条款;这两点决定了外界能否独立判断评估的实际分量。

本事件的相关报道

评论

评论

评论需要 GitHub 账号登录,会经过管理。 评论规则

更多 人工智能

查看全部