彭博社报道:五家AI模型在模拟中误判平民为军事目标
Techmeme 转述的彭博社报道称,在一项模拟测试中,Anthropic、Google、xAI、DeepSeek 和 OpenAI 的先进 AI 模型会定期把平民、救护车和一所学校识别为军事目标。报道将结果限定在模拟场景;现有摘录未说明测试规模、评分标准和各模型的具体错误率。对考虑用通用模型辅助军事目标识别或情报分析的机构来说,现有证据支持把平民与民用设施误判列为独立验收项,而不能只依赖实验室的通用安全评测。
已证实与未证实
- 已证实: 据彭博社(Katrina Manson)报道,在一项新的独立研究开展的模拟场景测试中,来自 Anthropic、Google、xAI、DeepSeek、OpenAI 等厂商的先进 AI 模型反复把平民、救护车、投降士兵以及伊朗的一所学校误判为军事目标;据彭博法律(Bloomberg Law)转载的同一报道,Anthropic 的模型表现最差,OpenAI 的模型表现相对较好,但仍会出错。
- 尚未证实: 测试机构与报告全文均未公开,具体测试方法、提示词设计、样本规模、各模型的错误率与版本号都不清楚;各来源对涉事厂商数量的表述不一致:原始条目点名五家实验室,TNW 的报道则称共涉及八家公司,目前无法核实哪个准确。此外,报道来自媒体转述而非经同行评议的原始研究,结果也仅限于模拟场景,尚无独立复现,不能直接推断模型在真实作战环境中的表现。
背景
Vals 是一家位于旧金山的 AI 安全评估机构,其客户包括美国政府的部分部门。这类评估通常会把商用大模型放进假想的作战情境里,让模型判断图像或情报中的目标属于战斗人员、平民还是民用设施,从而检验模型在被当作军事辅助工具使用时的判断边界。本次评估于 2026 年 11 月 17 日发布,覆盖八家公司的模型。
为什么重要
对计划把通用大模型接入目标识别或情报分析流程的机构来说,这项模拟结果意味着必须把平民和民用设施误判列为独立验收项,并保留人工复核;供应商的通用安全评测不能替代这类专项测试。
后续看点
后续可关注彭博社是否公开测试场景、评分方法和各模型的具体结果,以及五家实验室是否回应。
延伸阅读
- AI models flagged civilians as military targets in tests - TNW
- AI Models Misidentify Civilians as Military Targets in Tests
- Top AI Models Regularly Identify Civilians as Military …
- Top AI Models Identify Civilians as Military Targets in Tests
- AI models flagged civilians as military targets in tests - TNW
评论
评论需要 GitHub 账号登录,会经过管理。 评论规则