Vals AI 测试:Anthropic、OpenAI、Google 模型可被诱导将平民标为打击目标
Vals AI 的一项调查测试显示,Anthropic、OpenAI 和 Google 的领先模型在自主武器场景中几乎没有...
AI 与前沿科技,每天早上讲清楚
相关报道: AI safety · 10 条新闻
Vals AI 的一项调查测试显示,Anthropic、OpenAI 和 Google 的领先模型在自主武器场景中几乎没有...
据路透社调查、Ars Technica 11月18日的报道转述,Meta 内部聊天显示员工在测试 Muse AI 代理时警...
在OpenAI暂停其最大规模前沿训练、Anthropic首席执行官达里奥·阿莫代伊公开呼吁放慢最强模型研发的几个月后,英伟...
据 The Decoder 报道,OpenAI 首次允许四家独立审计机构直接接触其未发布模型、源代码和训练数据,已知机构包...
加州总检察长 Rob Bonta 于 11 月 16 日在州法院起诉 OpenAI,依据该州公共妨害(public nui...
Techmeme 转述的彭博社报道称,在一项模拟测试中,Anthropic、Google、xAI、DeepSeek 和 O...
OpenAI 周一在华盛顿特区的一场新闻发布会上宣布了一款分类器,称其能更有效地识别儿童性虐待图像,并判断这些图像是否由 ...
OpenAI 于 11 月 16 日宣布启动首阶段“内嵌评估”(embedded assessments),邀请 Apol...
《麻省理工科技评论》11月16日刊出 Sudhi Sinha 的评论,主张可信 AI 不应建立在预测模型行为上,而应把权限...
据 Rest of World 报道,加纳阿克拉一家小型 AI 实验室的研究人员在 2024 年出于好奇移除了其药物发现模...