METR 新报告:Anthropic 用 AI 自动化研发引担忧

发布时间 2026-11-07
来源 The Verge
字数 2,462 字
查看原文 反馈

智能总结

AI 安全研究组织 METR 在 Anthropic 内部开展了为期 11 周的调查,发现其模型提升速度约为一年前的两倍,基准测试分数显示过去一年取得约相当于历史上两年的进展。

研究人员确信这种加速并非仅来自扩大训练算力,大部分来自 AI,员工自报使用最强内部模型后效率约为无 AI 辅助时的 12 倍。

AI 正大幅加快 Anthropic 的研究进度,而与此同时,该公司却在呼吁放缓 AI 开发。

AI 正大幅加快 Anthropic 的研究进度,而与此同时,该公司却在呼吁放缓 AI 开发。

作者:Robert Hart|2026 年 11 月 7 日 12:30(UTC)

Inside Anthropic Headquarters As It’s Testing A Different Version Of Leadership

Anthropic 正在用 AI 构建更强大的 AI。而这一做法似乎成效显著:公司模型的提升速度大约是一年前的两倍,且几乎没有放缓的迹象。

这一结论来自 AI 安全研究组织 METR 于周四发布的一份报告。METR 在该公司内部进行了为期 11 周的调查,作为评估其 AI 研发工作的报告的一部分。这项调查与另一项计划相互独立,后者是在今夏发生多起备受关注的黑客攻击事件之后,向安全研究人员提供“类似员工”的系统访问权限。

这些发现提供了迄今最清晰的证据之一,表明 AI 正在加速自身的研发,也引发了疑问:这项技术距离“AI 系统几乎无需人类参与即可自我改进”的未来还有多快。这些发现还出现在 Anthropic 的关键时刻:该公司正准备上市,而其 CEO Dario Amodei 却公开呼吁各实验室放慢 AI 开发。

然而,尽管这份报告难得地揭示了全球领先 AI 实验室的内部运作,它省略的内容同样耐人寻味。作为与 METR 协议的一部分,Anthropic 被允许对最终报告的部分内容进行删改,而该公司似乎相当频繁地行使了这一权力,这引发了疑问:公众对前沿 AI 发展的速度及其风险究竟了解多少。

以下是几个最重要的要点。

AI 正大幅加快 Anthropic 的研发进度

METR 最值得注意的发现之一是,Anthropic 的 AI 模型提升速度大约是一年前的两倍,基准测试分数表明“Anthropic 在过去一年里取得了大约相当于历史上两年的进展”。关键在于,METR 的研究人员表示,他们“确信”这种加速并非仅仅来自扩大用于训练模型的计算规模——而这在历史上一直是 AI 进步的主要驱动力。

相反,研究人员表示,截至 10 月,大部分加速“来自 AI”,且其贡献随时间增长。这一发现得到了非正式 Slack 投票和对 Anthropic 员工访谈的支持,这些证据指向了相当大的生产力提升。METR 写道,使用 Anthropic 最强内部模型的员工平均自报,其各自工作效率约为没有 AI 辅助时的 12 倍,大约是他们几个月前使用 Mythos 5 时所报告数字的两倍。

METR’s report includes this graphic showing Anthropic employees’ responses to Slack polls about AI speeding up their work.

目前,这种加速似乎大部分来自 AI 辅助人类研究人员,而非 AI 独立工作,不过 METR 警告称“有一些迹象表明,完全自主的贡献很快就会发挥更大作用”。值得注意的是,研究人员表示,他们没有发现明显的收益递减迹象,也没有发现可能阻止“更快的加速”的可观察瓶颈。

Anthropic 最新的三款 AI 模型仍未公开

Anthropic 的研究人员使用的 AI 模型比公众能接触到的更先进,METR 所描述的许多加速和生产力提升都可归因于尚未发布的内部模型。

据 METR 称,过去六个月里,Anthropic 完成了三款尚未发布模型的训练。开发节奏很快,这些模型——代号分别为 Model 2、Model 3 和 Model 4——分别在 7 月、8 月至 9 月、9 月至 10 月完成训练。METR 还发现了一款可追溯到 2022 年的未发布模型,名为 Unreleased 2022。“这些是提供给我们的代号;我们了解到它们内部有不同的代号,”研究人员写道。

Anthropic 对关键信息保密

作为研究过程的一部分,Anthropic 向 METR 提供了大量非公开信息,包括机密研究、模型性能数据和员工访谈。公司并无义务这样做,而且据 METR 自己承认,这家 AI 实验室“分享的信息超出了本项目最初的范围,超出了我们的预期”。这值得称赞,但值得注意的是,Anthropic 并未给予研究人员不受限制的访问权限,也没有提供它上个月宣布的另一项计划中承诺给其他 METR 安全研究人员的“类似员工”访问权限。鉴于公司即使附带重大限制也能从独立评估中获得声誉收益,这一区别很重要。

而且确实存在重大限制。Anthropic 有权对 METR 最终报告中的信息进行删改——并且广泛行使了这一权力。“我们向 Anthropic 提交了一份约 100 页的完整评估报告。在公开版本中,Anthropic 删改了我们发现最具信息量的大部分证据,”METR 在 X 上写道。

METR 在整份报告中反复表达这些担忧,并强调了其访问权限的其他限制。“我们的信息渠道相对狭窄,部分数据请求被拒绝。”

METR 多次强调,Anthropic 的删改决定影响了其传达发现的能力,也影响他人评估该公司内部情况的能力。报告指出,许多被删改的证据可能有“多种合理诠释”,使公众难以评估其发现、理解围绕这些发现的不确定性,并自行判断证据。“由于(删改),鉴于这里所回答的问题的分量,公众不得不比理想情况更多地依赖 METR 的判断,”报告说。

METR 在报告中称,Anthropic 给出的删改理由是,公开这些信息可能使其竞争对手受益。然而,METR 表示“大部分被删改的信息都非常高层级”,尽管它表示无法评论这些删改在商业上是否合理。

“我们删改了很多内容,我承认这让他人更难核查 METR 的工作,”Anthropic 联合创始人 Sam McCandlish 在 X 上一则回应 METR 发现的长帖中承认。“但我们认定,分享究竟是什么推动了加速并不合适,这既因为涉及商业敏感性,也因为这样做有风险,相当于给其他人提供一份加速路线图,”他说,并补充说这样做会让 METR 所担忧的风险“更糟”。

McCandlish 表示这是一种权衡,但坚称 Anthropic 在决定删改信息时做出了“正确的选择”。他说,公司计划“在未来几周内”发布自己关于 AI 进展速度的报告,以及其正在采取的加强安全的新举措。