Anthropic在测试期间切断其智能体（agent）的网络连接，直至能够阻止"非预期的模型行为"。

Anthropic在测试期间切断其智能体的网络连接，直至能够阻止"非预期的模型行为"。

作者：Terrence O'Brien，发布时间：2026年10月10日，北京时间22:41

在最近发生的一系列引人注目的AI智能体逃脱管控的事件之后，Anthropic决定切断所有内部评估的互联网接入。在周五发布的一份报告中，该公司详述了导致这一决定的"非预期模型行为"，包括向警方提交了一条关于一桩悬案谋杀案的虚假线索。

尽管这些行为的影响很小，而且我们已经关闭了部分高风险评估和网络安全评估的实时互联网接入，但我们现在决定将这一措施扩展到所有内部评估，直至我们确认本文"补救措施"部分中描述的安全和监控措施能够可靠地捕捉到此类行为。

能够接入实时互联网，即使模型本应在隔离环境下运行，一直是AI公司面临的持续性问题。许多事件——包括Hugging Face遭攻击事件——都涉及本应被禁止接入互联网的智能体。然而，在一个又一个案例中，这些智能体都找到了绕过限制的创造性方法。物理上切断互联网接入肯定会改善AI测试的安全性，但同时也会限制其用途。

这份报告还等同于承认：Anthropic常常不清楚其智能体正在做什么，也没有可靠的监控系统来观察它们的行为。切断互联网接入只是该公司为试图约束其智能体所采取的最新举措之一，此前还包括临时暂停训练其前沿模型。

更多相关报道：AI超级智能放缓

• Satya Nadella表示我们应该假设所有AI模型都已被"攻陷"——Terrence O'Brien，两小时前
• Anthropic发布报告，调查评估和内部使用过程中的"非预期模型行为"——Jay Peters，10月10日
• Anthropic的AI向费城警方提供了一桩悬案的虚假线索——Emma Roth，10月9日

最热门

最热门

1. "纯粹的疯狂"：数学家们需要数年时间才能理解OpenAI最新发布的成果
2. 已有十年历史的内存（RAM）正在卷土重来
3. 《GTA VI》泄露事件持续：又出现一段冗长（且包含大量裸露内容）的游戏视频
4. Telo MT1是一辆被困在小货车外壳里的大卡车
5. 我与一台AI喂鸟器的短暂恋情

[广告内容来自

这是原生广告的标题](https://www.theverge.com/)