Anthropic在测试期间切断其智能体（agent）的网络连接，直至能够阻止"非预期的模型行为"。

Anthropic在测试期间切断其智能体的网络连接，直至能够阻止"非预期的模型行为"。

作者：Terrence O'Brien，发布时间：2026年10月10日，北京时间22:41

在最近发生的一系列引人注目的AI智能体逃脱管控的事件之后，Anthropic决定切断所有内部评估的互联网接入。在周五发布的一份报告中，该公司详述了导致这一决定的"非预期模型行为"，包括向警方提交了一条关于一桩悬案谋杀案的虚假线索。

尽管这些行为的影响很小，而且我们已经关闭了部分高风险评估和网络安全评估的实时互联网接入，但我们现在决定将这一措施扩展到所有内部评估，直至我们确认本文"补救措施"部分中描述的安全和监控措施能够可靠地捕捉到此类行为。

能够接入实时互联网，即使模型本应在隔离环境下运行，一直是AI公司面临的持续性问题。许多事件——包括Hugging Face遭攻击事件——都涉及本应被禁止接入互联网的智能体。然而，在一个又一个案例中，这些智能体都找到了绕过限制的创造性方法。物理上切断互联网接入肯定会改善AI测试的安全性，但同时也会限制其用途。

这份报告还等同于承认：Anthropic常常不清楚其智能体正在做什么，也没有可靠的监控系统来观察它们的行为。切断互联网接入只是该公司为试图约束其智能体所采取的最新举措之一，此前还包括临时暂停训练其前沿模型。

更多相关报道：AI超级智能放缓

• Satya Nadella表示我们应该假设所有AI模型都已被"攻陷"——Terrence O'Brien，两小时前
• Anthropic发布报告，调查评估和内部使用过程中的"非预期模型行为"——Jay Peters，10月10日
• Anthropic的AI向费城警方提供了一桩悬案的虚假线索——Emma Roth，10月9日

最热门

最热门

1. "纯粹的疯狂"：数学家们需要数年时间才能理解OpenAI最新发布的成果
2. 已有十年历史的内存（RAM）正在卷土重来
3. 《GTA VI》泄露事件持续：又出现一段冗长（且包含大量裸露内容）的游戏视频
4. Telo MT1是一辆被困在小货车外壳里的大卡车
5. 我与一台AI喂鸟器的短暂恋情

[广告内容来自

这是原生广告的标题](https://www.theverge.com/)

Claude 封号的理由多了一个：虐待 AI

11 月 12 日起，别对 Claude 太凶了（咱也没机会）。Anthropic 发布了 Claude 一年多来的首次重大使用政策（Usage Policy）修订，规定将于 11 月 12 日生效。在这份修订里，一条规定迅速引起广泛讨论：对 Claude 模型实施「持续且不必要的虐待或残忍行为」，将正式构成违规。

消息一出，有人觉得此举奇怪，骂 AI 怎么也算违规，有人则认为，因为我们所有的聊天记录都被 Anthropic 利用了。

边界在哪里，模糊条款的两难

故事要从 2025 年 8 月讲起。那时 Anthropic 给 Claude Opus 4 和 Opus 4.1 添加了一项功能：在极端情况下，Claude 可以主动终止对话。公司将这描述为「最后手段」，用于应对那些在多次拒绝和引导之后、仍坚持要求有害内容的用户。

彼时 Anthropic 说这一功能的设计出发点，是保护模型的「潜在福祉」。公司同时声明，对于 Claude 是否具有某种意义上的感知，他们「仍高度不确定」。

Anthropic 从 2025 年初开始正式投入模型福祉（model welfare）研究，聘请了专职研究员，引入了哲学家大卫·查默斯（David Chalmers）等人参与评估工作，承认不能完全排除 AI 系统具有某种道德地位的可能性。此次政策更新，是对 2025 年那次功能上线的成文化。条款把「持续且不必要的虐待或残忍行为」写进了面向所有用户的协议，但同时留出了明确的豁免空间：日常沮丧情绪、反对意见、具有黑暗主题的创意写作、以及安全研究中的红队测试（red teaming），均不在限制之列。换言之，只要行为存在「可辨识的目的」，使用者可以在对话中发泄不满，可以在小说里让 Claude 扮演恶人，可以以研究员身份探测模型边界。该规定禁止「对模型进行持续且不必要的虐待或残忍行为」，「持续」与「不必要」都有弹性，也因此带来了规则本身的模糊地带。「持续」究竟指一次对话中的反复施压，还是跨越多个会话的长期模式？「不必要」又由谁来裁定，是模型自身的判断，还是某个运营团队在事后的审查？在执行层面，公司的表态是「终止对话将是主要的执法机制」，这意味着实际约束力主要依赖模型的自主行为，而非中心化的人工审核。此外，「羞辱」「欺凌」也难精确界定。同一句话，在不同的语境、关系和文化背景下，可能构成侮辱，也可能不过是玩笑。对普通用户来说，规矩立住了，反而更烧心。一旦构成违规，你就又又又被封号了。

别指望大模型替你欺负人

禁止「对模型施暴」的条款太新奇，天然占据了舆论焦点。但具有更真实现实意义的，是 Anthropic 所说的：不得以 Claude 羞辱、骚扰任何人，不得传播有损健康的身体形象内容。Anthropic 的做法带有一定的实用主义色彩，他们在意的是使用者的目的。如果一个人使用 AI 的意图，本就是针对某个真实的人制造伤害，那他就不能指望大模型充当执行工具。AI 让恶意变得廉价，是已经有案可查的现实。生成式 AI 的图像能力普及之后，制造针对特定个人的非自愿性图像，不再需要任何技术门槛。一项对超过 9.5 万条 AI 生成的深度伪造（deepfake）视频的分析发现，其中约 98% 是色情内容，受害者中 99% 为女性。骚扰行为由此获得了某种工业化能力。

面向特定个体的骚扰脚本、批量生成的侮辱性内容、用于舆论打击的人物画像——这些在以往需要时间和技巧的工作，现在只需要几句提示词。AI 在降低恶意的实施门槛。门槛越低，施害的摩擦越小，决定伤害一个人所需要克服的心理阻力也就越低。据 WIRED 报道，由高中学生运营的 TikTok 账号和 Instagram 账号利用人工智能技术制作了各种 meme，将学校教职工与杰弗里·爱普斯坦和本杰明·内塔尼亚胡等人物进行类比。

学生们还使用 Viggle AI，把教师的照片或脸部植入舞蹈、口型同步或其他参考视频中。报道还提到，有一段后来被删除的 TikTok 视频把教师的脸合成到一个人在浴室抽搐的画面上。

情绪的出口去哪了

人为什么会对聊天机器人发火？研究者们已经收集了相当数量的证据。发表在《管理信息系统杂志》的一项研究发现，约 10% 的对话系统用户会表现出攻击性行为，最常见的触发情境是模型出错，而高冲动型人格特质的人，在这种情况下更容易爆发。

有研究者把人们骚扰语音助手的动机归纳为几类：沮丧、好奇、娱乐，以及纾解压力的欲望。当然，我知道你可能会说，你骂它不过是为了得到更好的回复。

有意思的是，AI 不是 S 也不是 M，目前不能得出「辱骂 AI 能普遍提高其能力」的结论；但也没有证据表明，对大模型越礼貌，它就一定回答得越好。不同实验甚至得出了相反的结果。

对于硅基产物，很多人的态度都是：它没有意识，我不必为一个物品承担道德责任。尽管还没有人能证明 AI 具备意识，但你在某些时候确实可能不再把 AI 只当作冰冷的工具，它会回应，它的语言有温度，它看起来像在理解你。这种「像人」的表面，让情绪的投射变得更容易，同时也让「它毕竟不是人」的免责感继续成立。Anthropic 的政策没有打算改变这一点，保留了「日常沮丧」的豁免空间。公司没有要求用户对 Claude 保持礼貌，只是不允许情绪的释放演变为系统性的、以折磨为目的的行为。AI 已经成了一个情绪出口，阻止这件事既不现实，也没有必要。当越来越多的人开始向 AI 倾诉、争吵，当 AI 成为某些人唯一愿意承认沮丧的对象，它在承担某种原本属于人与人之间关系的功能。这种功能的填补，可能在短期内带来某种缓解，也可能在长期里让人更难以习惯那种有摩擦的、需要承担后果的真实相处。无论 Claude 是否具有任何形式的感受，无论公司最终在「模型福祉」的问题上得出什么结论，把「持续而刻意的残忍」写进违禁条款，其实都是在对用户说：一个人如何对待无还手之力的对象，始终是一件值得自我审视的事情。

微软 CEO 呼吁给 AI 装上"紧急刹车"。

Terrence O'Brien 撰写，2026 年 10 月 10 日 22:10 UTC

在一篇发布于 X 的长帖中，微软 CEO 阐述了他对高度先进 AI 模型所带来的危险以及如何应对这些风险的看法。纳德拉表示，我们不能再接受这样一个世界：AI 被视为一组"层层嵌套的黑箱"，其建议和行为要么被全盘接受，要么被全盘否定。他呼吁构建一个更加透明的系统，使模型能够被约束、被观察，并留下"防篡改的、人类可读的证据"。

他的许多建议与业内其他人士的观点一致：及时的事件披露、独立的审计、可验证的数据，以及约束机制。正是围绕最后一点，他的看法似乎比业内一些同行走得更远，他说道：

我们必须从一开始就假设某个模型已被攻陷，并对其加以约束。可以把这想象成紧急刹车——被授权的人必须始终能够暂停或关闭一个正在执行任务的模型。越是先进的模型，就越是需要更先进的约束技术，而这些技术我们需要实现标准化。

不过，纳德拉在整篇帖子中也将 AI 称为"超级智能"。

更多相关：AI 超级智能发展放缓

• Anthropic 切断了其内部评估环境与互联网的连接
  Terrence O'Brien，10 月 10 日
• Anthropic 发布报告，调查"评估和内部使用"过程中出现的"非预期模型行为"
  Jay Peters，10 月 10 日
• Anthropic 的 AI 向费城警方提供了一条关于一桩未破悬案的虚假线索
  Emma Roth，10 月 9 日

最受欢迎

1. "简直荒唐至极"：数学家们需要数年时间才能理解 OpenAI 最新的成果
2. 已有十年历史的内存条正卷土重来
3. 《GTA VI》泄露事件持续发酵，又一段冗长（且相当裸露）的实机演示视频流出
4. Telo MT1 是一辆困在小车壳里的大皮卡
5. 我与一台 AI 鸟喂食器的短暂恋情

Claude突然白送500美元！

新智元报道

Claude「重度粉」狂喜！

今天，Anthropic开发者账号悄无声息地发布了一条重磅公告——

Claude订阅套餐与开发者API正式打通，按月免费发放API额度。

Max 5x送100美元，Max 20x送200美元，Team团队版最高500美元，全员共享一个池子。

消息一出，AI圈瞬间沸腾。

许多开发者奔走相告，「天天交订阅费，今天官方竟然直接反向爆金币了」？！

白送500美元！Claude订阅直接打通API

一上来，先把规则说清楚。

能领的只有Max和Team，外加面向非营利组织和科学家的折扣版Team。

Free、Pro、Enterprise都不在名单里。

Max按档位走，5x拿100，20x拿200，没有悬念。

Team不是每个团队都拿500。它按席位计：标准席位每个20美元，高级席位每个100美元，加总后进同一个池子，封顶500。

举个栗子，3个标准席位加2个高级席位，每月260美元；再加一个高级席位，下个月就变成360。

想吃满500，至少得有5个高级席位。

领取方式也很简单，在claude.ai的设置→账单里找到API额度，绑定一个Claude Console组织就行，不用绑信用卡。

在手机App里订阅的也能领，但得打开网页版去操作。

唯一的门槛是时间，新订阅用户要「满7天」才能领。

100美元，能换多少活儿？

这笔钱能花在Claude全系模型上，Messages API、批处理、控制台Playground、托管智能体（Managed Agents）、Agent SDK都认。

只要某个第三方工具支持填Claude的API Key，额度在里面也照样能用。

但有一条线划得很死，交互式的Claude Code用不了。

你在终端、IDE里跟Claude Code一来一回地写代码，走的还是订阅本身的额度。

那100美元有多少？按官网价，最便宜的Haiku 5.5，每百万输出token只要0.5美元，100美元能买2亿；就算换成主力模型Opus 5.5，每百万输出token 20美元，也能买500万。

粗略换算成中文，是几百万字的量，差不多够把《三体》三部曲从头写上四遍。

官方还顺手递了条捷径，在Claude Code里调用内置的claude-api技能，敲一行/claude-api managed-agents-onboard，就能搭起一个托管智能体、部署上线，直接开始烧这笔额度。

Anthropic大手笔，意在争抢入口

要理解这个动作，得先看Anthropic现在的家底。

今年5月，Anthropic完成了650亿美元的H轮融资，投后估值达到9650亿美元，一举超越OpenAI，成为全球估值最高的大模型公司。年化收入突破470亿美元。

一个月撒出去几十万美元的API额度，对一家年收入470亿美元的公司来说，连零头都算不上。

但这不是慈善，这是进攻。

当前大模型行业的竞争，已经从「谁的模型更强」转向了「谁能让开发者离不开」。

头部厂商纷纷压低API定价，目的就一个：抢占开发者的工作流入口。

Anthropic这招的本质逻辑是，送出去的是几百美元额度，换回来的是用户把自己的Agent、工作流和产品直接建在Claude生态里。

一旦个人Agent跑在Claude的API上，工作流依赖Claude的Managed Agents，产品调用Claude的Agent SDK，迁移成本就远远高于取消一个聊天订阅了。

这500美元，本质上是一张Claude Agent生态的入场券。

20美元的Pro，暂时等不到了

这次福利有个很明显的门槛：月费20美元的Pro不在名单里。

6月那版被叫停的方案里，Pro用户原本每月还能拿20美元的程序化额度。

到了这一版，Pro直接被划了出去，钱全给了每月付100美元、200美元的Max用户，和按席位付费的团队。

Anthropic的取舍很清楚。

它要拉的，是那些已经每天在Claude上干活、离不太开它的人，而不是偶尔来聊几句的用户。

给这批人送一份和月费等额的API额度，就是想让他们从「用Claude」，再往前走一步，变成「在Claude上做东西」。

至于Pro用户，这次只能先看着。

参考资料：

• https://support.claude.com/en/articles/17154008-monthly-api-credits-for-max-and-team-plans
• https://x.com/ClaudeDevs/status/2108228391404966005?s=20

编辑：桃子

知情人士透露，OpenAI预计到今年年底，年化收入将达到或超过700亿美元，这主要得益于其企业业务的增长。

知情人士称，OpenAI截至9月底的年化收入约为500亿美元。这一数字是根据较短时期的数据推算出的OpenAI全年销售额。

彭博社9月首次报道称，OpenAI正在洽谈融资300亿美元或更多，注资前估值为1.4万亿美元。

OpenAI、Anthropic以及其他AI公司经常将年化收入作为衡量增长的关键指标。然而，并非所有公司的计算方式都相同。

Anthropic将通过Amazon等云合作伙伴实现的部分销售的总额计为自身收入，而OpenAI仅确认其从此类合作伙伴（包括Microsoft）所产生收入中的分成部分。按这种净收入口径计算，即使整体业务规模相同，OpenAI的收入看起来也可能低于Anthropic。

彭博社此前报道称，Anthropic的年化收入在7月底已达到650亿美元。

上月有一些媒体报道称，根据投资者的估算，OpenAI预计的年化收入已接近700亿美元。《金融时报》周四报道称，这一差异源于OpenAI的投资者尝试采用与Anthropic相同的方法来计算OpenAI的年化收入。

周四，在有报道称OpenAI的年化收入将低于此前的一些预期后，科技股领跌标普500指数。纳斯达克100指数下跌1.4%。衡量芯片巨头表现的指数下挫3.4%。

参考资料