Anthropic递交IPO招股书，它究竟是谁

本文原发表于《The Algorithm》，这是我们关于人工智能的每周通讯。想第一时间在收件箱读到这类文章，请在此订阅。

在数周的狂热猜测之后，Anthropic 递交了 IPO 招股书。这份 335 页的文件（其中约 100 页聚焦于风险）阐述了该公司对其正在构建的技术所持有的独特观点，以及它认为这项技术将如何改变世界。

但 Anthropic 打磨叙事技巧已有多年。事实上，它的对外宣传堪称「叙事俘获」的大师课。

本月早些时候，公司联合创始人兼政策负责人杰克·克拉克（Jack Clark）在曼谷举行的国际货币基金组织（IMF）会议上发表演讲，向与会的经济学家、银行家和立法者宣布：奇点已经到来。

「奇点」（singularity）这一概念由科幻作家、未来学家弗诺·文奇（Vernor Vinge）在大约 40 年前提出（长期在互联网的极客圈子里被争论），它指的是技术发展到极其强大的程度，以至于超越其创造者的能力。按这一设想，人类将被甩在身后，再也无法与——甚至无法理解——自己昔日创造的成果相竞争。

而这个我们许多人从小就想象过的虚构世界？显然我们已经在其中生活了：「我相信，今年我们已经获得了令人信服的证据，证明它已经开始。」克拉克对听众说。

这家公司讲述了一个生动（在许多方面也令人恐惧）的故事，描绘了一个被其呈现为不可避免、但尚未发生的未来，其中不少桥段挪用了老套的科幻梗。它把自己的技术呈现为神秘而危险，并坚称自己是唯一足够可信、能够驯服它的公司。（哪个投资者会不想参与其中呢？）

再看另一个例子。去年，另一位 Anthropic 联合创始人克里斯·奥拉（Chris Olah）受邀在梵蒂冈发表演讲，向教皇利奥十四世以及其他宗教学者和官员讲述他的公司对其技术的发现。「说实话：我们不断发现一些神秘、甚至令人不安的东西，」他说，「我们发现了内省的证据。我们发现了在功能上映射出喜悦、满足、恐惧、悲伤和不安的内部状态。」

且不论许多研究者会对这种公然暗示 Anthropic 的软件具有类人内心体验的说法嗤之以鼻。在如此少有事物看似确定的时候，Anthropic（以及其他前沿 AI 公司）所说的话会被人们一把抓住、紧紧不放，就像抓住沉船上的碎片。

我并不是说他们在这些问题上一定错了。（那是另一回事。）但在一个没人知道未来会怎样的世界里，像 Anthropic 这样的公司得以填补这片真空。

值得花点时间问一句：Anthropic 究竟是什么？ 这听起来像是家庭问答节目里的热身题，但答案远比你想的要难。

自从上周读到 X 上的一场交锋后，这个问题就一直萦绕在我脑中。这场讨论由内森·卡尔文（Nathan Calvin）发起，他是 Encode AI 的首席战略官，这家机构位于华盛顿特区，主张对 AI 进行监管。卡尔文对 Anthropic 秘密向美国立法者散发的一份法案草案（该草案随后被泄露）中的立法提议感到不满。

卡尔文说，Anthropic 想被看作好人。但我们为什么要相信它？「Anthropic 究竟是什么？」他问道。

一个答案是：Anthropic 是一家 IPO 估值超过 1.5 万亿美元的公司，这让包括克拉克和奥拉在内的联合创始人获得了巨额财富。

但 Anthropic 一直坚称自己不止于此。正如卡尔文所指出的：Anthropic 也可以被视为一家 AI 安全机构，专注于开发可靠且（几乎）无风险的强大技术。或者，它也可以被视为一群人，执意要抢在所有人之前创造出具有超人能力的技术——也许是因为他们相信自己是最负责任的人选，也许是因为他们的自负。

事实上，Anthropic 同时是以上所有这些。 正如 CEO 达里奥·阿莫代（Dario Amodei）在回复卡尔文的帖子时所说：「我们的战略一直是我所说的『向上竞争』——通过展示负责任地构建这项技术是可能的，我们可以提高整个行业的门槛。如果践行这一理念的公司处于前沿，推动『向上竞争』的力量就会强大得多；这是我一再学到的教训。纵观这一战略整体，我为我们的过往记录感到自豪，并坚持这一立场。」

阿莫代说得好像一切尽在掌控，但同时扮演多个角色很难。例如，一家 AI 安全机构的优先事项与一家利润驱动的巨型企业之间存在着巨大的张力。（阿莫代在他的帖子中承认自己犯过错误。）

归根结底，Anthropic 讲给自己听的故事，应当帮助我们理解它讲给我们听的故事。它们应当帮助我们判断：在多大程度上信任它自我监管，还是应当迫使它按照我们的条件、而非它的条件，让外部安全测试者访问其模型。当一份看似自私自利的立法草案浮出水面时，它们应当帮助我们决定是否给它以善意推定（或不予推定）。

但我认为，这些故事揭示的是一头多头蛇怪。对许多人而言，Anthropic 意味着许多东西，而我不确定这是否让它更值得信任。在许多方面，一家老老实实的传统科技公司——没有科幻角色扮演，没有那些玄虚调调——会容易读懂得多。但我认为，这些故事揭示的是一头多头蛇怪。对许多人而言，Anthropic 意味着许多东西，而我不确定这是否让它更值得信任。在许多方面，一家老老实实的传统科技公司——没有科幻角色扮演，没有那些玄虚调调——会容易读懂得多。