Anthropic 开源 FlashProve：可核查回复究竟出自哪个 AI 模型
Anthropic 刚刚开源了 FlashProve，让你可以核查一条回复究竟是由哪个 AI 模型写出的。
它做什么
FlashProve 用于验证 AI 生成内容的模型来源：给定一段模型输出，它可以判断这段文本更可能由哪个模型生成，从而帮助识别模型冒充、内容溯源与合规审计等场景。
支持状态
项目处于开源早期阶段，接口与实现可能随社区反馈持续调整。
快速开始
按照仓库说明克隆项目并安装依赖，即可运行验证示例，对给定文本执行模型来源核查。
技术栈
项目以开源仓库形式发布，具体依赖与运行方式请参见仓库中的安装与使用说明。
可在普通 CPU 上检查。
例如，如果你通过第三方转售商付费使用顶级 AI 模型，你无法核实它是否悄悄换成了更便宜的模型来应答。Anthropic 的 FlashProve 让服务器能够以数学方式证明究竟是哪个模型作出的回答。
Anthropic 在 Meta 的 Llama 4 Maverick（一个 400B 参数的大型开源模型）上进行了测试，在单块 Nvidia H100 GPU 上，它以 110 tokens/秒 的速度生成证明，每个证明约 19MB。
普通 CPU 检查每份证明约需 17 秒，而此前已知唯一能为该模型生成证明的系统 VerInf，生成的证明高达 93.6GB，检查耗时将近一天。
Claude 构建了该系统，而由于其代码难以审计，安全保证已在 Lean 4 这一证明检查语言中以数学方式得到证明。
Anthropic@AnthropicAI
Anthropic 新研究：大语言模型可证明推理的进展。
FlashProve 简介
本文介绍 FlashProve。FlashProve 建立在成熟的密码学技术之上，使开发者能够验证某个给定响应是否来自某个给定的 AI 模型。相比此前用于实现这一目的的开源方法，它的效率要高得多。
这些证明有多种用途。例如，它们可以增大攻击者劫持聊天记录的难度，或者让安全评估人员能够验证他们正在测试的模型与向客户提供服务的模型是同一个。
完整的简体中文 Markdown 正文
关于可证明推理（provable inference）的进一步进展，很可能将成为提升 AI 部署可信度的重要组成部分。为此，我们在此开源 FlashProve 的代码：
（原文到此结束，未提供更多章节内容。）
我们感谢以下合作者：Alessandro Chiesa、@GiacomoFenzi、@gwberg95、@miranda__christ、Rahul Dalal 以及 Ben Mayer（@transmissions11）。