Anthropic 将零知识证明技术运用至 AI 推理，防止模型被“掉包”

ChainCatcher 消息，Anthropic 开源了 FlashProve，把加密货币领域常用的 zkSNARK（零知识证明）技术搬到了 AI 模型推理中。

这项技术原本可以在不公开交易细节的情况下，证明区块链交易有效。Anthropic 想用它解决另一个问题：用户花高价购买某款 AI 模型的 API，怎么知道服务商有没有偷偷换成便宜模型？

FlashProve 让服务商先为模型权重生成加密指纹，再为推理结果提供数学证明。用户无需获取模型权重，也不用重新运行模型，就能检查指定输出是否来自预先承诺的那组权重。Claude 也参与了这套系统的研发和优化。

Anthropic 已经在 Meta 的 4000 亿参数模型 Llama 4 Maverick 上完成实验。每处理 1024 个 token 的上下文，生成的证明约有 19 MB，普通 CPU 验证需要约 17 秒。

不过，目前每份证明只能核验一个输出 token，还无法验证整段回答。生成证明所需的 GPU 计算时间，也达到普通推理的约 70–95 倍。以后能不能靠它揪出偷偷换模型的 API 服务商，还得看证明成本什么时候能降下来。