rocq

ChainCatcher 消息，人工智能公司 Anthropic 旗下 Frontier Red Team 于 10 月 22 日发布研究，称大语言模型已能在更大规模上自动撰写形式化证明。团队与 Theorem 合作，使用 Claude 在 RISC-V 汇编层对超过 100 个真实开源库证明安全性质，并称这是已知首次用 AI 在汇编层对生产软件做大规模形式化验证。写证明过程中还发现了多年未被发现的漏洞。实验将 Google OSS-Fuzz 中已有的可编译 fuzz 测试转为规格：在单线程静态二进制、固定内存预算、RISC-V CPU 与 Linux 等假设下，对小于 64 MB 的任意输入，程序应正常退出且不触发内存安全错误或断言失败。数周内，Claude 在修补所发现问题后，对 123 个 OSS-Fuzz 库中的 239 个入口点证明了上述性质。证明针对编译后的 RISC-V 指令，约 1.8 亿行 Rocq，并由 Rocq 内核检查。页面称，这并不等于这些库没有漏洞，剩余问题可能位于受信任组件或证明范围之外。页面还称，团队让 Claude 形式化 RFC 1950，并在 x86 二进制层证明 Linux 内核中的 zlib 实现符合该规格；用 Rust 编写覆盖 Python 大子集的解释器，对超过 170 万个随机生成程序与 CPython 行为一致的比例为 99.95%。在 36 个小型验证任务上，Opus 5.5 证明其中一半所需 token 比 Opus 5 少约 40%。团队同时指出，证明针对单线程、静态链接的 RISC-V 二进制，且证明检查器不能判断规格是否符合现实。