BTC $81,439.33 -0.11%
ETH $2,400.92 +0.18%
BNB $747.86 +2.41%
XRP $1.31 -1.03%
SOL $104.35 -0.09%
TRX $0.3296 -0.16%
DOGE $0.0798 +1.04%
ADA $0.2145 +0.40%
BCH $284.87 +4.00%
LINK $11.99 +0.23%
HYPE $78.12 +0.40%
AAVE $146.82 -0.20%
SUI $0.9868 +0.81%
XLM $0.1760 -0.20%
ZEC $1,234.17 +0.18%
AAPL $348.43 +0.89%
AMZN $249.45 -1.08%
GOOGL $323.87 -1.18%
MSFT $525.69 +0.19%
META $645.66 -2.01%
NVDA $212.52 -0.37%
TSLA $374.79 -2.26%
SNDK $1,280.68 +0.11%
INTC $87.06 +0.08%
SPCX $147.51 -1.90%
MU $886.05 +1.55%
AMD $519.36 +1.32%
BTC $81,439.33 -0.11%
ETH $2,400.92 +0.18%
BNB $747.86 +2.41%
XRP $1.31 -1.03%
SOL $104.35 -0.09%
TRX $0.3296 -0.16%
DOGE $0.0798 +1.04%
ADA $0.2145 +0.40%
BCH $284.87 +4.00%
LINK $11.99 +0.23%
HYPE $78.12 +0.40%
AAVE $146.82 -0.20%
SUI $0.9868 +0.81%
XLM $0.1760 -0.20%
ZEC $1,234.17 +0.18%
AAPL $348.43 +0.89%
AMZN $249.45 -1.08%
GOOGL $323.87 -1.18%
MSFT $525.69 +0.19%
META $645.66 -2.01%
NVDA $212.52 -0.37%
TSLA $374.79 -2.26%
SNDK $1,280.68 +0.11%
INTC $87.06 +0.08%
SPCX $147.51 -1.90%
MU $886.05 +1.55%
AMD $519.36 +1.32%

anthropic

Anthropic 是一家人工智能安全和研究公司,专注于开发更安全和可控的人工智能系统。成立于 2021 年,Anthropic 致力于通过研究和技术开发,确保人工智能技术的透明性和可靠性,减少潜在的风险和负面影响。该公司由 OpenAI 的前员工创立,旨在推动 AI 领域的伦理和安全标准。
全部
文章
快讯

first_img Anthropic:Claude 已大规模形式化验证开源库

ChainCatcher 消息,人工智能公司 Anthropic 旗下 Frontier Red Team 于 10 月 22 日发布研究,称大语言模型已能在更大规模上自动撰写形式化证明。团队与 Theorem 合作,使用 Claude 在 RISC-V 汇编层对超过 100 个真实开源库证明安全性质,并称这是已知首次用 AI 在汇编层对生产软件做大规模形式化验证。写证明过程中还发现了多年未被发现的漏洞。实验将 Google OSS-Fuzz 中已有的可编译 fuzz 测试转为规格:在单线程静态二进制、固定内存预算、RISC-V CPU 与 Linux 等假设下,对小于 64 MB 的任意输入,程序应正常退出且不触发内存安全错误或断言失败。数周内,Claude 在修补所发现问题后,对 123 个 OSS-Fuzz 库中的 239 个入口点证明了上述性质。证明针对编译后的 RISC-V 指令,约 1.8 亿行 Rocq,并由 Rocq 内核检查。页面称,这并不等于这些库没有漏洞,剩余问题可能位于受信任组件或证明范围之外。页面还称,团队让 Claude 形式化 RFC 1950,并在 x86 二进制层证明 Linux 内核中的 zlib 实现符合该规格;用 Rust 编写覆盖 Python 大子集的解释器,对超过 170 万个随机生成程序与 CPython 行为一致的比例为 99.95%。在 36 个小型验证任务上,Opus 5.5 证明其中一半所需 token 比 Opus 5 少约 40%。团队同时指出,证明针对单线程、静态链接的 RISC-V 二进制,且证明检查器不能判断规格是否符合现实。

Anthropic 拟最快 11 月中旬上市,市场讨论估值约 1.5 万亿美元

ChainCatcher 消息,人工智能公司 Anthropic 计划最快于 11 月中旬上市,市场讨论给予约 1.5 万亿美元 IPO 估值,较今年 5 月 9650 亿美元融资估值高出约 55%。按该潜在估值测算,Spark Capital 于 2023 年投资 7500 万美元,持股价值可能约 109 亿美元,当年估值约 50 亿美元并获董事会席位,为目前唯一已知拥有董事席位的风投。Sound Ventures 首笔投资 3500 万美元后追加 4 亿美元,由 Guy Oseary 与 Ashton Kutcher 共同创办并于 2023 年入场,持股价值达数十亿美元。Menlo Ventures 累计投入超过 10 亿美元,持股价值约 218 亿美元,含一笔 5 亿美元 D 轮,2023 年 5 月首次入场。Iconiq 于 2025 年入场,累计投入超过 60 亿美元,持股价值可能约 264 亿美元,首次投资时估值已达 1830 亿美元。红杉资本今年开始投资,累计约 30 亿美元,约持有 1% 股份,价值约 150 亿美元,此前已投资 OpenAI 和 xAI。新加坡主权财富基金 GIC 于 2025 年首次投资,累计超过 45 亿美元,约持有 1% 股份,价值约 150 亿美元。Google 前 CEO Eric Schmidt 于 2021 年投入数千万美元,约持有 1% 股份,价值约 150 亿美元。FTX 于 2021 年投资 5 亿美元,最初持股 13.56%,2024 年稀释至 7.84%,破产清算后卖光股份,回收约 13 亿美元,实际收益约 8 亿美元。按未再稀释的 7.84% 与 1.5 万亿美元估值测算,理论价值约 1176 亿美元,比实际卖价高约 1163 亿美元,测算未计入后续融资稀释。2024 年 FTX 分批卖掉全部 Anthropic 股份,首批约 8.84 亿美元交易涉及 24 家买家,阿布扎比主权财富基金 Mubadala 关联公司 ATIC 买入约 5 亿美元,Jane Street 买入 1 亿美元,富达旗下基金买入 4500 万美元。Lightspeed 持股不足 2%,Google、亚马逊、英伟达、微软以及 Founders Fund、Coatue、Altimeter 等亦有投资,公开持仓数据不够完整,无法逐家准确计算回报。

first_img Anthropic 开放 Claude Duet 研究预览

ChainCatcher 消息,Anthropic 于 10 月 21 日开放 Claude Duet 研究预览。这是一款独立应用,Claude 作为主动型代理,会提示需要关注的事项、完成用户交代的任务,并在用户离开后继续工作;代表用户行动前会征求确认。产品面向专业人士和小企业主,提供 iOS、Android 应用及 claude.ai,研究预览包含在 Pro 和 Max 计划中,与其他 Claude 功能共用用量限额。用户需加入候补名单,目前先从美国 Pro 和 Max 用户开始。Claude Duet 围绕 Claude Opus 5.5 设计。它每天早上发送跨已连接应用的简短简报,白天监测这些应用,仅在需要关注时发消息,可处理安排会议、搭建仪表盘、财务或销售预测、原型和网页应用等任务。应用沿用 Claude 账户中的记忆、技能和已连接应用,支持打字或语音在同一持续线程中沟通,并配备带浏览器的虚拟机,不依赖用户设备保持开机。它可使用 Claude Marketplace 中超过 6,000 个连接器和插件,文中举例包括 Gmail、Slack、Intuit QuickBooks、Stripe、Gusto、LinkedIn、Docusign、HubSpot、Canva、Shopify。企业采购可使用 Stripe 的 Link 数字钱包或 Shopify 的 Shop Pay,即将支持在用户许可下用 1Password 已保存登录信息登录网站。安全方面,产品沿用可信代理框架,托管代理不直接看到密码或登录令牌,并设有自动模式分类器及提示注入防护;Anthropic 已进行红队与外部渗透测试,并将其纳入公开漏洞赏金计划。发送消息、付款、签署文件或删除内容前会展示拟执行操作并等待批准,证券交易或账户间转账即使获得批准仍被禁止。早期版本可能误读对话或误判紧急程度,核心功能围绕工作,订票等个人事务较弱,尚不能向用户展示其浏览器,目前也与主 Claude 应用分开,后台检查计入计划用量。

Anthropic CEO 发长文回应安全质疑,称须保持技术最前沿

ChainCatcher 消息,Anthropic 最近向美国国会议员提交一份 AI 安全法案草案,遭美国 AI 安全派质疑。草案对政府紧急叫停危险模型设置较高门槛,风险须涉及生物武器、网络攻击或 AI 失控等情形,并可能造成超过 50 人死亡或重伤,或超过 10 亿美元损失;部分条款还可能限制州政府监管权限。AI 安全组织 Encode AI 战略负责人 Nathan Calvin 随后梳理 Anthropic 过去一年的决定。今年 2 月,公司修改原本严格的安全政策:过去承诺若安全措施跟不上模型能力就暂停训练或发布,新政策不再要求公司在更高风险阶段独自停止研发,理由是竞争对手可能趁机超车。同期公司投入巨额算力、组建芯片团队,并让 Claude 承担更多 AI 研发任务。10 月 21 日,Anthropic CEO Dario Amodei 在 X 上发长文反驳。他承认公司犯过一些错误,但坚持争夺最先进 AI 能力并未违背安全使命,并称公司奉行向上竞赛,只有保持在技术最前沿,才有能力推动行业提高安全标准。他列举九项曾让公司付出商业代价的安全决定,包括将 Mythos 级模型限制开放数月,以及严格限制生物学相关请求。公司 10 月 19 日更新的安全路线图称,现有政策主要针对危险模型部署,未来可能需要直接限制研发速度,并计划在 2027 年 1 月 15 日前提出相关政策方案,或解释为何没有提出。

奥特曼向员工介绍安全开发超级 AI 三条路径

ChainCatcher 消息,OpenAI 首席执行官奥特曼上周向员工介绍了三种安全开发超级 AI 的方案。第一种是建立类似国际原子能机构的全球监管组织,检查先进模型并审计安全措施。知情人士称,奥特曼倾向于这条路线。第二种效仿欧洲核子研究中心,让各大 AI 实验室合并到一个组织,或通过统一机构共同研发,而不是继续各自竞速。第三种最极端,被他称为「Eliezer 方案」:一家 AI 公司率先实现递归自我改进,再凭借压倒性经济实力控制算力,使其他开发者无法追赶。奥特曼用「熔毁其他所有公司的 GPU」描述这一设想,同时表示该方案非常糟糕,只是为了把可能性讲全。「熔毁 GPU」的设想来自 AI 安全研究者 Eliezer Yudkowsky。他在 2021 年提出思想实验,让超级 AI 制造能够自我复制的纳米机器以熔毁全球 GPU,并表示这只是说明干预力度的极端例子,并非主张执行的方案。OpenAI 在 2023 年提出过建立「AI 版国际原子能机构」,Google DeepMind 负责人 Hassabis 也曾主张设立「AI 版 CERN」。目前 OpenAI、Google 和 Anthropic 计划在今年底或明年初成立联合安全标准组织,但在模型安全测试责任归属上存在分歧。奥特曼希望为 AI 研发设定速度限制,同时表示 OpenAI 眼下不能把竞争优势让给对手。

first_img 开源 AI 编程工具 OpenCode 遭入侵,约 1.4% 用户受影响

ChainCatcher 消息,网易号《DeepTech深科技》报道,开源 AI 编程工具 OpenCode 官方确认遭遇入侵,约 1.4% 的 OpenCode Console 用户受影响,部分保存在平台上的模型 API 密钥可能泄露。多名开发者称用于调用 OpenAI、Anthropic 等模型的账户出现异常费用,有人报告损失数百美元,有人称超过 1700 美元。官方称事件与一场大规模蒸馏攻击有关,并正与 OpenAI、Anthropic、Google 共同处理。OpenCode 由 Anomaly 团队相关人员开发,主要创建者之一为 Dax Raad,团队此前有 SST、OpenNext 等项目。除本地程序外,其云端服务 Console 可将 OpenAI、Anthropic、Google 等厂商的 API 密钥集中保存在工作区并代为调用,事故发生在这项云端服务上。通知邮件称,攻击者未经授权访问一套正在停用的旧系统,部分 Console 工作区中的第三方模型 API 密钥可能暴露。开发者 Colin Parsons 称 OpenAI 账户约 281 美元、Anthropic 账户约 168 美元出现异常费用,Preston Zeller 称损失约 1700 美元。另有用户报告 Anthropic 约 400 美元异常费用,以及 Google 服务因异常使用触发账户限制。OpenCode 已通知受影响用户撤销并更换密钥、检查近期调用记录。Anthropic Claude Code 团队成员 Lydia Hallie 表示,Anthropic 已与 OpenCode 合作,并撤销被认为受影响的 Claude API 密钥。OpenAI 团队成员 Tibo 表示,正与 OpenCode 合作帮助受影响 API 用户恢复使用,并退还攻击期间被异常消耗的相关额度。Dax Raad 澄清,受影响的是 OpenCode Console,不是本地运行的 OpenCode,用户直接在本地工具中配置的密钥不会传到 OpenCode 服务器。10 月 18 日,他在社交平台称攻击者在过去 48 小时持续尝试入侵,团队正在加强防护。
app_icon
ChainCatcher 与创新者共建Web3世界