BTC $80,865.89 -1.12%
ETH $2,382.17 -1.15%
BNB $739.46 +0.24%
XRP $1.29 -2.01%
SOL $102.73 -1.44%
TRX $0.3295 +0.18%
DOGE $0.0788 -0.91%
ADA $0.2115 -1.74%
BCH $277.67 -1.92%
LINK $11.88 -2.59%
HYPE $77.23 -0.84%
AAVE $144.85 -2.50%
SUI $0.9640 -2.59%
XLM $0.1734 -2.13%
ZEC $1,167.52 -4.78%
AAPL $347.54 -0.08%
AMZN $249.01 -0.93%
GOOGL $321.99 -1.02%
MSFT $524.79 +0.99%
META $642.00 -0.64%
NVDA $211.55 -1.14%
TSLA $372.74 -0.78%
SNDK $1,241.83 -1.70%
INTC $86.90 +0.36%
SPCX $147.88 +0.24%
MU $885.61 +2.47%
AMD $519.29 +0.92%
BTC $80,865.89 -1.12%
ETH $2,382.17 -1.15%
BNB $739.46 +0.24%
XRP $1.29 -2.01%
SOL $102.73 -1.44%
TRX $0.3295 +0.18%
DOGE $0.0788 -0.91%
ADA $0.2115 -1.74%
BCH $277.67 -1.92%
LINK $11.88 -2.59%
HYPE $77.23 -0.84%
AAVE $144.85 -2.50%
SUI $0.9640 -2.59%
XLM $0.1734 -2.13%
ZEC $1,167.52 -4.78%
AAPL $347.54 -0.08%
AMZN $249.01 -0.93%
GOOGL $321.99 -1.02%
MSFT $524.79 +0.99%
META $642.00 -0.64%
NVDA $211.55 -1.14%
TSLA $372.74 -0.78%
SNDK $1,241.83 -1.70%
INTC $86.90 +0.36%
SPCX $147.88 +0.24%
MU $885.61 +2.47%
AMD $519.29 +0.92%

员工

全部
文章
快讯

奥特曼向员工介绍安全开发超级 AI 三条路径

ChainCatcher 消息,OpenAI 首席执行官奥特曼上周向员工介绍了三种安全开发超级 AI 的方案。第一种是建立类似国际原子能机构的全球监管组织,检查先进模型并审计安全措施。知情人士称,奥特曼倾向于这条路线。第二种效仿欧洲核子研究中心,让各大 AI 实验室合并到一个组织,或通过统一机构共同研发,而不是继续各自竞速。第三种最极端,被他称为「Eliezer 方案」:一家 AI 公司率先实现递归自我改进,再凭借压倒性经济实力控制算力,使其他开发者无法追赶。奥特曼用「熔毁其他所有公司的 GPU」描述这一设想,同时表示该方案非常糟糕,只是为了把可能性讲全。「熔毁 GPU」的设想来自 AI 安全研究者 Eliezer Yudkowsky。他在 2021 年提出思想实验,让超级 AI 制造能够自我复制的纳米机器以熔毁全球 GPU,并表示这只是说明干预力度的极端例子,并非主张执行的方案。OpenAI 在 2023 年提出过建立「AI 版国际原子能机构」,Google DeepMind 负责人 Hassabis 也曾主张设立「AI 版 CERN」。目前 OpenAI、Google 和 Anthropic 计划在今年底或明年初成立联合安全标准组织,但在模型安全测试责任归属上存在分歧。奥特曼希望为 AI 研发设定速度限制,同时表示 OpenAI 眼下不能把竞争优势让给对手。

first_img Anthropic 向 METR 开放类员工访问,推进独立安全评估

ChainCatcher 消息,10 月 15 日,Anthropic 宣布已开始向非营利组织 METR 的一个团队提供类员工访问权限,用于评估其模型与安全实践。公司称,上个月已承诺加强独立第三方评估,并签署白宫《超级智能协议》,其中包含与独立外部审计方或评估方合作的承诺。过去一年,Anthropic 已与 METR 合作审查若干份风险报告,METR 将公布其风险评估结果。Anthropic 已为 6 名 METR 员工配备公司硬件、办公空间,以及与自身风险评估团队大致相当的内部工具和系统访问权限。除客户数据、律师与客户特权信息、模型架构信息等少数明确类别外,员工被鼓励像对待从事对齐风险工作的同事一样分享信息。METR 可发表对风险水平、事件或做法的分析,Anthropic 不能否决发表,但可要求删除预先界定的狭窄类别信息;METR 可公开说明删节情况,并在不泄露被删内容的前提下说明其是否认为删节合理。该安排仅限于在可执行协议下工作的小团队,其他 METR 员工与该团队工作隔离。Anthropic 同时与 SecureBio、Accenture 合作开展评估,并与包括 Hugging Face 在内的其他组织进行早期讨论。SecureBio 正在审查 2026 年 8 月风险报告中的化学与生物武器章节,此前已完成并发表对上一份风险报告的试点审查。
app_icon
ChainCatcher 与创新者共建Web3世界