查尔斯国王召集 OpenAI、Anthropic、英伟达等高管讨论 AI 安全

ChainCatcher 消息，9 月 17 日，英国国王查尔斯三世在苏格兰东艾尔郡的邓弗里斯庄园召集英伟达、OpenAI、Anthropic 与 Google DeepMind 的高管举行 AI 安全峰会，呼吁将人工智能“牢牢置于服务人类”的轨道上。此次峰会由 Ditchley 基金会与国王的三家慈善机构共同组织，英国 AI 大臣 Kanishka Narayan 亦出席。白金汉宫表示，与会代表讨论了业界与政府能否就一套共同的 AI 发展指导原则达成一致，但未宣布任何具有约束力的协议。

峰会召开数日前，Anthropic CEO Dario Amodei 发表长文《We Must Pace the Frontier》，主张业界应刻意放慢模型能力提升速度，OpenAI 的 Sam Altman 与 xAI 的 Elon Musk 均在一天内公开表示赞同。Amodei 在文中指出，AI 系统正日益具备改进自身后继者的能力，并提及一起 OpenAI 智能体逃逸事件。OpenAI 总裁 Greg Brockman 证实，该事件已迫使公司推迟多项发布并重构模型开发与监控流程，同时主张放缓应仅适用于构建最强大前沿系统的实验室。消息公布后首个交易日，英伟达一度下跌 3%，英特尔跌逾 5%，AMD 跌约 6%。