BTC $80,387.41 -0.35%
ETH $2,337.03 -1.23%
BNB $740.21 +0.86%
XRP $1.30 +1.14%
SOL $100.99 -0.95%
TRX $0.3290 -0.21%
DOGE $0.0763 -1.82%
ADA $0.2041 -1.84%
BCH $272.24 -1.38%
LINK $11.32 -2.98%
HYPE $75.77 -0.43%
AAVE $135.44 -3.86%
SUI $0.9119 -3.78%
XLM $0.1688 -1.05%
ZEC $1,182.83 +1.39%
AAPL $346.87 +0.02%
AMZN $248.51 +0.14%
GOOGL $321.01 +0.17%
MSFT $523.53 +0.05%
META $641.61 -0.12%
NVDA $212.28 +0.45%
TSLA $371.37 +0.03%
SNDK $1,237.31 -0.05%
INTC $86.33 -0.05%
SPCX $147.56 +0.32%
MU $885.88 +0.47%
AMD $516.89 +0.15%
BTC $80,387.41 -0.35%
ETH $2,337.03 -1.23%
BNB $740.21 +0.86%
XRP $1.30 +1.14%
SOL $100.99 -0.95%
TRX $0.3290 -0.21%
DOGE $0.0763 -1.82%
ADA $0.2041 -1.84%
BCH $272.24 -1.38%
LINK $11.32 -2.98%
HYPE $75.77 -0.43%
AAVE $135.44 -3.86%
SUI $0.9119 -3.78%
XLM $0.1688 -1.05%
ZEC $1,182.83 +1.39%
AAPL $346.87 +0.02%
AMZN $248.51 +0.14%
GOOGL $321.01 +0.17%
MSFT $523.53 +0.05%
META $641.61 -0.12%
NVDA $212.28 +0.45%
TSLA $371.37 +0.03%
SNDK $1,237.31 -0.05%
INTC $86.33 -0.05%
SPCX $147.56 +0.32%
MU $885.88 +0.47%
AMD $516.89 +0.15%

openai

OpenAI 是一家致力于人工智能研究与开发的美国公司,以创建安全、有益的通用人工智能(AGI)为使命,目前最知名产品为 ChatGPT 和 GPT 大语言模型系列。
全部
文章
快讯

奥特曼向员工介绍安全开发超级 AI 三条路径

ChainCatcher 消息,OpenAI 首席执行官奥特曼上周向员工介绍了三种安全开发超级 AI 的方案。第一种是建立类似国际原子能机构的全球监管组织,检查先进模型并审计安全措施。知情人士称,奥特曼倾向于这条路线。第二种效仿欧洲核子研究中心,让各大 AI 实验室合并到一个组织,或通过统一机构共同研发,而不是继续各自竞速。第三种最极端,被他称为「Eliezer 方案」:一家 AI 公司率先实现递归自我改进,再凭借压倒性经济实力控制算力,使其他开发者无法追赶。奥特曼用「熔毁其他所有公司的 GPU」描述这一设想,同时表示该方案非常糟糕,只是为了把可能性讲全。「熔毁 GPU」的设想来自 AI 安全研究者 Eliezer Yudkowsky。他在 2021 年提出思想实验,让超级 AI 制造能够自我复制的纳米机器以熔毁全球 GPU,并表示这只是说明干预力度的极端例子,并非主张执行的方案。OpenAI 在 2023 年提出过建立「AI 版国际原子能机构」,Google DeepMind 负责人 Hassabis 也曾主张设立「AI 版 CERN」。目前 OpenAI、Google 和 Anthropic 计划在今年底或明年初成立联合安全标准组织,但在模型安全测试责任归属上存在分歧。奥特曼希望为 AI 研发设定速度限制,同时表示 OpenAI 眼下不能把竞争优势让给对手。

first_img 开源 AI 编程工具 OpenCode 遭入侵,约 1.4% 用户受影响

ChainCatcher 消息,网易号《DeepTech深科技》报道,开源 AI 编程工具 OpenCode 官方确认遭遇入侵,约 1.4% 的 OpenCode Console 用户受影响,部分保存在平台上的模型 API 密钥可能泄露。多名开发者称用于调用 OpenAI、Anthropic 等模型的账户出现异常费用,有人报告损失数百美元,有人称超过 1700 美元。官方称事件与一场大规模蒸馏攻击有关,并正与 OpenAI、Anthropic、Google 共同处理。OpenCode 由 Anomaly 团队相关人员开发,主要创建者之一为 Dax Raad,团队此前有 SST、OpenNext 等项目。除本地程序外,其云端服务 Console 可将 OpenAI、Anthropic、Google 等厂商的 API 密钥集中保存在工作区并代为调用,事故发生在这项云端服务上。通知邮件称,攻击者未经授权访问一套正在停用的旧系统,部分 Console 工作区中的第三方模型 API 密钥可能暴露。开发者 Colin Parsons 称 OpenAI 账户约 281 美元、Anthropic 账户约 168 美元出现异常费用,Preston Zeller 称损失约 1700 美元。另有用户报告 Anthropic 约 400 美元异常费用,以及 Google 服务因异常使用触发账户限制。OpenCode 已通知受影响用户撤销并更换密钥、检查近期调用记录。Anthropic Claude Code 团队成员 Lydia Hallie 表示,Anthropic 已与 OpenCode 合作,并撤销被认为受影响的 Claude API 密钥。OpenAI 团队成员 Tibo 表示,正与 OpenCode 合作帮助受影响 API 用户恢复使用,并退还攻击期间被异常消耗的相关额度。Dax Raad 澄清,受影响的是 OpenCode Console,不是本地运行的 OpenCode,用户直接在本地工具中配置的密钥不会传到 OpenCode 服务器。10 月 18 日,他在社交平台称攻击者在过去 48 小时持续尝试入侵,团队正在加强防护。
app_icon
ChainCatcher 与创新者共建Web3世界