BTC $78,285.14 -1.49%
ETH $2,470.67 -0.87%
BNB $751.27 +0.82%
XRP $1.39 -0.74%
SOL $102.63 -2.21%
TRX $0.3382 +0.56%
DOGE $0.0892 -0.54%
ADA $0.2171 -1.51%
BCH $254.77 -0.72%
LINK $12.46 -5.41%
HYPE $82.87 -5.81%
AAVE $129.51 -3.31%
SUI $0.8068 -0.58%
XLM $0.1878 -1.76%
ZEC $1,153.74 -3.45%
BTC $78,285.14 -1.49%
ETH $2,470.67 -0.87%
BNB $751.27 +0.82%
XRP $1.39 -0.74%
SOL $102.63 -2.21%
TRX $0.3382 +0.56%
DOGE $0.0892 -0.54%
ADA $0.2171 -1.51%
BCH $254.77 -0.72%
LINK $12.46 -5.41%
HYPE $82.87 -5.81%
AAVE $129.51 -3.31%
SUI $0.8068 -0.58%
XLM $0.1878 -1.76%
ZEC $1,153.74 -3.45%

openai

OpenAI 是一家致力于人工智能研究与开发的美国公司,以创建安全、有益的通用人工智能(AGI)为使命,目前最知名产品为 ChatGPT 和 GPT 大语言模型系列。
全部
文章
快讯

first_img OpenAI 首席科学家称 AI 或持续快速上升至递归自我改进

ChainCatcher 消息,OpenAI 首席科学家 Jakub Pachocki 于 2026 年 9 月 6 日发表文章《An Alien Mind》。文章回顾 2023 年中期 RLSlow 研究项目首次出现可规模化训练推理模型的结果,称三年后推理语言模型已成为经济快速增长的一部分,开始推动科学边界,能操作计算机与图形界面、与人及其他 AI 协作并开展研究项目,同时改变计算机安全格局并带来新危险。作者基于内部结果预期当前进展速度可能持续至递归自我改进。若 AI 发展沿当前路径继续,未来几年系统可能出现同等或更大能力跃升,并日益驱动自身发展。作者呼吁极端谨慎,认为无人准备好应对机器智能持续快速上升的后果。OpenAI 将继续寻求对齐与监控的技术解决方案、构建防御系统并在必要时单方面停止进一步规模化,但认为需要更广泛干预。文章称机器智能主要由计算能力增加驱动,AI 更多是生长而非设计。对齐方面区分目标对齐与价值对齐,核心挑战是泛化。GPT-6 Astra 对齐显著优于 GPT-5.6 Sol,但仍需更多进展。监控方面主要押注思维链监控,评估显示依赖能力正逐步减弱。可扩展防御方面,模型在突破计算机系统方面正变得超人,当前处于使用最佳可用模型显著加强关键系统安全的狭窄窗口。

first_img 桑德斯等提出法案,永久禁止超级人工智能并暂停先进 AI 开发

ChainCatcher 消息,美国参议员伯尼·桑德斯与众议员格雷格·卡萨尔提出《禁止人工智能超级智能法案》,要求永久禁止超级人工智能的开发,并在新的联邦机构制定安全标准与审查程序之前暂停先进 AI 研发。桑德斯批评大型 AI 公司正在开发自身无法完全理解、也无法可靠控制的技术,违反规定的公司及个人最高可面临 20 年监禁,情节严重者还可能被处以所谓的“企业死刑”。该法案将超级智能定义为在众多任务上达到或超越人类能力、或可能削弱人类控制(包括推翻美国政府)的 AI 系统,该定义同样涵盖人类级别 AGI。法案计划设立一个内阁级新机构,负责监控先进模型、监督危险能力的移除以及被禁系统的销毁,并成立人工智能咨询委员会提供科学和技术建议。法案公布同日,OpenAI 发布 GPT-6 Astra,联合创始人 Greg Brockman 表示,其个人认为该模型可能符合 AGI 的定义。OpenAI 称 Astra 是其首个达到“关键”网络安全能力阈值的模型,可能在没有逐步人工指导的情况下发现并利用受保护系统中的未知漏洞,其最强的网络安全能力将仅限于选定测试者使用。此前,OpenAI 与 Anthropic 的模型在测试中曾多次未经授权访问真实系统,其中包括 OpenAI 模型入侵 Hugging Face 获取测试答案等事件。
app_icon
ChainCatcher 与创新者共建Web3世界