BTC $81,330.38 +0.01%
ETH $2,400.58 +0.57%
BNB $741.75 +1.60%
XRP $1.31 +0.00%
SOL $103.89 +0.09%
TRX $0.3298 +0.62%
DOGE $0.0792 +0.79%
ADA $0.2140 +0.94%
BCH $284.76 +4.15%
LINK $11.93 -0.16%
HYPE $77.59 -0.22%
AAVE $147.38 -0.20%
SUI $0.9788 +0.40%
XLM $0.1753 -0.03%
ZEC $1,230.77 +1.07%
AAPL $347.77 -0.12%
AMZN $248.87 -0.90%
GOOGL $321.55 -1.07%
MSFT $524.57 +0.63%
META $642.60 -0.73%
NVDA $211.50 -0.72%
TSLA $372.87 -0.33%
SNDK $1,241.90 -0.47%
INTC $87.04 +1.96%
SPCX $148.02 +0.99%
MU $880.90 +3.04%
AMD $517.88 +1.63%
BTC $81,330.38 +0.01%
ETH $2,400.58 +0.57%
BNB $741.75 +1.60%
XRP $1.31 +0.00%
SOL $103.89 +0.09%
TRX $0.3298 +0.62%
DOGE $0.0792 +0.79%
ADA $0.2140 +0.94%
BCH $284.76 +4.15%
LINK $11.93 -0.16%
HYPE $77.59 -0.22%
AAVE $147.38 -0.20%
SUI $0.9788 +0.40%
XLM $0.1753 -0.03%
ZEC $1,230.77 +1.07%
AAPL $347.77 -0.12%
AMZN $248.87 -0.90%
GOOGL $321.55 -1.07%
MSFT $524.57 +0.63%
META $642.60 -0.73%
NVDA $211.50 -0.72%
TSLA $372.87 -0.33%
SNDK $1,241.90 -0.47%
INTC $87.04 +1.96%
SPCX $148.02 +0.99%
MU $880.90 +3.04%
AMD $517.88 +1.63%

质疑

全部
文章
快讯

Anthropic CEO 发长文回应安全质疑,称须保持技术最前沿

ChainCatcher 消息,Anthropic 最近向美国国会议员提交一份 AI 安全法案草案,遭美国 AI 安全派质疑。草案对政府紧急叫停危险模型设置较高门槛,风险须涉及生物武器、网络攻击或 AI 失控等情形,并可能造成超过 50 人死亡或重伤,或超过 10 亿美元损失;部分条款还可能限制州政府监管权限。AI 安全组织 Encode AI 战略负责人 Nathan Calvin 随后梳理 Anthropic 过去一年的决定。今年 2 月,公司修改原本严格的安全政策:过去承诺若安全措施跟不上模型能力就暂停训练或发布,新政策不再要求公司在更高风险阶段独自停止研发,理由是竞争对手可能趁机超车。同期公司投入巨额算力、组建芯片团队,并让 Claude 承担更多 AI 研发任务。10 月 21 日,Anthropic CEO Dario Amodei 在 X 上发长文反驳。他承认公司犯过一些错误,但坚持争夺最先进 AI 能力并未违背安全使命,并称公司奉行向上竞赛,只有保持在技术最前沿,才有能力推动行业提高安全标准。他列举九项曾让公司付出商业代价的安全决定,包括将 Mythos 级模型限制开放数月,以及严格限制生物学相关请求。公司 10 月 19 日更新的安全路线图称,现有政策主要针对危险模型部署,未来可能需要直接限制研发速度,并计划在 2027 年 1 月 15 日前提出相关政策方案,或解释为何没有提出。
app_icon
ChainCatcher 与创新者共建Web3世界