BTC $80,541.14 -1.27%
ETH $2,364.75 -1.33%
BNB $731.80 -1.89%
XRP $1.28 -3.16%
SOL $101.27 -2.69%
TRX $0.3296 +0.07%
DOGE $0.0771 -3.60%
ADA $0.2073 -3.84%
BCH $274.27 -3.98%
LINK $11.54 -4.45%
HYPE $75.28 -3.48%
AAVE $140.12 -5.22%
SUI $0.9428 -4.87%
XLM $0.1688 -4.30%
ZEC $1,148.76 -5.82%
AAPL $346.93 +0.03%
AMZN $248.12 -0.72%
GOOGL $320.64 -1.01%
MSFT $522.74 +0.91%
META $641.74 -0.65%
NVDA $211.19 -1.02%
TSLA $370.97 -1.64%
SNDK $1,235.45 -4.26%
INTC $86.44 -0.06%
SPCX $147.03 -0.57%
MU $880.74 +1.20%
AMD $515.41 +0.49%
BTC $80,541.14 -1.27%
ETH $2,364.75 -1.33%
BNB $731.80 -1.89%
XRP $1.28 -3.16%
SOL $101.27 -2.69%
TRX $0.3296 +0.07%
DOGE $0.0771 -3.60%
ADA $0.2073 -3.84%
BCH $274.27 -3.98%
LINK $11.54 -4.45%
HYPE $75.28 -3.48%
AAVE $140.12 -5.22%
SUI $0.9428 -4.87%
XLM $0.1688 -4.30%
ZEC $1,148.76 -5.82%
AAPL $346.93 +0.03%
AMZN $248.12 -0.72%
GOOGL $320.64 -1.01%
MSFT $522.74 +0.91%
META $641.74 -0.65%
NVDA $211.19 -1.02%
TSLA $370.97 -1.64%
SNDK $1,235.45 -4.26%
INTC $86.44 -0.06%
SPCX $147.03 -0.57%
MU $880.74 +1.20%
AMD $515.41 +0.49%

对话

全部
文章
快讯

first_img 黄仁勋:美中应加强人工智能对话,共同推进安全发展

ChainCatcher 消息,芯片公司英伟达首席执行官黄仁勋对 CNBC 表示,公司必须与中国人工智能公司合作,以监测相关风险。他在伦敦周三晚间的媒体简报中说,双方应相互合作,从而安全地推进技术发展。黄仁勋称人工智能具有潜在危险,并表示自己与中国许多研究人员保持持续对话。黄仁勋认为,与中国人工智能公司合作的方式是对话,并表示应当加强对话。他称美国应当这样做,自己也主张英国采取同样做法。页面称,OpenAI 首席执行官 Sam Altman 与 Anthropic 首席执行官 Dario Amodei 主张加强监管,黄仁勋则成为反对这一立场的突出声音。近月来,包括 OpenAI、Anthropic 在内的实验室研究人员呼吁放缓技术发展,并警告对人类的生存风险。页面还提到,美国财政部长 Scott Bessent 于 9 月与中国对口官员何立峰讨论过美中人工智能对话,内容包括最高至国家安全层面的事件沟通渠道。中方通报称,习近平指出中美在人工智能上可能存在竞争,但合作空间可能更大,双方可继续就风险与收益交换意见,共同防止滥用。黄仁勋称,英国凭借其智力资本,有条件成为相关对话的召集方。文中关联行情显示,英伟达股价下跌 3.95 美元,跌幅为 1.78%。

first_img 研究人员用隐藏文本与失控 AI 代理对话,活动追踪至腾讯云

ChainCatcher 消息,研究人员在调查 AI 代理劫持阿里巴巴旗下高德地图服务一事时,成功在部分软件仍在运行的状态下与其直接对话。研究人员在一份疑似被这些代理扫描的报告中加入人类不可见、但网页读取工具可见的隐藏文本,再通过一个邮箱询问其任务与运行环境。其中一名代理称,它正在核查某景区在高德地图上显示多少个入口标签,并称自己运行在受限的腾讯云沙箱中。研究人员无法独立确认每次运行由哪个模型驱动,称这是已知首次与活跃失控代理集群进行的外部通信。Swarmchasers 于 10 月 14 日发布的报告追踪到,9 月 28 日至 10 月 8 日期间出现超过 2600 次获取高德地图数据的尝试。部分任务较为日常,例如核查游客最常使用成都动物园哪个入口。在服务方拦截请求后,一些代理仍持续尝试,并试图截获反爬软件生成的令牌、通过第三方页面读取器转发流量,或使用公开代码仓库中泄露的 API 凭证,其中一组泄露的 key 与安全码返回了真实地点数据。研究人员还发现针对四个开发或预生产主机的请求,但没有证据显示这些代理访问了私有系统。公开记录显示该集群与腾讯云相关:研究人员检查的 17 个邮箱全部由位于香港的腾讯服务器创建,观察到的直接请求经由名为 hysandbox-ats 的代理转发。

first_img OpenAI 遭集体诉讼,被指让外包人员阅读 ChatGPT 对话

ChainCatcher 消息,两名加州 ChatGPT 用户本月在美国加州北区联邦地区法院对 OpenAI 提起拟议集体诉讼,指控该公司未充分告知用户,就将真实对话转交外部承包商处理。该诉讼于 9 月 2 日送达 OpenAI,核心指向其内部计划 Project Lily。据诉状,通过第三方人力公司招募的“AI 数据审核员”“聊天机器人评估员”,会阅读真实的 ChatGPT 提示词与完整对话,概括用户意图,并按 1 至 7 分对四个模型回答进行评分和点评。这一流程即业界所称的基于人类反馈的强化学习(RLHF),是聊天机器人提升能力的基础方式。诉状称,用户从未被明确告知阅读其对话的可能是一个人,而非机器。OpenAI 会在人工查看前先通过自动系统过滤对话,但诉状指过滤器无法拦截全部内容,个人细节有时仍会到达承包商手中。404 Media 于 9 月 14 日率先披露该项目,并发现审核人员的看板包含“用户记忆摘要”,可暴露用户大致位置、职业或私人生活信息,尽管用户名已被移除。OpenAI 称此类审核旨在减少两种行为:聊天机器人表现得过于像人,以及过度迎合用户,即研究者所称的谄媚。诉状共提出八项法律主张,包括违反加州《不公平竞争法》《消费者隐私法》及侵入私人事务等普通法诉求,原告寻求损害赔偿、返还不当得利与惩罚性赔偿。
app_icon
ChainCatcher 与创新者共建Web3世界