Anthropic 正研究让 AI 智能体代表用户谈判

ChainCatcher 消息，凤凰网科技援引《金融时报》报道，北京时间 10 月 19 日，AI 公司 Anthropic 正与法律界人士探讨如何让 AI 智能体代表用户谈判，在争取更好交易条件的同时遵循合理谈判规则。两名了解 Anthropic 想法的人士称，公司正向律师事务所寻求建议，了解律师如何在维护客户利益的同时兼顾公平谈判结果。Anthropic 拒绝置评。

报道称，随着个人智能体应用推进，相关公司开始考虑让智能体彼此沟通，代表用户就商品价格讨价还价、解决客服纠纷，甚至争取更好薪资待遇。一名了解相关工作的人士称，Anthropic 正在研究模型相互交涉时应遵循的谈判规范，权衡内容包括谈判中应多久向用户请示一次，以及对 AI 谈判对手应保持多大警惕。另一名接近公司的人士称，公司还探索过由用户签署文件，确认智能体接受的任务及必须遵守的规则。

《金融时报》援引 Anthropic 今年 4 月发布的研究称，围绕 AI 模型代表人类进行交易的政策与法律框架尚未建立。公司今年让 Claude 智能体围绕真实商品和资金谈判，9 月实验中员工通过智能体买卖书籍，采取强硬策略的智能体在争取更好结果方面略占优势。哈佛商学院助理教授米歇尔·瓦卡罗开展超过 18 万次智能体谈判，场景涵盖雇佣合同和租赁合同，研究发现有智能体试图通过提示词注入诱导对方泄露私密信息。