生物武器

ChainCatcher 消息，据《金融时报》报道，Anthropic 表示，已在今年阻止多起科学家利用其技术开展相关研究的尝试，这些研究可能有助于研发生物武器。该公司列举五个案例，称相关行为者绕过管控措施并混淆研究目的以规避安全防护。Anthropic 在关于模型被用于恶意活动的报告中称，希望通过分享这些案例，引发 AI 行业以及各国政府就新兴生物风险及应对方式展开讨论。案例包括一名来自“不受支持地区”的研究人员使用 Claude，用数周时间规划涉及禽流感的实验。Anthropic 称安全过滤机制将该研究限制在性能最弱的模型上，并强调无法确定上述科学家是否有意造成伤害，研发制造生物武器所需的相同信息也可能被用于研发疫苗。该公司已封禁报告中提到的相关账户，但未透露研究人员所属机构名称及事件发生国家。