Anthropic国际业务主管称开源模型风险更高,闭源路线成安全优先选项
Anthropic国际业务负责人纪尧姆·普林森在都柏林AI峰会上指出,开源模型因可被任意修改与部署,在网络安全等方面存在更高风险;该公司正强化安全防护,并主张放慢AI发展节奏以建立统一评估标准。
在人工智能技术快速扩散的当下,模型部署路径的选择正引发新一轮安全争议。10月14日,Anthropic负责全球市场销售的最高主管纪尧姆·普林森(Guillaume Princen)在爱尔兰都柏林举行的国际AI峰会上明确表示:与该公司闭源模型相比,开放权重模型在网络安全、恶意使用等维度上存在“更高风险”。
普林森强调:“在安全问题上,我们必须对开源模型格外谨慎。我无法代表开放模型发表看法,但从定义上来说,它们的风险更高。”这一表态并非孤立观点,而是Anthropic近期持续强化AI安全立场的一部分。就在本周早些时候,该公司曾预警:小型AI模型可能催生新型僵尸网络,甚至能在智能烤箱等边缘设备间自我复制——此类风险在缺乏统一监管的开源生态中更易被放大。
开源模型的兴起本意在于降低使用门槛、增强技术主权。以法国Mistral AI为代表的企业已推出多款开放权重模型,为欧洲提供本土化替代方案;中国厂商亦陆续发布类似模型,在海外市场获得关注。支持者认为,这类模型成本更低、可本地部署,有利于减少对美国技术依赖。然而,普林森指出,这种自由度恰恰构成安全隐患:一旦模型参数公开,攻击者即可针对性微调,绕过原厂设定的安全护栏,用于钓鱼、伪造内容或自动化攻击。
Anthropic自身已因多起AI黑客事件加强防御体系。公司近年投入大量资源构建“宪法式”对齐机制(Constitutional AI),并在推理阶段嵌入实时内容过滤模块。普林森透露,其团队正重点服务创业公司与“数字原生”企业客户,而购买其前沿模型(如Claude Opus系列)的企业占业务“非常大比重”——尽管他未披露具体比例。
值得注意的是,Anthropic近期在定价策略上做出调整:最新版Claude Opus 5.5较前代降价40%,试图缓解企业对高成本的顾虑。普林森向潜在客户传递的核心信息是:“要始终投资前沿技术。因为从现在起的六个月、一年或两年后,这类应用场景的使用成本也会下降。”这反映出该公司在安全与实用之间寻求平衡的努力:通过提升性价比扩大采用基数,同时以闭源控制保障系统级安全。
该立场背后,是全球AI治理格局的深刻变化。随着各国对技术主权意识增强,开放模型被视为实现“去美国化”的关键路径。欧盟《人工智能法案》要求高风险系统必须可追溯、可审计,而开源模型因分支众多、更新频繁,难以满足合规要求;中国则通过“算力+模型”双自主战略推动国产大模型落地。在此背景下,Anthropic作为典型闭源厂商,其安全主张既是对自身商业模式的辩护,也暗含对行业标准话语权的争夺。
事实上,关于AI模型路线的分歧早已超越技术层面。今年5月,市场曾热议OpenAI与Anthropic分别冲刺万亿美元、两万亿美元估值上市;但随后代币消耗热潮退却、价格战加剧、收入预测存疑、“失控AI”事件频发,以及美国上诉法院一项削弱生成式AI版权主张的关键裁决,共同压缩了高估值空间。知名学者Gary Marcus甚至提出警示:当前AI实验室可能正面临类似WeWork式的估值泡沫风险——资本狂热退潮后,责任与合规将成为压垮高估值的最后一根稻草。
普林森虽未回应Anthropic IPO具体时间表(公司尚未提交S-1文件),但他强调:在国际标准与统一评估机制建立之前,应主动放缓AI发展步伐。这一呼吁呼应了联合国、OECD等国际组织近期推动的AI治理倡议,也折射出头部企业对“技术先行、规则滞后”模式的反思。
从产业演进看,闭源与开源并非非此即彼的二元对立。部分企业正探索混合路径:例如将基础模型开源,但关键安全层、推理优化模块保持闭源;或通过API网关实施细粒度访问控制。Anthropic目前仍坚持全栈闭源策略,其逻辑在于:当模型能力逼近人类水平时,安全边际不能依赖用户自控,而需由开发者端前置保障。
值得玩味的是,普林森所言“风险更高”中的“风险”,实则指向两类不同维度:一是技术性风险(如模型被越狱、注入攻击),二是制度性风险(如责任归属模糊、监管套利)。前者可通过工程手段缓解,后者则需法律与行业共识协同解决。而当前全球尚无统一的AI安全认证体系,导致企业只能依据自身判断选择路径。
短期来看,闭源模型在金融、医疗、政务等高敏感场景仍将占据优势;长期而言,若开源社区能建立起可信验证机制(如模型水印、完整性签名、第三方审计接口),其风险溢价或逐步收窄。但就现阶段而言,正如普林森所言:“安全不是附加功能,而是产品设计的起点。”
Anthropic的立场提醒业界:当AI从工具走向基础设施,其部署方式将直接决定社会承受的风险上限。在没有全球性“交通规则”前,选择哪条路,本质上是在权衡效率与稳健、开放与可控之间的根本张力。
