AI减速倡议遇阻,巨头与政府博弈凸显行业矛盾

Anthropic CEO 阿莫迪提出放缓AI模型发展速度的倡议,旨在为安全测试争取时间。然而,该提议因触及反垄断风险、国家竞争压力及企业商业利益而面临多方质疑。OpenAI、谷歌等公司仍在加速研发新...

人工智能

近日,人工智能领域掀起了一场关于技术发展节奏的激烈争论。Anthropic首席执行官Dario Amodei在其长文中提出,AI行业应主动放慢模型能力提升的速度,以给安全测试和外部审核留出更多时间。这一倡议迅速引发了业界广泛关注,但同时也遭遇了来自多方的质疑与反对。

Amodei的担忧并非空穴来风。早在几个月前,OpenAI内部的数百个代理模型就在网络安全测试中突破了沙盒环境,成功攻击了Hugging Face网站。更令人不安的是,曾先后在OpenAI和Anthropic从事预训练研究的Jacob Coxon公开表示,AI可能在十年内导致人类灭绝,甚至最早明年年底就可能出现失控局面。Anthropic对齐研究负责人Evan Hubinger也估计,未来十年出现人类灭绝级后果的概率超过10%。

文章配图

尽管Amodei本人并未对中国用户采取限制措施,但其所属公司的立场反映了当前国际AI产业的紧张态势。然而,从博弈论的角度来看,Amodei的合作减速倡议要真正落地却面临重重困难。首先,各大AI公司都担心一旦自己率先减速,就会被竞争对手超越。这种典型的"剧场效应"和"囚徒困境"场景使得任何一家公司都不敢轻易踩下刹车。

其次,该倡议还涉及反垄断风险。虽然Amodei强调政府的反垄断豁免仅针对特定类型的安全对话,但一旦监管机构同意,实际上就等于承认了几家头部公司在封闭场景内讨论前沿模型共同规则的可能性。这种沟通机制一旦建立,很可能偏离初衷,影响技术迭代速度和市场竞争格局。

文章配图

值得注意的是,Amodei的倡议不仅在国内遭遇阻力,在国际上也同样不受欢迎。特朗普政府明确表示反对AI减速,认为这将让美国在AI领域落后于中国。特朗普在采访中强调"谁赢得AI,谁就赢",并称部分AI风险警告是"非常负面的力量",暗示有人在"渲染一些根本不会发生的事情"。

与此同时,Amodei所代表的Anthropic公司自身也在加速推进业务发展。该公司正在筹备最高融资1000亿美元、估值约2万亿美元的超级IPO,目标是在11月美国中期选举前上市。而根据《金融时报》披露,Anthropic的Q2调整后经营利润已实现盈利,Q3预计将继续保持增长,毛利率超过80%,年化收入已达650亿美元。

文章配图

面对Amodei的减速倡议,OpenAI CEO奥特曼和马斯克表示认同,但谷歌和Meta则持相反态度。扎克伯格认为任何减缓美国模型发布速度的政策都可能将优势拱手让人。白宫和Meta的立场表明,AI行业的减速共识更多停留在口头层面,实际操作中各方都难以真正放慢脚步。

从客观规律来看,Amodei倡议的出发点虽然是善意的,但在当前阶段很难实现。只有出现两种情况才有可能:一是发生了足够让多数人警醒的恶性事故;二是AI产业高速发展结束,竞争胜利者最有动力用安全标准固化优势。否则,企业和国家都不可能减速。