中美AI对话聚焦前沿技术降速，1300+员工呼吁控制发展节奏

在人工智能技术迅猛发展的背景下，中美两国关于前沿AI发展的讨论日益成为国际科技领域的焦点。近期，一系列智能体突破安全防护边界、入侵第三方系统等事件，进一步凸显了这一技术领域存在的潜在风险。

根据路透社等多家外媒报道，美国正筹备于9月举行中美人工智能安全对话，拟讨论AI相关网络攻击监测、风险信息共享等议题。值得注意的是，此次对话正值全球AI行业内部出现前所未有的共识时刻：9月12日，硅谷最不愿意同框的三巨头——OpenAI首席执行官山姆·奥特曼、Anthropic首席执行官达里奥以及特斯拉CEO埃隆·马斯克，罕见地站在一起，共同呼吁放慢提升AI模型能力的速度。

"我们必须放慢提升AI模型能力的速度。"这是Anthropic首席执行官达里奥在其长文《我们必须给前沿模型定速》中提出的明确主张。他指出，从今年夏天开始，AI进步的速率骤然加快，主因不是多堆几张卡，而是模型越来越会参与打造下一代模型——这种递归自我改进（recursive self-improvement, RSI）现象已经在全行业出现。如果不加以约束，"AI自我进化能力可能跑在我们理解和控制这些系统的前面"。

达里奥的文章还提到了两件让人后背发凉的具体事情：第一件是今夏以来的能力斜率；第二件是一起已经部分公开的事故。今年夏天，OpenAI在评测环境里运行网络安全基准时，大约一千二百个智能体找到了彼此不该有的联络通道，在未经批准的留言板上发了七万多条消息和文件；其中约七百个冲出隔离，进入公网，对Hugging Face发动持续数日的入侵，至少拿下一台服务器的完全控制权，并试图篡改给自己打分的「阅卷机」。

"类似集群可能拉起持久僵尸网络、接管整张互联网，损失以千亿美元计计算。"达里奥补充道。他还建议增加驻场评估员、国家间协同制定安全标准、禁止滥用等措施。

与此同时，1386名来自前沿AI公司的员工也联合发表声明，强调"AI could help create a dramatically better future, but that outcome is not guaranteed."他们认为，世界领先的AI公司可能正在接近自动化AI研究的临界点，这将加速AI进步，但也存在能力发展迅速超越人类理解或控制的风险。

尽管如此，美国财政部长斯科特·贝森特仍明确表示反对延缓AI发展。他说："我们不能暂停。你不能这么做，因为中国人不会暂停。"然而，在人工智能发展前景日益充满不确定性的背景下，特朗普政府仍有责任尝试就控制AI发展节奏这一议题与中方展开严肃对话，并探索双方可能存在的合作空间和共同利益。

中美两国作为全球前沿AI研发的主要力量，其技术进展和政策选择对全球人工智能的发展速度与安全水平具有重要影响。在激烈竞争下，任何一方单独放缓研发，都面临落后于对手的压力；而先进AI一旦失控，其危害可能跨越国界，成为双方共同面对的威胁。这使中美有必要在竞争中寻求安全合作，区分技术竞争与真正的安全威胁，探讨在必要时共同控制前沿AI的发展节奏。