查尔斯三世警示AI生存风险，呼吁建立全球管控机制

9月17日，英国国王查尔斯三世在苏格兰邓弗里斯庄园主持了一场高端人工智能峰会。这场会议吸引了包括英伟达CEO黄仁勋、谷歌DeepMind、OpenAI、Anthropic等头部AI企业的高层代表，以及英国政府官员和AI伦理专家参与。

作为英国君主，查尔斯三世较少直接介入前沿科技争议议题。此次专门召集AI巨头闭门研讨安全治理，让这场会议受到全球关注。他在会上发出警示称，强大的人工智能一旦落入别有用心之人手中，可能带来关乎人类存续的生存级风险。

"我们必须破除外界流传的一些不实说法，并呼吁秉持‘负责任的乐观态度’"，黄仁勋着重阐述了人工智能在科研与医疗领域带来的益处，以及它"在全新行业创造就业岗位"的潜力。但查尔斯三世明确表示，当下必须严肃评估AI被恶意滥用后引发灾难性后果的生存危险。

他向与会者抛出两大核心议题：如何以安全为核心，合理挖掘AI技术红利；如何搭建跨国协作共识，不让任何国家在AI治理浪潮中掉队，最终保障人类自身的存续。他强调，AI的发展速度与技术潜力，既让人充满期待，也令人深感忧虑，技术的前进不能牺牲人类的主导权，人性的价值应当始终被放在首位。

"开发AI的人真的相信，它可能在这个十年结束前杀死我们所有人。" Anthropic研究员Jacob Coxon的辞职声明引发了业界震动。Coxon认为，AI在未来十年内导致全人类灭亡的概率超过10%。这一观点得到了Anthropic另一名员工埃文·休宾格的支持，他认为"我们确实真心认为，AI有可能杀死全人类！"

这种对AI潜在威胁的担忧并非个例。比尔·盖茨、SpaceX首席执行官马斯克、OpenAI首席执行官奥特曼等科技界重量级人物也纷纷发声，呼吁放缓人工智能开发步伐。9月14日，Anthropic CEO达里奥·阿莫代伊发布博文，直指"AI风险正在加速上升，发展速度必须放缓"。

随着AI技术的快速发展，其潜在风险也在不断显现。2026年8月，斯坦福大学研究人员利用AI基因组语言模型，从零设计出了16个功能性噬菌体病毒。这些病毒的出现引发了关于生物安全的广泛讨论。德国汉堡大学生物安全研究员敦雅·萨布拉指出，当越来越强大的AI与越来越容易获取的生物技术结合在一起，风险也随之上升。

"如果一个人真的下定决心去做，最终成功的可能性并不低。"萨布拉说。尽管目前存在一些防护措施，如专业公司筛查可疑订单、研究机构进行多轮安全评估等，但这些防线都不是牢不可破的。

面对AI带来的多重挑战，国际社会正在寻求解决方案。查尔斯三世呼吁各国政府、企业和研究机构加强合作，共同制定AI安全标准和监管框架。他强调，AI的发展不能以牺牲人类的安全为代价，必须确保这项技术始终服务于人、社群与自然环境。

这场峰会不仅揭示了AI技术发展的光明前景，更凸显了其潜在的巨大风险。如何在推动技术创新的同时，有效防范可能的灾难性后果，已成为全球科技界亟待解决的重大课题。