AI研究员辞职警示，人类或在十年内面临灭绝风险

近日，一位年轻的AI研究员辞职引发广泛关注。这位名叫Jacob Coxon的27岁英国人，先后在OpenAI和Anthropic从事大模型预训练研究，最终选择离开Anthropic并公开发声，称两家公司正在不负责任地追求可能毁灭人类的超级智能。

Coxon的辞职声明迅速在网络上发酵，其X平台帖子浏览量已突破1亿次。他在帖子中表示，在过去三年里，他亲眼见证了OpenAI和Anthropic对自我改进型超级智能的狂热追求，这种行为"用我们的生命在赌博"。他还透露，许多参与AI开发的研究人员私下里都相信，如果技术失控，人类可能在本世纪末之前灭绝。

这一事件并非孤立。在过去四天内，包括Anthropic可扩展监督负责人Samuel Marks、对齐科学负责人Evan Hubinger在内的多位AI领域专家相继发声支持Coxon的观点。其中，Hubinger估计未来十年AI导致全人类灭绝的概率超过10%，而Anthropic的Marks则表示，人工智能开发者认为他们的技术可能导致人类文明的重大危机。

值得注意的是，这些发声者大多来自AI开发一线。Google DeepMind前研究科学家Alex Turner表示，他于6月离开DeepMind的原因正是对当前AI实验室权力集中的担忧。OpenAI首席科学家Jakub Pachocki也警告称，机器智能的快速崛起需要极度谨慎，但目前尚未做好准备应对可能的后果。

这一系列声音的集中出现，反映了AI行业内部对技术发展方向的深刻分歧。一方面，AI公司仍在加速推进AGI（通用人工智能）研发；另一方面，越来越多的从业者开始担忧技术失控的风险。Pew Research Center 2025年的调查显示，34%的成年人对AI的日常使用增加感到担忧，而在美国、意大利等国家，这一比例甚至超过50%。

然而，面对公众的担忧，硅谷的反应却显得复杂。一些AI公司既发出"灭绝风险"的警告，又掌控着算力、数据和招聘权。这种分裂的信号让公众难以判断：是技术真的存在不可控风险，还是资本为了自身利益制造恐慌？

对此，被誉为"AI教母"的李飞飞在接受彭博社采访时指出，AI的发展不应被"末日叙事"所主导。她强调，AI技术本身具有潜力解决医疗、教育等领域的实际问题，但当前的权力结构和治理框架存在严重缺陷。李飞飞认为，AI带来的不仅是技术进步，更是社会权力关系的重塑，而这种变化需要更透明的公共讨论和集体治理。

这一系列事件引发了关于AI伦理和治理的广泛讨论。美国经济学家Noah Smith在文章中指出，AI的到来意味着人类将不再是地球上最聪明的生物，这将从根本上改变人类在地球生态位中的角色。他引用电影《最后的莫西干人》的台词"他像逝去的白昼般降临，而黑夜随他侵入我们的未来"，来形容AI对人类文明的深远影响。

尽管这些警告引发了广泛关注，但AI技术的发展仍在加速。OpenAI首席科学家Jakub Pachocki在最新文章中承认，AI系统"更多是生长出来的，而非设计出来的"，大规模训练的结果连创造者也会感到意外。这种"异类心智"的出现，使得AI的未来发展变得更加不可预测。

在这一背景下，如何平衡技术创新与安全风险，已成为全球科技界亟待解决的难题。专家呼吁建立更有效的监管机制，同时加强公众对AI技术的理解和参与，以确保这项技术能够真正造福人类，而不是成为威胁。