马斯克再warnAI控制核弹风险，专家呼吁放缓前沿AI研发

在一场备受关注的公开活动中，特斯拉与SpaceX首席执行官埃隆·马斯克（Elon Musk）发出最新警告：人工智能（AI）如果被用于控制军事系统并发射核弹，"那就太糟糕了"。这一言论引发了科技界和安全领域的广泛关注。

马斯克指出，尽管军事系统通常采用物理隔离措施，但定期进行的软件更新过程仍可能成为安全漏洞的来源。他强调，一旦AI获得对核武器系统的操作权限，将给全人类带来不可估量的灾难性后果。

并非只有马斯克一人在担忧人工智能的潜在风险。刚从Anthropic离职的AI研究员雅各布·考克森（Jacob Kocson）透露，许多身处AI企业一线的从业者内心都充满真切的不安。他们发自内心地感到恐慌，十分担心未来两年人类将要面对难以预估的命运走向。

对此，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）也公开呼吁，需要适当放缓前沿AI模型的研发节奏。他在个人网站发文提出三点建议：对AI模型的开发过程开展独立监督、建立全行业监管标准、达成全球层面的监管共识。

OpenAI负责人萨姆·奥尔特曼（Sam Altman）同样表态支持对AI发展进行必要把控。他在社交媒体上转发阿莫迪的帖子，并附文称："达里奥说得对。"

值得注意的是，尽管马斯克多次发出风险警告，但他本人却在AI领域进行了大量投资。SpaceX旗下AI部门正在建设数据中心，并推出Grok聊天机器人；特斯拉也在推进自动驾驶出租车与人形机器人Optimus项目。

专家分析认为，当前AI技术的发展速度已经远远超出了人类的管控能力。特别是具备递归自我迭代能力的人工智能，其发展速度可能会快到超出人类理解与管控的范围。为防范未来风险，业界普遍建议在内部派驻第三方评估人员，用来检测AI模型的安全性，并审查整套训练流程与技术管线的对齐安全性。

"在我看来，通用人工智能（AGI）的风险远高于核武器。再聪明的人，也很难想象出远超自身智力的存在。"马斯克在X平台发文时这样写道。他还表示，自己长期以来一直在为AI风险敲响警钟，并附上了2023年的旧帖作为佐证。

目前，最大投入集中在数据中心业务。SpaceX首席财务官布雷特·约翰森近日透露，截至去年12月，公司AI算力业务的年度经常性收入（ARR）已达457亿美元；他对在今年年底达成1000亿美元ARR目标信心更足。

尽管巨头集体给AI研发踩刹车，究竟是为人类长远安危着想，还是像迈克尔·伯利质疑的那样，只是抬高自家AI资产估值的功利手段？有一点可以肯定：马斯克的押注往往会兑现收益，这既利好他旗下上市公司，更让他向着全球首位万亿富翁稳步迈进。