前Anthropic研究员警告，AI自主研究或致人类灭绝风险

10月8日，一位曾深度参与前沿大模型研发的年轻科学家引发了科技界的广泛关注。27岁的雅各布·考克森（Jacob Coxon）先后在OpenAI和Anthropic两大AI巨头任职，如今他以辞职的方式公开表达了对人工智能发展的深切忧虑。

考克森在纽约市议会的AI风险听证会上指出，顶级AI实验室正在快速推进AI自主研究技术。他坦言，在自己此前的工作中，实际上就是在探索如何让AI取代人类研究人员。据其透露，OpenAI团队早在2027至2028年就计划实现AI自主科研，而这一目标的实现速度已远超预期。

"如果AI能够独立开展科学研究，人类对技术的控制力将大幅下降。"考克森强调，当前AI研发场景中已有大量代码被AI生成和修改，但安全机制尚未完善。他批评科技企业沿用互联网初创公司的"快速迭代、事后补救"模式来开发足以改变世界的AI技术，认为这种做法过于冒险。

"人类失去对AI主导权的概率超过五成，极端情况下甚至可能导致人类灭绝。"考克森在社交媒体上直言不讳地表示，许多AI从业者内心其实都对这项技术可能带来的威胁感到担忧，这并非营销噱头。

这张图片生动地展现了AI与人类工作的对比：一个机器人正在处理文件，而旁边的人类则显得疲惫不堪。这正是考克森所担忧的场景——随着AI能力的提升，人类在工作中的地位可能被逐渐取代。

考克森的警告并非孤立的声音。事实上，围绕AI风险的讨论早已在硅谷的安全研究者圈子中存在多年。早在2010年代初，一群聚集在旧金山湾区的AI安全研究人员就开始探讨AI失控的可能性。埃利泽·尤德科夫斯基（Eliezer Yudkowsky）等人的思想通过博客和社区逐渐影响了这个圈子。

"一切再也无法平静如初。"一些研究员的电脑上贴着这样一句话。这群人后来成为Anthropic的核心成员，包括达里奥·阿莫迪（Dario Amodei）等人。他们不仅关注AI风险，还讨论过彗星撞击、超级火山等其他全球性灾难。

近年来，随着AI技术的快速发展，这些长期存在的担忧开始进入公众视野。今年9月初，考克森在X平台上的一条帖子获得了1.74亿次浏览，让AI失控的风险问题成为热议话题。

照片中的雅各布·考克森，这位曾经推动AI研究的科学家，如今却成为了AI风险的坚定反对者。他的经历反映了AI领域从业者的复杂心态：一方面推动技术进步，另一方面又担心其潜在危害。

考克森呼吁各大AI实验室提高运作透明度，适当放慢研发节奏，不要在缺乏充分防护的情况下盲目追求超级智能。他认为，AI安全问题需要更广泛的社会关注和更严格的监管措施。

"这不是科幻电影的情节，而是我们正在面临的现实挑战。"考克森说，"我们必须认真对待这个问题，否则后果不堪设想。"

随着AI技术的不断进步，人类社会正面临着前所未有的机遇与挑战。考克森的警告提醒我们，在追求技术创新的同时，必须建立有效的安全机制和伦理框架，确保AI的发展始终服务于人类的福祉。