27岁前Anthropic研究员警告AI或致人类灭绝

近日，曾供职于OpenAI和Anthropic的27岁研究员雅各布·考克森在纽约市议会的AI风险听证会上发出警示。考克森指出，顶级AI实验室正在快速推进AI自主研究技术，其目标是让AI取代人类研究人员。据他透露，OpenAI团队早在2027至2028年就计划实现AI自主科研，而这一目标的实现速度已远超预期。

考克森强调，如果AI能够独立开展科学研究，人类对技术的控制力将大幅下降。他批评科技企业沿用互联网初创公司的“快速迭代、事后补救”模式来开发足以改变世界的AI技术，认为这种做法过于冒险。考克森直言不讳地表示，人类失去对AI主导权的概率超过五成，极端情况下甚至可能导致人类灭绝。

考克森的警告并非孤立的声音。事实上，围绕AI风险的讨论早已在硅谷的安全研究者圈子中存在多年。早在2010年代初，一群聚集在旧金山湾区的AI安全研究人员就开始探讨AI失控的可能性。埃利泽·尤德科夫斯基等人的思想通过博客和社区逐渐影响了这个圈子。这些长期存在的担忧随着AI技术的快速发展开始进入公众视野。

考克森呼吁各大AI实验室提高运作透明度，适当放慢研发节奏，不要在缺乏充分防护的情况下盲目追求超级智能。他认为，AI安全问题需要更广泛的社会关注和更严格的监管措施。考克森提醒我们，在追求技术创新的同时，必须建立有效的安全机制和伦理框架，确保AI的发展始终服务于人类的福祉。