千人联名呼吁暂停AI大模型研究,OpenAI却反其道而行
近日,包括马斯克、本吉奥在内的1000多位科技界人士联名呼吁暂停AI大模型研究至少6个月。然而,OpenAI却在三个月内第二次叫停前沿模型开发后,宣布暂停最新一代人工智能模型训练。这一事件引发了关于A...
近日,一场关于人工智能(AI)发展的争论在全球科技界掀起轩然大波。一封由Future of Life Institute(FLI)发起的公开信,要求所有人工智能实验室暂停训练比GPT-4更强大的AI系统至少6个月,引发了广泛关注和争议。
这封公开信得到了包括特斯拉CEO埃隆·马斯克、图灵奖得主约书亚·本吉奥(Yoshua Bengio)以及苹果联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)等1000多位学界和业界人士的签名支持。他们认为,具有人类竞争力的人工智能系统可能对社会和人类构成深刻风险,因此需要暂停相关研究,以便制定更严格的安全协议。
然而,就在联名信发布后不久,OpenAI却宣布暂停其最新一代人工智能模型的训练。这是OpenAI在三个月内第二次叫停前沿模型开发。这一举动被一些人解读为对联名信的呼应,但也有人质疑OpenAI是否真的会按照联名信的要求暂停AI研究。
值得注意的是,尽管联名信获得了大量知名人士的支持,但其中一些署名人却表示自己并未签署该信件。例如,谷歌首席科学家杨立昆(Yann LeCun)就在社交媒体上明确表示自己没有签署这封信,并且不同意其前提。此外,公开信中提到的“暂停6个月”这一具体时间要求也引发了争议,许多业内人士认为这种做法过于理想化,难以在实际操作中落实。
与此同时,AI技术的发展并未停止。OpenAI开放了一批GPT-4 API接口申请,开发者们正兴奋地想要将这项技术应用到他们的产品中。Pre AGI(接近通用人工智能)时代的序幕已经缓缓拉开,AI是否会停下来?又或者像网友所说的,“你想要叫停福特A型车的量产吗?”
图1展示了部分联名签署者的照片,包括特斯拉CEO埃隆·马斯克和图灵奖得主约书亚·本吉奥。他们的名字出现在公开信的签名列表中,但正如前面提到的,一些署名人表示自己并未签署该信件。
图2显示了谷歌首席科学家杨立昆在社交媒体上的声明,他明确表示自己没有签署这封公开信,并且不同意其前提。这一表态进一步引发了关于联名信真实性和有效性的讨论。
这场争论不仅反映了人们对AI技术发展的担忧,也暴露了科技界内部在如何平衡创新与安全方面的分歧。随着AI技术的不断进步,如何制定合理的监管政策,确保技术的安全可控,将成为未来一段时间内的重要议题。
