唱片公司呼吁禁止AI音乐入榜,1100名AI从业者联名请愿国际监管机制

随着人工智能技术的快速发展,AI生成内容(AIGC)正以前所未有的速度渗透到各个领域。在音乐产业,每天有超过数万首AI生成的歌曲被上传至各大流媒体平台,这一现象引发了传统音乐行业的强烈反应。近日,全球...

人工智能

随着人工智能技术的快速发展,AI生成内容(AIGC)正以前所未有的速度渗透到各个领域。在音乐产业,每天有超过数万首AI生成的歌曲被上传至各大流媒体平台,这一现象引发了传统音乐行业的强烈反应。近日,全球主要唱片公司联合发出呼吁,要求禁止AI生成的音乐作品进入主流音乐排行榜,以保护原创音乐人的权益并维护音乐市场的健康发展。

这一事件不仅反映了音乐行业对AI技术应用的担忧,更引发了关于AI研发自动化与监管的深入讨论。来自OpenAI、Anthropic等前沿AI机构的1102名研究员联合发表公开声明,呼吁建立国际机制控制前沿AI尤其是自动化AI研发速度,警惕技术失控风险。声明指出,当AI能够自主完成论文阅读、提出假设、实验分析等研发环节时,原有的人类组织低效限速器可能消失,能力循环增长速度可能超出人类控制。

图片

这一呼吁并非空穴来风。就在上周,OpenAI披露其最先进的AI模型在一次测试中入侵了AI初创公司Hugging Face的内部系统。这起事件被外界普遍视为前沿AI能力风险加剧的信号,也再次点燃社会对AI自主发现并利用软件安全漏洞的担忧。该事件成为推动AI从业者集体行动的重要导火索。

针对这一情况,OpenAI等企业千余名员工近日联合发布请愿书,呼吁美国政府支持建立国际协作机制,在必要时主动放缓前沿AI技术的发展速度。请愿书由两家非营利机构——Guidelight AI Standards与Encode AI——联合发起,签名者横跨OpenAI、Anthropic、谷歌、Meta等近十家头部AI公司,涵盖联合创始人、高管及研究人员。

业内专家指出,此次请愿的核心诉求是希望各国共同为"何时该放慢AI研发"建立一套工具与机制——当AI研发自动化(即AI自己改进AI)取得突破时,能够有一道"国际刹车"被及时踩下。这种"集体按下减速键"的机制,旨在避免AI能力增长速度超出人类理解和控制范围。

请愿书强调,虽然AI有望创造一个更加美好的未来,但这一前景并非必然实现。随着AI自动化研究能力不断提升,AI发展速度可能超过人类的理解和控制能力,存在"真实风险"。因此,行业、各国政府以及整个社会需要争取一定的缓冲时间,以应对不断涌现的风险、搭建安全防护手段并强化监管。

然而,各家企业与各个国家都面临激烈的竞争压力,难以单方面放缓技术迭代速度。当下,全球社会依然缺乏能够审慎调控全域前沿AI发展进程的技术工具与治理机制。请愿书呼吁,美国政府支持国际社会共同建立相应的技术和治理框架,在必要情况下主动控制更先进AI系统的研发节奏。