美两党提案AI模型终止开关，最高罚款2000万美元/日

近日，美国两党提出了一项具有里程碑意义的立法提案，要求为当前最先进的人工智能（AI）模型配备“终止开关”（Kill Switch）。这项提案的核心内容是赋予国土安全部（DHS）在特定情况下，对AI模型实施限制性措施甚至完全关停的权力，并可对违规企业处以每日高达2000万美元的巨额罚款。

根据提案细节，如果AI模型被发现存在潜在风险或滥用行为，国土安全部有权采取三种措施：首先是对模型性能进行“ throttling ”（降速），降低其运算能力；其次是实施部分功能限制；最后则是直接执行“ full shutdown ”（全面关停），彻底停止模型运行。这一机制将作为AI安全的最后一道防线，确保在极端情况下能够迅速控制风险。

值得注意的是，该法案还规定了严格的惩罚措施。如果企业在收到终止令后仍继续运营受限制的AI模型，将面临每日2000万美元的罚款，累计计算直至合规为止。这种高额罚金的设计旨在强化企业的合规意识，防止任何可能危及国家安全或公共利益的行为发生。

这项提案的提出背景与当前AI技术的快速发展密切相关。随着大型语言模型（LLM）和生成式AI技术的普及，AI系统在处理海量数据、生成复杂内容方面展现出前所未有的能力。然而，这种强大能力也带来了潜在的风险，包括但不限于虚假信息传播、隐私泄露、恶意代码生成等。特别是在军事、金融等关键领域，AI系统的失控可能导致严重后果。

对此，提案支持者认为，建立AI模型的“终止开关”机制是必要的监管手段。他们指出，尽管AI技术带来了诸多便利，但其潜在风险同样不容忽视。通过赋予政府机构在紧急情况下的干预权，可以有效防范AI系统可能引发的安全隐患。同时，高额罚款措施也将促使企业更加重视AI系统的安全性设计，从源头上减少风险发生的可能性。

不过，这项提案也引发了业界的广泛讨论。一些科技公司表示担忧，认为过于严格的监管可能抑制创新，影响美国在全球AI领域的竞争力。而另一些专家则认为，适当的监管措施恰恰是保障AI健康发展的重要前提，只有在安全可控的前提下，AI技术才能真正造福社会。

目前，该法案正处于立法程序的初期阶段，需要经过众议院和参议院的审议和投票。如果最终获得通过，这将成为全球范围内首个针对AI模型设置强制性终止机制的法律框架，对未来的AI治理模式产生深远影响。

图片展示了美国白宫外景，象征着这项重要法案的提出背景——在美国政府层面推动AI技术的规范管理。