比尔盖茨与微软总裁警告AI安全风险超药品监管弱于牛奶

微软联合创始人比尔·盖茨与总裁布拉德·史密斯近日接连警示人工智能安全风险。盖茨在10月11日采访中明确表示，AI是“人类发明过的最危险技术”，其潜在危害程度超过汽车、飞机乃至药品——这些领域均有成熟强制监管，而AI几乎处于监管真空。他强调，当前最现实威胁并非AI失控，而是不法分子利用模型绕过安全护栏实施恶意行为：主流大模型的防护机制（如内容过滤）易被提示词工程或微调绕过，“我们设置了防止生物恐怖主义的护栏，但你现在被允许把所有护栏都拆掉”。盖茨预测，未来12个月内，网络安全领域将出现大量负面事件，尤其可能针对金融系统、电网等关键基础设施。英国军情五处也指出，AI正显著降低获取生化武器知识的技术门槛。

史密斯在BBC采访中量化监管缺位：“超市货架上的每一盒牛奶，以及你家中的每一台洗衣机，都要遵守比AI系统更严格的安全规定。”他提出三项具体建议：嵌入可触发的“紧急制动开关”、建立强制事件报告制度、引入产品发布前政府评估审批机制（类比FDA流程）。但他承认该方案在美国政治环境下极具挑战，当前政策仍倾向依赖企业自愿协议。

技术层面，主流大语言模型作为概率生成系统，其护栏多为后处理过滤，非底层内生安全；2023年以来GPT-4、Claude 3、Llama等模型均被公开越狱。开源模型与自动化攻击工具（如AutoJailbreak）加速AI滥用平民化，暗网已出现定制恶意AI代理服务。全球尚无统一安全标准：欧盟《人工智能法案》高风险清单未完全落地，美国NIST框架属自愿性质，中国暂行办法侧重内容合规。

微软已加强红队测试、推出Azure AI Safety Toolkit并协同CISA开发基准，但盖茨强调个体努力无法替代系统性治理。短期风险聚焦深度伪造金融诈骗、AI辅助供应链攻击及生物信息学滥用。他保持审慎乐观，呼吁各方迅速形成共识行动，避免亡羊补牢——距离其预言的“未来一年”窗口期已不足12个月。