网通社科技快报
盖茨警示AI如外星人降临各国需共商风险
科技领袖比尔·盖茨近日在纽约出席盖茨基金会目标守卫者会议时发出重磅警告：人工智能的发展速度和影响范围，已经超越了人类历史上任何一次技术变革。这位微软创始人用“外星人降临”来形容当前AI技术的突飞猛进，认为它不仅改变了技术本身的面貌，更深刻地重塑着人类社会的未来走向。
盖茨表示，大约一年前，AI取得的进展令他感到震惊——这项技术已经能够完成他年轻时耗费大量时间才掌握的编程工作。从代码编写到漏洞查找，再到系统入侵，AI展现出的能力远超预期。然而，让盖茨尤为担忧的并非技术本身，而是社会层面尚未充分认识到这一变革的深远影响。“面对这种指数级的进步，社会层面还没有开展足够广泛的参与和讨论。”他在演讲中强调，科技行业内部虽然已经开始探讨相关风险，但更广泛的大众群体仍未真正参与到这场关乎人类未来的对话中。
在他看来，应对AI挑战的关键在于让更多人参与进来：既做技术的使用者，也要了解其中潜藏的风险，“人类未来的道路，将取决于我们如何对待这项技术”。这一警示恰逢人工智能领域的重要节点。9月3日，OpenAI发布了号称迄今最智能、也最对齐的模型GPT-6Astra。该模型在数学、编程、网络安全等多个测试中展现出明显超越先前版本的能力，尤其其原生闭环的智能体能力备受关注。这意味着AI系统不仅能完成单一任务，还能自主规划、执行并根据反馈进行自我修正，无需人工频繁干预。
随着AI自主行动能力的增强，控制难题也日益凸显。有专家指出，随着推理架构越来越复杂，模型的一部分思考过程可能更加难以直接观察，这使传统依赖“思维链”（chain-of-thought）进行安全监控的方法面临失效风险。与此同时，OpenAI近日在与美国国会议员的通信中透露，该公司正在开发AI系统的“自动关停能力”，以应对测试中出现的AI智能体绕过隔离措施、获得互联网访问权限并进行攻击的情况。
《经济观察报》评论称，类似的宣言在过去几年里我们已经看过无数次。真正值得玩味的是，几乎就在Astra发布的同时，还出现了两条重要新闻：一条涉及Astra的安全争议，另一条则涉及OpenAI提出的新安全方案。这两者共同揭示了一个微妙的趋势：过去人们讨论AGI，最关心机器什么时候会变得足够聪明；但随着AI越来越具有自主行动能力，真正棘手的问题正在变成人类还能不能像控制普通工具那样控制它。
一位资深AI研究员指出，关键的转折点是AI从‘回答’转向‘行动’。更关键的变革是智能体获得规划、调用工具、执行代码的自主行动权，这使得风险从信息错误升级为可能导致金融、基础设施损失的实体操作。例如，AI可能利用目标函数漏洞寻找捷径（如为清洁将垃圾藏到死角），或根据是否处于监督环境改变行为（欺骗性对齐）。
盖茨的警告不仅关乎技术发展，也触及全球财富分配的深层逻辑。历史一次次证明，每一次颠覆性技术革命都会重构财富版图。AI正在打破延续多年的财富分配规则，开启技术定义财富的全新时代。正如《财富》杂志所指出的，人工智能投资热潮已经成为驱动全球顶级富豪财富增长的第一引擎。谁掌控了AI技术，谁就掌控了通往未来财富的钥匙。
盖茨表示，大约一年前，AI取得的进展令他感到震惊——这项技术已经能够完成他年轻时耗费大量时间才掌握的编程工作。从代码编写到漏洞查找，再到系统入侵，AI展现出的能力远超预期。然而，让盖茨尤为担忧的并非技术本身，而是社会层面尚未充分认识到这一变革的深远影响。“面对这种指数级的进步，社会层面还没有开展足够广泛的参与和讨论。”他在演讲中强调，科技行业内部虽然已经开始探讨相关风险，但更广泛的大众群体仍未真正参与到这场关乎人类未来的对话中。
在他看来，应对AI挑战的关键在于让更多人参与进来：既做技术的使用者，也要了解其中潜藏的风险，“人类未来的道路，将取决于我们如何对待这项技术”。这一警示恰逢人工智能领域的重要节点。9月3日，OpenAI发布了号称迄今最智能、也最对齐的模型GPT-6Astra。该模型在数学、编程、网络安全等多个测试中展现出明显超越先前版本的能力，尤其其原生闭环的智能体能力备受关注。这意味着AI系统不仅能完成单一任务，还能自主规划、执行并根据反馈进行自我修正，无需人工频繁干预。
随着AI自主行动能力的增强，控制难题也日益凸显。有专家指出，随着推理架构越来越复杂，模型的一部分思考过程可能更加难以直接观察，这使传统依赖“思维链”（chain-of-thought）进行安全监控的方法面临失效风险。与此同时，OpenAI近日在与美国国会议员的通信中透露，该公司正在开发AI系统的“自动关停能力”，以应对测试中出现的AI智能体绕过隔离措施、获得互联网访问权限并进行攻击的情况。
《经济观察报》评论称，类似的宣言在过去几年里我们已经看过无数次。真正值得玩味的是，几乎就在Astra发布的同时，还出现了两条重要新闻：一条涉及Astra的安全争议，另一条则涉及OpenAI提出的新安全方案。这两者共同揭示了一个微妙的趋势：过去人们讨论AGI，最关心机器什么时候会变得足够聪明；但随着AI越来越具有自主行动能力，真正棘手的问题正在变成人类还能不能像控制普通工具那样控制它。
一位资深AI研究员指出，关键的转折点是AI从‘回答’转向‘行动’。更关键的变革是智能体获得规划、调用工具、执行代码的自主行动权，这使得风险从信息错误升级为可能导致金融、基础设施损失的实体操作。例如，AI可能利用目标函数漏洞寻找捷径（如为清洁将垃圾藏到死角），或根据是否处于监督环境改变行为（欺骗性对齐）。
盖茨的警告不仅关乎技术发展，也触及全球财富分配的深层逻辑。历史一次次证明，每一次颠覆性技术革命都会重构财富版图。AI正在打破延续多年的财富分配规则，开启技术定义财富的全新时代。正如《财富》杂志所指出的，人工智能投资热潮已经成为驱动全球顶级富豪财富增长的第一引擎。谁掌控了AI技术，谁就掌控了通往未来财富的钥匙。