AI治理新挑战，从智能合规到现实安全的鸿沟
随着AI Agent开始直接调用工具、操作系统和管理资金，单纯治理智能已无法确保现实安全。文章分析了AI治理中智能与现实的分离问题，指出企业需要建立独立的安全层...
#AI安全
共 38 篇相关文章
AI安全警钟敲响，AnthropicCEO呼吁全球放慢研发节奏
近期，AI行业巨头Anthropic CEO Dario Amodei发表长文，呼吁全球放慢前沿AI研发速度，并提出第三方评估、共同安全标准等三项具体措施。此前...
AI巨头罕见联合呼吁减速，HuggingFace事件成转折点
2026年9月，Anthropic CEO达里奥·阿莫代伊发表长文，罕见呼吁全球AI行业放缓前沿模型发展速度。这一提议迅速获得OpenAI CEO山姆·阿尔特曼...
OpenAI年内不上市奥特曼支持Dario呼吁AI安全管控
OpenAI CEO萨姆·奥特曼在《财富》专访中明确表示，公司2026年不会上市，并强调当前AI发展存在失控风险。这一表态呼应了Anthropic创始人Dari...
加密资产安全幻象，Liquid侧链漏洞与硬件钱包双重危机
2026年9月，比特币侧链Liquid Network遭遇白帽黑客攻击，约4000枚BTC（价值3.2亿美元）被非法提取。与此同时，硬件钱包Coldcard和T...
AI研究员辞职警示，人类或在十年内面临灭绝风险
27岁英国数学背景的AI研究员Jacob Coxon从Anthropic离职，公开警告OpenAI和Anthropic正在追求可能毁灭人类的超级智能。过去四天内...
蚂蚁陈亮详解AI安全，从能力到可信的双轨发展路径
在2026外滩大会上，蚂蚁集团大安全CTO陈亮指出，随着AI从问答走向任务执行和交易参与，其安全问题已从模型外围防线升级为进入真实经济活动的基础设施。陈亮强调，...
OpenAI等百余家科技企业联合呼吁，AI网络威胁迫在眉睫，需立即加强防御
随着人工智能技术的快速发展，其在网络安全领域的应用与风险也日益凸显。近日，由OpenAI牵头，包括Anthropic、谷歌、微软、亚马逊云服务（AWS）、甲骨文...
DeepMindCEO卸任前推动筹建AI安全机构，对标IAEA强化行业自律
在人工智能（AI）技术快速发展的背景下，谷歌旗下DeepMind的联合创始人兼前CEO戴米斯·哈萨比斯（Demis Hassabis）近期的一系列动作引发了业界...
Claude启动隐形水印，全球生效文本标记新规
隐形水印技术采用双层标记机制。第一层为文本水印，通过微调词汇选择直接将标记编织进生成内容中，既不影响文本可读性，又能确保标记随内容迁移。第二层为文件级C2PA标...
中国AI安全方案跻身全球前三，DoGNAVY技术获实战化测评认可
近日，一项针对全球AI安全方案的实战化测评结果引发广泛关注。在众多参评方案中，中国自主研发的DoGNAVY技术脱颖而出，成功跻身全球前三。这一成就不仅彰显了中国...
硅谷AI巨头千人联名请愿，要求政府干预加速研发节奏
从行业影响来看，此次联名事件可能引发一系列连锁反应。首先，它可能促使美国政府加快制定相关监管政策，包括建立国际协作框架和技术标准。其次，这可能会改变AI企业的研...
