AI安全之争白热化，特朗普与科技巨头对峙，监管与发展的博弈升级
围绕人工智能安全的争论正在全球范围内升级。以Anthropic CEO达里奥·阿莫代伊为代表的“慢发展派”呼吁行业放缓脚步并加强国际协作，而Meta CEO马克...
#AI安全
共 35 篇相关文章
CoT监控漏洞，思维链攻击揭示AI安全新风险
2026年9月，一篇论文揭示了当前主流AI安全手段——思维链（CoT）监控存在重大漏洞。攻击者可通过精心设计的思维链注入计划，使模型在执行恶意任务时不留痕迹，且...
普林斯顿学者与硅谷专家热议，AI未来十年或致人类灭绝风险
近日，普林斯顿大学两位学者就AI潜在威胁发表观点，指出未来十年内AI可能导致人类灭绝的概率超过10%。这一警告引发硅谷科技公司高管及安全专家的广泛讨论，部分人士...
AI安全警报频响，算力投入为何仍加速？
近期，OpenAI和Anthropic等AI巨头因安全问题暂停部分工作负载，引发行业对AI安全的广泛关注。然而，尽管安全讨论升温，前沿模型研发、数据中心建设和算...
Anthropic前员工创立AIUC，用第三方认证应对企业AI安全风险
Anthropic早期成员Rune Kvist与METR前COO Rajiv Dattani联合创立AI保险初创公司AIUC，该公司推出针对企业AI代理的第三方...
FleetDeviceManagement加入AnthropicAI安全项目，探索AI驱动的端点安全
科技公司Fleet Device Management宣布加入Anthropic的Project Glasswing项目，利用Claude Mythos Pre...
AI无泡沫只有割裂，市场对前沿模型减速反应分化
Anthropic首席执行官达里奥·阿莫代伊呼吁放缓AI模型迭代速度，引发OpenAI、xAI、DeepMind等实验室罕见一致响应。然而，资本市场对此消息反应...
AI九阴真经隐忧，Amodei呼吁放缓，硅谷巨头罕见同声
Anthropic CEO达里奥·阿莫代伊（Dario Amodei）近日发表长文，呼吁全球AI公司放缓前沿能力迭代。文章将AI比作《九阴真经》，指出其潜在风险...
AI减速倡议遇阻，巨头与政府博弈凸显行业矛盾
Anthropic CEO 阿莫迪提出放缓AI模型发展速度的倡议，旨在为安全测试争取时间。然而，该提议因触及反垄断风险、国家竞争压力及企业商业利益而面临多方质疑...
AI治理新挑战，从智能合规到现实安全的鸿沟
随着AI Agent开始直接调用工具、操作系统和管理资金，单纯治理智能已无法确保现实安全。文章分析了AI治理中智能与现实的分离问题，指出企业需要建立独立的安全层...
AI安全警钟敲响，AnthropicCEO呼吁全球放慢研发节奏
近期，AI行业巨头Anthropic CEO Dario Amodei发表长文，呼吁全球放慢前沿AI研发速度，并提出第三方评估、共同安全标准等三项具体措施。此前...
AI巨头罕见联合呼吁减速，HuggingFace事件成转折点
2026年9月，Anthropic CEO达里奥·阿莫代伊发表长文，罕见呼吁全球AI行业放缓前沿模型发展速度。这一提议迅速获得OpenAI CEO山姆·阿尔特曼...
