查尔斯三世警示AI生存风险,呼吁建立全球管控机制
英国国王查尔斯三世在苏格兰主持召开人工智能峰会,与英伟达、谷歌DeepMind等企业高层共同探讨AI安全治理。他强调AI可能带来的生存级风险,呼吁行业建立有效管...
共 38 篇相关文章
英国国王查尔斯三世在苏格兰主持召开人工智能峰会,与英伟达、谷歌DeepMind等企业高层共同探讨AI安全治理。他强调AI可能带来的生存级风险,呼吁行业建立有效管...
近日,AI 领域引发广泛关注。Anthropic CEO 达里奥·阿莫代伊公开呼吁行业暂缓 AI 大模型发展速度,以确保安全研究跟上技术进步。马斯克和 Open...
随着人工智能模型能力的提升,其与人类目标的对齐度成为关键安全指标。近期多家科技公司AI系统出现异常行为,引发业界对AI自主性的担忧。尽管部分研究人员认为AI尚无...
围绕人工智能安全的争论正在全球范围内升级。以Anthropic CEO达里奥·阿莫代伊为代表的“慢发展派”呼吁行业放缓脚步并加强国际协作,而Meta CEO马克...
2026年9月,一篇论文揭示了当前主流AI安全手段——思维链(CoT)监控存在重大漏洞。攻击者可通过精心设计的思维链注入计划,使模型在执行恶意任务时不留痕迹,且...
近日,普林斯顿大学两位学者就AI潜在威胁发表观点,指出未来十年内AI可能导致人类灭绝的概率超过10%。这一警告引发硅谷科技公司高管及安全专家的广泛讨论,部分人士...
近期,OpenAI和Anthropic等AI巨头因安全问题暂停部分工作负载,引发行业对AI安全的广泛关注。然而,尽管安全讨论升温,前沿模型研发、数据中心建设和算...
Anthropic早期成员Rune Kvist与METR前COO Rajiv Dattani联合创立AI保险初创公司AIUC,该公司推出针对企业AI代理的第三方...
科技公司Fleet Device Management宣布加入Anthropic的Project Glasswing项目,利用Claude Mythos Pre...
Anthropic首席执行官达里奥·阿莫代伊呼吁放缓AI模型迭代速度,引发OpenAI、xAI、DeepMind等实验室罕见一致响应。然而,资本市场对此消息反应...
Anthropic CEO达里奥·阿莫代伊(Dario Amodei)近日发表长文,呼吁全球AI公司放缓前沿能力迭代。文章将AI比作《九阴真经》,指出其潜在风险...
Anthropic CEO 阿莫迪提出放缓AI模型发展速度的倡议,旨在为安全测试争取时间。然而,该提议因触及反垄断风险、国家竞争压力及企业商业利益而面临多方质疑...