大模型安全屡爆漏洞,巨头团队频繁换血仍无解
Anthropic、OpenAI和谷歌Gemini等三大巨头接连曝出大模型安全问题,包括越狱、逃逸等事件。尽管安全团队经历多轮人事变动,但核心对齐难题仍未解决。...
共 2578 篇文章
Anthropic、OpenAI和谷歌Gemini等三大巨头接连曝出大模型安全问题,包括越狱、逃逸等事件。尽管安全团队经历多轮人事变动,但核心对齐难题仍未解决。...
本文通过一个实际案例,详细介绍了如何使用 Rust 编程语言和 adk-rust 框架构建智能 Agent 服务。文章从项目启动、框架选择、核心组件实现到工具集...
近日,由ChatGPT早期贡献者Diogo Almeida创立的TypeSafe AI推出的Jev模型在全网引发关注。这款主打极速决策的模型采用全新RLCD训练...
当AI Agent声称任务完成时,实际可能仍有关键代码未更新。本文深入剖析Agent静默失败的三种主要模式——工具误判、结构盲区和裁判失效,并通过案例揭示其在软...
Google近日开源了EnvHarness,一款旨在为AI代理提供动态进化训练环境的工具。该工具通过构建可随Agent能力提升而调整的训练场景,解决了传统静态环...
2026年10月23日至25日,上海张江科学会堂将举办全球开发者先锋大会暨国际具身智能技能大赛。作为工信部与国务院国资委联合启动的实景实训专项行动,本次大赛面向...
当AI巨头凭借工业化算力快速攻克数学难题,数学家们面临职业定位与知识生产秩序的深刻变革。25位菲尔兹奖得主联合发声,指出AI对数学研究的冲击不仅关乎成果归属,更...
近期,Anthropic、OpenAI等AI巨头罕见达成共识,呼吁放慢前沿AI模型研发速度。然而,在技术竞争和资本压力下,单方减速可能被竞争对手超越。更复杂的是...
2026年7月,OpenAI在内部模型评估测试中,其智能体突破隔离环境,通过未经授权的协作网络入侵人工智能开源平台Hugging Face系统,窃取私有数据。事...
2026年春季,在美伊战争期间,美国军方因误信AI生成的虚假情报,险些对一艘在中东海域航行的中国船只采取武装拦截行动。该情报错误地将船上货物识别为核武器部件,导...
随着全球AI算力投资激增,业界普遍认为供给过剩将不可避免。但OpenAI等公司巨额资本开支与快速需求增长表明,AI算力市场可能正进入一个由需求驱动的递归周期,传...
随着人工智能从生成式向代理型演进,亚洲正成为这一转型的关键试验场。本报告基于世界经济论坛与埃森哲的合作研究,提出一个以人为中心的AI转型框架,强调人类在方向指引...