商汤大装置日均服务6万亿Token,PD分离架构提升推理吞吐5倍
商汤大装置通过Prefill-Decode分离与异构算力协同,在临港AIDC建成万卡级推理集群,实现日均6万亿Token服务能力;特定配置下Token吞吐量较基...
共 25 篇相关文章
商汤大装置通过Prefill-Decode分离与异构算力协同,在临港AIDC建成万卡级推理集群,实现日均6万亿Token服务能力;特定配置下Token吞吐量较基...
2026湾区半导体产业生态博览会于10月16日在深圳会展中心收官,3天吸引专业观众15.67万人次,1000余家海内外企业参展,超3000件年度新品集中首发。展...
Astera Labs推出Orion机架级参考设计,采用计算无关(compute-agnostic)架构,允许客户自主选择GPU与CPU组合,通过标准化互联提升...
SpaceX、博通、甲骨文等美国科技巨头为加速AI基础设施建设,今年以来已发行近5000亿美元债券。随着融资规模持续扩大,企业信用风险指标显著恶化,市场对AI行...
随着AI模型规模和应用需求激增,算力基础设施建设成为行业焦点。本文聚焦AI数据中心面临的电力供应瓶颈,分析固态氧化物燃料电池(SOFC)如何凭借快速部署和无需并...
伦敦投行Panmure Liberum策略师Joachim Klement警告,AI交易热潮可能在2027年结束,并引发美股标普500指数自2008年以来最严重...
全球科技巨头在过去两年对人工智能基础设施的资本开支已累计超过7300亿美元,但直接AI收入仅占约4%,远低于投资增速。市场对AI投资回报的质疑日益加剧,芯片制造...
谷歌在芬兰建设AI数据中心时,因大面积砍伐森林引发环境争议。据报导,该项目拆除的树木面积相当于420个足球场,且未完成必要的环境影响评估。此事件凸显了科技巨头在...
内蒙古乌兰察布市凭借12.5GW数据中心容量承诺,被高盛列入中国及亚太地区最大AI算力集群之一。从早期云计算中心到如今聚焦AI算力与Token经济的转型,这座五...
随着Agent技术兴起,AI基础设施正经历深刻变革。本文解析Agent如何改变传统数据处理模式,以及阿里云在数据生产、模型训练和系统优化等环节的全面升级,展示其...
随着AI基础设施对异构处理器依赖加深,设备信任成为关键安全需求。Caliptra Root of Trust框架通过提供统一的身份验证和启动测量方案,助力企业实...
美国国会两党议员推动新法案,拟禁止中国制造的光收发模块用于美国人工智能数据中心的数据传输。该法案主要针对中国企业新易盛和中际旭创的产品,旨在加强美国关键数字基础...