AI数据中心网络瓶颈凸显,十万卡集群带宽利用率仅38%
过去几年,人们习惯用单颗GPU的算力指标衡量AI基础设施先进程度。然而,2026年这一逻辑已被改写:当大模型训练集群规模从千卡迈向万卡甚至十万卡时,真正的瓶颈已...
共 13 篇相关文章
过去几年,人们习惯用单颗GPU的算力指标衡量AI基础设施先进程度。然而,2026年这一逻辑已被改写:当大模型训练集群规模从千卡迈向万卡甚至十万卡时,真正的瓶颈已...
在人工智能技术快速演进的背景下,全球科技巨头纷纷加码AI基础设施建设。近日,甲骨文(Oracle)正式披露其企业AI战略升级计划,核心在于将Agent技术深度嵌...
美国科技界两大巨头SpaceX与英伟达近日达成深度绑定,这一消息引发了行业广泛关注。据SpaceX首席执行官埃隆·马斯克在最新财报电话会议上的透露,公司已正式决...
在人工智能技术快速发展的今天,数据中心正在经历一场深刻的变革。从传统的高性能计算(HPC)虚拟化到如今支撑大规模AI训练和推理的专用节点,数据处理的需求已经发生...
一座AI机房里,最贵的是GPU,但GPU不能独自完成计算。几万张卡要协同工作,数据在服务器间来回奔跑。铜线跑不远,跑远了还费电,于是电信号要进光模块,变成光,在...
在人工智能技术快速发展的背景下,全球科技巨头纷纷加大数据中心和算力基础设施的投资力度。然而,社交媒体平台LinkedIn近日却宣布了一项与行业主流趋势相悖的决策...
在人工智能领域,顶级计算资源的投入往往伴随着巨大的期望。然而,近期一位从事推荐系统开发的朋友向科技媒体爆料,其团队购置了价值数百万的8张英伟达H100 GPU后...
近日,Nvidia在其最新的技术发布会上详细介绍了Rubin架构在推理优化方面的重大升级。这一架构的优化不仅针对GPU本身进行了深度调整,还涵盖了从单个芯片到整...
近年来,人工智能技术的迅猛发展离不开高性能计算硬件的支持,其中图形处理器(GPU)扮演着核心角色。然而,这种技术进步背后隐藏着不容忽视的环境代价,引发了关于AI...
Kimi K3引爆AI圈:算力挑战随之而来 7月19日晚,月之暗面旗下产品Kimi K3发布不到一周,便因火爆程度超出预期而按下"暂停键"。公司发布公告称,由于...
一个领域的繁荣往往伴随着陷阱,而真正的突破需要长期的耐心与积累。最近的例子是英伟达(NVIDIA)的CUDA团队,这个曾被视为"吃闲饭"的边缘部门,在持续亏损三...
NVIDIA(英伟达)当地时间昨日宣布推出首个GeForce典藏卡系列,这一举措标志着该公司对PC游戏显卡发展历程的深度回顾与致敬。 据IT之家报道,这套免费典...