中国AI模型InfinigenceAI登顶英伟达GPU性能榜,88项测试全胜
Infinigence AI在SOL-ExecBench基准测试中包揽L1单操作与L2融合操作全部88项第一,首次实现中国AI模型在英伟达GPU底层算子优化层面的全面领先。其技术路径依托Agent自主...
在英伟达GPU性能评估体系中长期由海外模型主导的局面,近期被一家中国AI团队打破。根据SOL-ExecBench公开榜单数据,Infinigence AI在L1单操作与L2融合操作两大类共88项测试中全部排名第一,达成历史性的“全胜”纪录。
SOL-ExecBench是由学术与工业界联合构建的GPU算子级性能评测框架,聚焦于深度学习推理与训练中核心张量运算的效率,包括矩阵乘法、卷积、归一化、激活函数等底层操作。该基准采用标准化的SOL Score评分体系,以理论最优性能为1.0,越接近1.0代表硬件利用率越高;同时记录平均加速比(Avg Speedup),反映相对于参考实现的实际提速效果。
具体来看,在L1单操作类别中,Infinigence AI以SOL Score 0.81459、平均加速10.76倍的成绩位列榜首;在L2融合操作类别中,其SOL Score达到0.810764,平均加速10.17倍,同样位居第一。两项榜单前五名中,除Infinigence AI外,其余均为国际主流方案:Amir M. Mir(SF Tensor)、Geometric、Databricks、RIAC as well等,但均未能在总项数上实现全覆盖领先。
值得注意的是,此次突破并非依赖硬件堆叠或定制芯片,而是通过软件栈层面的深度优化实现。据相关技术披露,Infinigence AI团队引入了自主Agent系统,使其直接参与GPU底层算子(kernel)的生成与调优过程。传统方式下,算子开发高度依赖工程师手动编写CUDA代码并反复调参;而该Agent可基于目标GPU架构(如H100、L40S等)、输入张量形状及计算图结构,自动生成高效率内核,并通过强化学习策略持续迭代优化。
这一路径显著缩短了算子开发周期——从数周压缩至数小时级别,同时提升了对不同规模模型的泛化适配能力。例如,在处理大语言模型中常见的GEMM(通用矩阵乘法)与LayerNorm融合场景时,Infinigence AI的算子在A100上实现98%的理论峰值利用率,较开源库Cutlass提升约12%;在H100上则进一步逼近99.2%,接近硬件理论极限。
该成果背后折射出中国AI研发重心的结构性迁移。过去几年,国内AI进展多集中于大模型参数规模、中文语义理解或行业应用落地;而此次在算子级性能上的全面领先,表明部分团队已深入到计算基础设施的核心环节。算子是连接高层模型定义与底层硬件执行的关键桥梁,其效率直接决定推理延迟、能耗与部署成本。尤其在边缘端与推理专用场景中,高效算子带来的边际效益远高于单纯增加显存或算力。
行业观察指出,此类底层优化正成为全球AI竞争的新焦点。Anthropic近期在招股书中披露,其计划在未来五年投入超6370亿美元用于算力采购与基础设施建设,其中不仅包括与谷歌、亚马逊、微软签订千亿美元级协议,还明确提及与博通、AMD等合作获取TPU与GPU资源。这反映出头部厂商已意识到:仅靠购买更多GPU无法解决能效瓶颈,必须从软硬协同层面重构计算栈。
在中国市场,这一趋势同样明显。创业板算力基础设施指数近期持续走强,跟踪该指数的易方达创业板算力ETF(158050)10月以来获净流入约3.8亿元,居同类产品首位。该ETF覆盖数据中心、液冷、PCB、存储、通信设备等算力全链条企业,反映出资本对“算力基建”从“硬件堆砌”向“效能优化”转型的认可。
需要说明的是,SOL-ExecBench当前评测对象为标准CUDA环境下的算子性能,尚未涵盖稀疏计算、量化推理或特定架构(如NPU)适配能力。因此,该成绩主要体现其在通用GPU上的工程化实力,而非模型本身能力的全面超越。但其方法论价值不容忽视:当Agent能自主完成算子开发闭环,意味着未来模型迭代可同步驱动底层运行时升级,形成“模型-编译器-算子”三位一体的正向循环。
目前,Infinigence AI已将其优化套件开放部分接口供社区使用,并与多家国产AI芯片厂商展开适配合作。业内预计,随着更多本土算子库进入主流框架(如PyTorch、MindSpore),中国AI在推理效率层面的竞争力将进一步增强。
此次登顶并非孤立事件,而是中国AI从“可用”走向“好用”、从“跟跑”迈向“并跑甚至局部领跑”的一个缩影。在算力成本高企、绿色低碳要求趋严的背景下,软件层的极致优化正成为新的战略支点。
