网通社科技快报
Infinigence AI包揽88项英伟达GPU算子性能第一
中国AI公司Infinigence AI近期在英伟达GPU性能评测体系中实现重大突破：在SOL-ExecBench基准测试的L1单操作与L2融合操作两大类别共计88项测试中全部排名第一，达成历史首次“全胜”纪录。SOL-ExecBench是由学术界与工业界共建的算子级评测框架，聚焦深度学习核心张量运算效率，采用SOL Score（理论最优为1.0）与平均加速比双重指标评估。Infinigence AI在L1类获SOL Score 0.81459、平均加速10.76倍；L2类为0.810764、平均加速10.17倍，显著领先于Amir M. Mir、Geometric等国际方案。
此次突破未依赖硬件升级，而是通过软件栈深度优化实现。团队引入自主Agent系统，使其直接参与GPU底层算子（kernel）生成与调优：Agent基于目标GPU架构（如H100、L40S）、输入张量形状及计算图结构，自动生成高效率CUDA内核，并结合强化学习持续迭代。该方法将算子开发周期从数周压缩至数小时，在A100上GEMM+LayerNorm融合场景达98%理论峰值利用率（较Cutlass提升12%），H100上逼近99.2%。
该成果反映中国AI研发重心正从大模型参数规模、中文理解等应用层，向算子、编译器等基础设施层迁移。算子作为模型与硬件间的桥梁，其效率直接影响推理延迟、能耗与部署成本，尤其在边缘与推理场景中边际效益突出。行业趋势显示，全球头部企业已转向软硬协同重构计算栈，而国内资本亦加速布局——易方达创业板算力ETF（158050）10月以来净流入3.8亿元，凸显对“效能优化”路径的认可。
需说明的是，当前评测限于标准CUDA环境，未覆盖稀疏计算、量化或NPU适配，成绩主要体现通用GPU工程实力。但其方法论意义重大：Agent驱动的算子闭环开发，有望推动“模型-编译器-算子”三位一体正向循环。目前Infinigence AI已开放部分接口，并与国产AI芯片厂商推进适配，预计本土高效算子库将逐步融入PyTorch、MindSpore等主流框架，进一步提升中国AI推理竞争力。
此次突破未依赖硬件升级，而是通过软件栈深度优化实现。团队引入自主Agent系统，使其直接参与GPU底层算子（kernel）生成与调优：Agent基于目标GPU架构（如H100、L40S）、输入张量形状及计算图结构，自动生成高效率CUDA内核，并结合强化学习持续迭代。该方法将算子开发周期从数周压缩至数小时，在A100上GEMM+LayerNorm融合场景达98%理论峰值利用率（较Cutlass提升12%），H100上逼近99.2%。
该成果反映中国AI研发重心正从大模型参数规模、中文理解等应用层，向算子、编译器等基础设施层迁移。算子作为模型与硬件间的桥梁，其效率直接影响推理延迟、能耗与部署成本，尤其在边缘与推理场景中边际效益突出。行业趋势显示，全球头部企业已转向软硬协同重构计算栈，而国内资本亦加速布局——易方达创业板算力ETF（158050）10月以来净流入3.8亿元，凸显对“效能优化”路径的认可。
需说明的是，当前评测限于标准CUDA环境，未覆盖稀疏计算、量化或NPU适配，成绩主要体现通用GPU工程实力。但其方法论意义重大：Agent驱动的算子闭环开发，有望推动“模型-编译器-算子”三位一体正向循环。目前Infinigence AI已开放部分接口，并与国产AI芯片厂商推进适配，预计本土高效算子库将逐步融入PyTorch、MindSpore等主流框架，进一步提升中国AI推理竞争力。