Q.ANT发布NPUGen2+光子芯片,原生支持光学傅里叶变换加速大模型推理
光子计算公司Q.ANT在SC26大会上推出第二代增强型光子NPU(NPU Gen 2+),首次实现离散傅里叶变换(DFT)的纯光学原生计算。该技术可显著降低大语言模型推理中高维数学运算的能耗与延迟,为...
光子计算初创企业Q.ANT于近日在美国芝加哥举行的超级计算大会SC26上正式发布其第二代增强型光子神经处理单元——NPU Gen 2+。这是该公司继首款商用光子NPU后的重要迭代,核心突破在于首次将离散傅里叶变换(Discrete Fourier Transform, DFT)功能集成至光子芯片中,实现该关键数学运算的“原生光学执行”。
在传统数字硬件上,DFT是信号处理、频谱分析及现代深度学习中广泛使用的数学工具,尤其在Transformer架构的注意力机制优化、长序列建模与稀疏化压缩中扮演重要角色。然而,当输入数据规模庞大时,DFT的计算成本急剧上升:以FFT(快速傅里叶变换)为例,对长度为N的序列执行一次变换需O(N log N)时间复杂度,伴随大量乘加操作与内存搬运,在GPU或TPU上消耗可观算力与电力。
Q.ANT的NPU Gen 2+通过定制化光子电路结构,使DFT运算直接在光域完成——无需光电转换、无需数字逻辑门阵列介入。据官方演示,该芯片可在纳秒级时间内完成百万量级点数的DFT,且功耗仅为同等规模数字方案的极小比例。这一能力意味着开发者可将原本依赖软件层近似或降维处理的DFT密集型模块(如频域注意力、循环状态压缩、稀疏基变换等),直接映射为光子硬件原生指令,从而构建更轻量、更高效的大模型推理流程。
值得注意的是,光子计算并非要全面替代电子芯片,而是聚焦于特定高算力密度、高通信带宽需求的子任务。Q.ANT强调,NPU Gen 2+设计为协处理器形态,可与现有CPU/GPU系统协同工作:数字部分负责控制流、非线性激活与I/O调度,光子部分专精于线性代数与变换类运算。这种异构分工模式正契合当前AI推理架构演进趋势——从“单一通用加速器”转向“任务定制化加速单元组合”。
近年来,大模型推理效率瓶颈日益凸显。一方面,上下文窗口持续扩大(如百度文心5.5Flash支持100万Token),KV Cache占用激增;另一方面,Agent类应用催生多轮交互、长链推理场景,对首Token延迟(TTFT)与预填充吞吐提出更高要求。近期由Together AI、UIUC与UT Austin联合提出的FlashStates技术,正是针对混合架构模型(如Kimi K3.1 Pro、Qwen3.8-Flash-Next所采用的“注意力+线性状态空间”结构)的缓存管理难题,实现在B200 GPU上预填充吞吐提升3.14倍、p90 TTFT降低88.4%的优化效果。
这类软件层创新与硬件层突破形成互补:FlashStates通过算法重构缓解了KV与循环状态复用的复杂性;而Q.ANT的光子NPU则从物理层面削减了状态生成与变换本身的计算开销。例如,在Mamba-2等状态空间模型中,隐藏状态的更新常涉及矩阵-向量乘法与傅里叶域投影,若该步骤能在光子芯片上瞬时完成,将直接缩短单步推理延迟,并降低整体能效比。
行业观察指出,光子NPU的实用化仍面临工程挑战:光源稳定性、热漂移补偿、片上集成度与良率控制等。Q.ANT作为全球少数实现光子芯片商业化落地的企业之一,其NPU Gen 2+已进入客户评估阶段,目标应用场景包括金融高频风险建模、科学计算中的偏微分方程求解,以及边缘侧低功耗大模型部署。
对比其他前沿方向,量子启发式压缩(如QuTwo为芬兰OP Pohjola开发的QARC方案)侧重于模型结构裁剪,而光子计算则致力于提升单位能耗下的原始算力密度。二者路径不同,但共同指向同一目标:在摩尔定律放缓背景下,突破AI算力增长的物理与经济边界。
目前,主流AI芯片厂商仍以电子CMOS工艺为主导,英伟达B200、谷歌TPU v5e等虽持续提升互联带宽与缓存效率(如百度天池超节点采用光引擎实现3倍互联带宽提升),但底层计算单元未脱离电域限制。Q.ANT的进展表明,光子技术正从实验室走向真实负载验证阶段。尽管短期内难以撼动GPU主导地位,但在特定高价值场景中,光子NPU有望率先形成差异化竞争力。
随着大模型从“参数竞赛”转向“推理效率竞赛”,硬件创新的重心正加速向专用化、异构化迁移。NPU Gen 2+的发布,不仅拓展了光子计算的应用边界,也为AI基础设施的下一阶段演进提供了新的技术选项。
