Sora输给Codex,GPU调度差异决定AI产品扩张速度
在人工智能领域,OpenAI近期的一次内部资源调整引发了业界对AI产品开发策略的深入思考。8月23日,OpenAI首席执行官山姆·阿尔特曼(Sam Altman)在一次播客访谈中透露,尽管Sora视频...
在人工智能领域,OpenAI近期的一次内部资源调整引发了业界对AI产品开发策略的深入思考。8月23日,OpenAI首席执行官山姆·阿尔特曼(Sam Altman)在一次播客访谈中透露,尽管Sora视频生成模型本身具有很高的技术价值,但在当前阶段,公司决定将更多算力和人力资源投入到Codex AI编程助手项目上。
这种选择背后的关键在于算力资源的使用效率。Sora需要处理复杂的时空潜在表示,每生成一段视频都需要进行多轮扩散过程计算,这导致其算力消耗呈现连续且独占的特点。而Codex则通过KV缓存、连续批处理等技术手段,能够将算力分散到多个并发任务中,实现更高的资源利用率。
从技术架构来看,Sora的成本主要体现在视频数据的压缩和扩散过程中。视频的时间维度和空间维度共同决定了潜在网格的规模,随着视频长度和分辨率的增加,算力需求呈指数级增长。相比之下,Codex在处理代码推理任务时,可以通过保存历史状态来减少重复计算,从而提高整体效率。
Sora与Codex之间的竞争,本质上是两种不同工作负载架构的较量。Sora的算力需求是连续且独占的,这意味着一旦开始视频生成任务,就需要持续占用大量GPU资源直到完成;而Codex则能通过KV缓存技术将中间结果存储起来,在后续任务中复用这些计算结果,从而实现算力的碎片化利用。这种调度机制的差异,使得Codex能够在相同硬件条件下支持更多并发任务,显著提升了资源利用率。
值得注意的是,Sora并非输在算力消耗的绝对值上,而是输在了工作负载架构的设计上。Sora的视频生成过程需要对整个时空潜在表示进行多轮迭代计算,这种连续且独占的计算模式限制了其在多任务环境下的扩展能力。相比之下,Codex的代码推理任务可以被打散成多个小任务,通过连续批处理和工具调用等方式,将算力分散到不同的任务流中,实现了更高的资源利用率。
这一现象也反映了当前AI产品开发中的一个重要趋势:算力调度效率正在成为决定产品竞争力的关键因素。随着AI模型规模的不断扩大,如何高效利用有限的硬件资源已经成为各家公司必须面对的核心挑战。OpenAI选择优先发展Codex,实际上是在为未来的AI基础设施建设打下基础,因为高效的算力调度机制不仅能够提升现有产品的性能,还能为下一代更大规模模型的开发提供技术支持。
对于行业而言,Sora与Codex的竞争案例提供了重要的启示:在AI产品开发中,不仅要关注模型本身的性能指标,更要重视底层硬件资源的调度效率。未来,那些能够实现算力碎片化利用、支持更高并发度的产品,将在激烈的市场竞争中占据优势地位。