DeepSeek开源推理框架单卡每小时赚38美元 引发AI商业化热议

10月20日，DeepSeek正式开源其内部大规模推理框架DeepInfer及配套token编解码组件deepseek-recipe，采用Apache 2.0许可证发布。该框架支撑其线上服务，专为高吞吐低延迟场景设计，实测单一集群日处理能力达155万亿Tokens。按非高峰期API定价，每张GPU每小时收入38美元；以B300 GPU租用成本7美元/小时计，毛利率可达82%。技术层面，DeepInfer基于vLLM开发，融合SGLang与TensorRT-LLM思路，支持算子融合、分布式并行、推测解码与异步调度，Prefill阶段每卡吞吐1.5M tokens/s（缓存命中率96%），Decode阶段达14K tokens/s，KV Cache不活跃后保存72小时。框架硬件中立，明确支持NVIDIA SM100系列GPU与华为昇腾950 NPU。配套deepseek-recipe组件实现标准API请求到模型输入的自动转换，保障输出行为一致性，降低第三方集成成本。开源后vLLM、SGLang迅速完成适配验证，部分优化版本性能反超官方数据。经济推演显示，1GW算力（约1.4万张B300）全年理论收入可达1500亿美元，考虑30%冗余后仍超1000亿，投资回收期有望压缩至半年内。虽‘全球AI年收入10万亿美元’属理论上限，但其揭示的趋势明确：推理效率跃升正推动大模型从奢侈品转向基础设施级服务。DeepSeek强调开源旨在共享工程经验，助力行业降本增效，此举标志AI竞争进入系统效率新阶段。