KVCache4bit量化落地，SGLang在Blackwell上实现1.78倍上下文与+78%解码 SGLang团队联合阿里云Qwen与NVIDIA，在Blackwell平台实现KV Cache从FP8到NVFP4（4bit浮点）的量化，显著提升长上下文处理能... 2026年09月24日 人工智能 #KV cache #FP8 分享海报
