EdgeRock-4B开源，KVCache压缩99.1%，单卡512路长推理并发，推理长度不再受限内存 岩山科技联合港科大、CMU开源EdgeRock-4B模型，通过创新架构将KV Cache占用压至恒定72MiB（256K上下文下），较源模型减少99.1%；单卡... 2026年10月27日 人工智能 #缓存砍96% 分享海报
