Strata 0.2.9发布 本地大模型Prefill提速88% 支持1bit DeepSeek

本地大模型推理工具Strata于近日发布0.2.9版本，重点提升Prefill阶段性能与硬件兼容性。在Windows系统搭配AMD Strix Halo处理器运行Qwen3.8 IQ3_S模型时，32K Token提示词处理时间从41秒降至22秒，提速达88%；8K输入吞吐量由791 tok/s升至1,424 tok/s（+80%）。该优化源于对AMD矩阵计算核心的深度适配，包括启用F16 Matrix Core及为MoE专家选择路径引入专用运算路径。NVIDIA平台亦获增强：Linux下RTX PRO 5000单卡8路并发吞吐提升45%，Intel Arc B系列双卡短提示词处理速度翻倍至439 tok/s，且支持自动多卡协同。此前多GPU识别问题已修复，四张Radeon AI PRO R9700运行DeepSeek时解码速度提升近4倍。模型支持方面，正式集成Unsloth的1-bit DeepSeek量化方案，提供UD-IQ1_S（241GB）与UD-IQ1_M（258GB）版本，使超大规模模型可在高内存工作站本地部署；测试显示其在61项任务中完成53项，接近2.25-bit对照组水平。同时优化Web聊天界面渲染逻辑，40K Token长回复主线程耗时从15.7秒降至9秒，缓解卡顿。当前版本支持Windows、Linux及macOS，持续推动本地AI开箱即用体验落地。