Strata 0.2.2正式版上线 多显卡分工推理提速最高30%

开源本地大模型运行工具Strata于近日发布0.2.2正式版本，移除Beta标识进入稳定阶段。该工具支持Windows、macOS和Linux系统，最低仅需8GB显存即可运行部分量化模型，显著降低千亿参数模型本地部署门槛。核心更新为多显卡自由分工功能：用户可手动指定显卡角色——Main负责最终层计算与结果验证，Helper分担中间层与专家缓存任务，Off则完全禁用；例如RTX 3090+3060组合中可差异化分配资源，提升异构硬件利用率。实测显示，Gyro-S/M（基于Qwen3.8-Flash-Next压缩的轻量量化模型）在NVIDIA GPU上推理性能显著优化：RTX 3060 12GB运行Gyro-S解码速度从33.6 tok/s升至62.8 tok/s（+17%），Tesla P100上提升达30%。硬件兼容性同步拓展：首次支持Apple Silicon Mac（M4 Mac mini实测Gyro-S为9.1 tok/s）、Linux平台Intel Arc A750（8GB显存+62GB内存下达15.8 tok/s），并针对AMD RX 6000系列构建RDNA2专用推理引擎（暂未完成Windows编译），Linux CUDA 12包恢复对Pascal/Volta架构老卡支持。用户体验方面，统一模型目录避免重复下载、断点续传式下载保障大模型传输可靠性、修复启动反复调优问题（二次启动耗时从521秒降至13秒）、API密钥机制支持局域网内关闭。本次迭代体现“软件定义算力”趋势，通过用户可控的协同推理策略，在不依赖底层重构前提下提升既有硬件效能，推动个人设备向微型智算中心演进。