Strata推出macOS原生支持与Qwen3.6-35B-A3B轻量模型，本地大模型运行门槛再降低

本地大模型推理工具Strata近期完成关键升级：不仅实现对macOS平台的原生支持，还引入了参数规模更小、资源需求更低的Qwen3.6-35B-A3B模型。这一系列变化标志着消费级设备运行高性能大模型的可行性进一步提升，尤其为苹果用户打开了本地AI应用的新入口。

Strata最初以支持Qwen3.8-Flash-Next（125B总参数、6B激活）而受到关注，其核心价值在于让配备中高端独立显卡的普通PC也能运行大型语言模型。此次v0.1.44版本更新后，Strata正式加入Metal后端，原生适配Apple Silicon芯片（M1至M5系列），要求系统为macOS 15或更高版本。用户需通过源码编译方式安装，目前属于实验性支持阶段，功能上仍有限制：仅支持单并发请求，上下文长度经官方验证最高为32K，且暂未适配Qwen3.6-35B-A3B模型。

在硬件兼容性方面，Strata已覆盖主流GPU平台：NVIDIA RTX 20/30/40/50系列全系支持；AMD RX 6000/7000/9000系列部分型号支持；Intel Arc与Apple Silicon为实验性支持。官方推荐配置为至少12GB显存的NVIDIA或AMD显卡，搭配32GB系统内存——这一内存门槛虽高，但相比早期动辄64GB以上的要求已有明显下探空间。

新引入的Qwen3.6-35B-A3B模型是本次更新的核心亮点。该模型采用混合专家（MoE）架构，总参数约350亿，激活参数仅30亿，远低于此前主推的125B Flash-Next模型。尽管规模缩小，其日常对话、文本生成与基础编程能力仍保持较高水准，并同样支持MTP（多Token预测）解码加速技术。根据官方在AMD Radeon AI PRO R9700上的测试数据：普通推理速度为83 tokens/s，启用MTP后跃升至2161 tokens/s，提速幅度达94%。这意味着在合理硬件条件下，用户可获得接近实时的交互体验。

模型量化版本的选择直接影响资源占用与性能表现。Strata为Qwen3.6-35B-A3B提供了三档量化方案：

• UD-Q4_K_XL：22.4GB模型体积，推荐32GB内存，适合入门用户；
• UD-Q6_K_XL：31.8GB，推荐44GB内存，精度与效率较均衡；
• Q8_0：36.9GB，推荐52GB内存，接近原始精度，资源需求较高。

相比之下，Qwen3.8-Flash-Next各量化版本体积更大，最低Q2_0版本也需66.4GB存储空间，且对内存要求普遍在48GB起。因此，35B-A3B模型的推出实质上将本地部署的“准入线”从高端工作站级别拉低至中高端台式机甚至部分高性能笔记本范畴。

值得注意的是，Qwen3.6-35B-A3B当前仅支持NVIDIA与AMD GPU，尚未适配Intel Arc及Mac平台。而Mac版Strata现阶段仅能运行Flash-Next模型，官方测试数据显示：Mac mini M4（32GB内存）运行Flash-Next Q2_0时速度为8–14 tokens/s；M5 Max（128GB内存）运行IQ3_S版本可达95–103 tokens/s。虽然绝对速度不及高端Windows PC，但已足以支撑日常文档处理、代码辅助等轻中度任务。

这一进展与行业趋势高度同步。近期Meta发布的Muse Spark Open（816B总参数、42B激活）虽宣称可在双M5 Ultra Mac Studio上本地运行，但其依赖1TB统一内存配置，属于专业级设备范畴，普通消费者难以企及。相比之下，Strata此次更新更具普惠意义——它没有追求参数规模的极致，而是通过模型精简与推理优化，在主流硬件上实现“够用就好”的实用主义路线。

从技术路径看，Strata的策略体现了本地AI推理的两大演进方向：一是模型轻量化，通过结构压缩（如MoE稀疏激活）、量化（4-bit/6-bit）降低计算负载；二是推理引擎优化，如MTP多Token预测、Metal后端适配等，提升单位算力下的吞吐效率。这两条路径共同作用，使得原本需云端GPU集群完成的任务，逐步下沉至个人设备。

对于终端用户而言，实际部署仍需权衡多项因素。以32GB内存+12GB显存配置为例，可选择Qwen3.6-35B-A3B UD-Q4_K_XL版本，模型文件仅22.4GB，启动后系统内存占用约32GB，显存占用约10–11GB，留有余量应对多任务场景。若显存仅8GB，则需进一步降低量化等级或切换至更小模型，但可能牺牲响应质量。

开源社区对这类工具的需求持续增长。随着Qwen系列模型权重持续开放，以及Strata等推理框架对多平台的支持完善，本地AI生态正从“能否运行”转向“如何高效运行”。未来迭代中，跨平台一致性、量化精度损失控制、上下文扩展能力等将成为关键竞争点。

目前Strata已提供完整安装指南与模型下载链接，用户可通过GitHub获取源码并按步骤配置。尽管Mac支持尚处实验阶段，但其信号意义明确：Apple Silicon平台正加速成为本地大模型的重要承载节点，而无需依赖云端服务或昂贵专用硬件。

本地大模型的平民化之路仍在推进中，Strata的此次更新并非终点，但确实在硬件门槛与平台覆盖上迈出了扎实一步。