奥睿科发布FlashMemFM9800AISSD,768GB+85GB双分区设计支持本地AI推理缓存

奥睿科于11月16日推出FlashMem FM9800固态硬盘,采用3D TLC NAND与pSLC AI Cache双分区架构,支持PCIe Gen5接口,提供768GB+85GB和1638GB+1...

消费电子 阅读量: 8766

11月16日,存储设备厂商奥睿科(ORICO)正式发布FlashMem FM9800固态硬盘,这是业内首款明确以“AI SSD”为定位、并配备独立pSLC缓存区域的消费级M.2固态硬盘。该产品并非简单提升读写速度,而是从存储架构层面重构数据流路径,试图解决本地大模型运行中显存与内存资源紧张的核心瓶颈。

FlashMem FM9800基于3D TLC NAND闪存颗粒制造,但其关键创新在于将部分闪存单元配置为伪单层单元(pSLC)模式,形成一个独立的“AI Cache”区域。该区域与主存储区在物理上共享同一颗闪存芯片,但在逻辑上划分为两个分区:主存储区负责常规文件系统读写,AI Cache区则专用于承载AI推理过程中的高频访问数据——包括模型权重、上下文缓存及中间计算结果。

两分区采用完全独立的磨损均衡策略与读写调度机制。这意味着AI Cache区可承受更高频次的写入操作而不影响主区寿命,同时系统能通过特定指令优先调度该区域的数据访问,降低延迟抖动。这一设计思路源于服务器端NVMe-oF与智能SSD的演进方向,但首次被下沉至面向个人用户的M.2规格产品中。

硬件规格方面,FM9800采用标准M.2 2280外形尺寸,支持PCIe Gen5 x4通道,理论带宽可达14GB/s。为应对高负载下的发热问题,产品出厂即覆盖石墨烯导热贴,实测满载温度较同类未散热型号低约8–10℃。容量组合上提供两种配置:768GB主存储 + 85GB AI Cache,以及1638GB主存储 + 128GB AI Cache。值得注意的是,AI Cache容量并非简单按比例缩放,而是根据本地推理典型工作集大小进行工程优化——85GB可容纳多数7B参数量以下模型的完整权重(如Llama-3-8B量化版),128GB则覆盖更大规模模型的常用子模块。

真正让该产品区别于传统SSD的是其软件协同生态。奥睿科配套推出了AI存储中间件,配合名为Herdsman的本地推理引擎,构建起“GPU显存 → 系统内存 → AI闪存缓存”的三级分层存储体系。当模型推理过程中某部分权重暂未被调用时,中间件可将其自动换出至AI Cache;一旦需要重新加载,因该区域具备接近DRAM的随机读取性能(官方标称4K随机读取IOPS达120万),响应速度远高于传统SSD的主存储区。

这一机制对本地部署场景意义显著。以运行Qwen2-7B-Instruct为例,在仅配备16GB显存的RTX 4070笔记本上,传统方案需频繁将权重在显存与系统内存间交换,导致推理吞吐下降30%以上;而启用FM9800的AI Cache后,中间件可将约60%的非活跃权重暂存于85GB pSLC区,使显存占用稳定在12GB以内,推理延迟波动减少近一半。

行业观察指出,当前本地AI推理的瓶颈已从算力转向I/O效率。尽管NVIDIA推出TensorRT-LLM等优化框架缓解了部分压力,但底层存储仍沿用通用SSD架构,缺乏针对AI负载特征的定制化设计。pSLC技术本身并不新鲜——企业级SSD早已用于写缓存加速,但将其作为固定功能模块集成至消费级产品,并开放给第三方推理引擎调用,奥睿科此举具有示范意义。

需注意的是,AI Cache的实际效能高度依赖软件栈支持。目前Herdsman引擎已适配PyTorch 2.0+及vLLM框架,但对Hugging Face Transformers原生API的支持尚处测试阶段。用户若想充分发挥FM9800潜力,需配合特定推理工具链使用,短期内难以实现“即插即用”。此外,pSLC区域虽耐写性优于TLC,但仍远低于SLC,长期高频写入仍可能影响整体寿命,厂商建议AI Cache主要用于只读或低频更新场景(如模型权重加载),而非持续生成式输出缓存。

奥睿科FlashMem FM9800产品细节图

从市场定位看,FM9800瞄准的是开发者、科研人员及高端AI爱好者群体。其定价尚未公布,但参考同类PCIe 5.0 SSD(如致态TiPlus7100 1TB售价约600元),叠加pSLC设计与专用中间件成本,预计768GB+85GB版本起售价将在700–800元区间。相比动辄数万元的A100多卡服务器方案,该产品为轻量级本地AI部署提供了更具性价比的硬件基础。

值得延伸思考的是,存储厂商切入AI赛道的逻辑正在发生转变:过去聚焦“更快”,如今转向“更聪明”。随着边缘侧大模型需求增长,专用存储接口(如CXL)、智能SSD指令集(如NVMe-MI)正逐步进入消费级视野。奥睿科此次布局虽属初步尝试,却揭示了一个趋势——未来PC级AI设备的竞争,不仅比拼GPU算力,也将考验存储系统的协同智能水平。

目前,FlashMem FM9800已开启预售,首批供货预计于12月初到位。奥睿科表示后续将开放AI Cache的API文档,鼓励社区开发更多兼容推理框架。