Strata0.2.2正式版发布,支持多显卡自由分工,Gyro模型推理提速最高30%
开源本地大模型运行工具 Strata 0.2.2 去除 Beta 标签正式发布,核心新增多显卡角色管理功能,用户可手动指定 Main/Helper/Off 角色...
共 8 篇相关文章
开源本地大模型运行工具 Strata 0.2.2 去除 Beta 标签正式发布,核心新增多显卡角色管理功能,用户可手动指定 Main/Helper/Off 角色...
开源工具 Strata 0.2-beta 正式发布,显著降低本地大模型部署门槛:RAM+VRAM合计最低仅需27.6GB,支持Windows/macOS/Lin...
开发者开源 PromptGuard,一个基于 FastAPI 的纯本地化提示词安全网关,采用规则层、相似度层与语义层三级融合检测,并引入 Fail-Closed...
微星推出搭载NVIDIA RTX Spark平台的紧凑型AI主机EdgeMesa N AI+,仅1.3升体积内集成128GB LPDDR5X统一内存与RTX S...
AMD近日发布RDNA 4架构,其AI算力相比上一代提升4倍以上,最高可达1557 TOPS。该架构搭载于Radeon RX 9000系列显卡,支持FP8、IN...
铭凡(Minisforum)发布MS-S1 MAX AI工作站全新升级版,搭载AMD锐龙AI Max+ PRO 495处理器,配备192GB内存和2TB SSD...
AOOSTAR 发布新款迷你主机 NEX495S,搭载 AMD 锐龙 AI Max+ PRO 495 处理器,最高支持 192GB 统一内存,并可将其中 160...
在苹果推出自研Apple Silicon芯片后,如何充分发挥其计算能力成为开发者关注的重点。近日,一款名为BaseRT的本地AI推理引擎发布,专门针对Apple...