推出本地AI网关v2.0,整合模型路由、用量监控与工具接入
掘金正式上线全新桌面端本地AI网关,支持多供应商API管理、模型一键切换、本地工具集成及精细化用量统计,解决多平台账号切换与用量对账痛点。
近日发布本地AI网关重大更新(v2.0),首次将模型路由、用量监控、本地工具接入与凭据安全管理整合至统一桌面端面板。该网关以独立应用形式运行于用户本地设备,不再依赖云端中转或浏览器插件,旨在为开发者与AI重度用户提供更可控、更透明的工作流中枢。
此次更新的核心变化在于“集中化治理”能力的构建。过去,用户需在Cursor、VS Code、JetBrains等不同IDE中分别配置API密钥,切换模型时需手动修改环境变量或配置文件;而新网关通过独立面板提供全局模型路由控制——用户可为不同任务设定默认模型(如编程用Codex、推理用Claude),并支持按项目或场景快速切换。模型目录采用短别名显示(如claude-3-5-sonnet简化为sonnet),同时兼容旧版长ID,确保升级过程无断点。
在接入能力方面,网关原生支持Messages、Responses、Chat及Gemini等主流协议,并内置搜索执行层,实现客户端工具调用与跨协议工具链打通。新增对Antigravity OAuth、OpenCode Go、Volcengine等供应商的支持,覆盖国内常见云服务与开源模型部署场景。尤为值得注意的是,DeepSeek Harness现已支持一键接入:系统自动写入profile与凭据配置,且允许随时撤销恢复,降低试错成本。此外,「运行工具」模块已适配Claude Code、Codex、ZCode、OpenCode、MiniMax Code、Pi及Claude Desktop等十余种工具,全部支持可逆配置,即接即用、随时回退。
安全机制同步升级。凭据加密主密钥由原先依赖系统钥匙串改为本地文件存储(路径为~/.ai-usage/agent-router/vault.key),既提升自主权,也避免因系统钥匙串权限问题导致的频繁授权弹窗。开发版与正式版可共享登录态,旧钥匙串条目在首次启动时自动迁移一次,减少用户操作负担。网关请求详情支持本地归档查看(已脱敏处理),加载骨架优化后启动速度更快,重启反馈更明确——例如当旧版网关返回纯文本404时,系统会直接提示“请重启网关服务”,而非让用户自行排查日志。
用量监控是本次更新另一重点。新增对CodeArts Agent与PI-Desktop的用量采集;Trae国际账号可直接从已有IDE读取额度与用量,无需额外配置会话库密钥。独立Grok Bot订阅额度卡片上线,Qoder额度池统一显示剩余百分比,资源使用状态一目了然。托盘「用量概览」支持逐项显示/隐藏指标,并记住本机偏好设置;时间范围切换卡顿、热力图与筛选栏交互异常等问题均已修复。
同步机制也更为严谨:系统明确区分“本地采集完成”“云端上报完成”“待补报”“失败”与“未上报”五种状态,避免因云端延迟更新导致误判。例如,当本地已采集数据但尚未上报成功时,界面不会显示“成功”,而是标注“待补报”,提升数据可信度。此外,网关已同步models.dev最新官方渠道定价,涵盖Claude Fable、Gemini 4 Carbon、Muse Ember、GPT-6.1 Terra、Mistral Large 4等主流模型,便于用户进行成本预估。
技术细节层面,多项底层问题得到修复:DSH Desktop自定义数据目录及Beta会话统计异常问题已解决;Codex/ZCode增量去重与快照保留数量被限制,防止cursors.json持续膨胀;macOS安装包重试构建时误收集中间磁盘映像的问题亦已修正。针对Claude/Codex/WorkBuddy/HY4等多条转发链路的流式兼容性问题,网关已做专项优化,确保响应流稳定传输。
从行业视角看,本地AI网关的兴起反映了一个趋势:随着大模型应用从“能用”走向“好用”,用户对工作流主权的要求显著提升。早期AI工具多以SaaS形态存在,用户数据与行为高度依赖厂商平台;而本地网关模式将控制权交还终端,既符合企业级安全合规需求,也契合个人开发者对隐私与效率的双重诉求。类似架构已在部分开源项目中出现(如Ollama + LM Studio组合),但此次更新的特点在于深度整合——不仅管理模型调用,还覆盖用量计量、工具链调度与凭证生命周期,形成闭环。
值得留意的是,该网关并非替代现有IDE插件,而是作为上层协调器存在。它不直接运行模型,而是转发请求至各后端服务(如本地Llama.cpp实例、远程API端点或厂商SDK),因此对硬件无额外要求,普通开发机即可流畅运行。其定位更接近于“AI工作流路由器”,类似传统IT中的API网关,但面向LLM时代的新范式。
目前该网关已开放下载,源码托管于GitHub(juejin-cn/j…),支持Windows、macOS与Linux三大平台。对于需要同时对接多个模型供应商、管理团队用量预算或希望减少IDE插件碎片化的用户而言,这一更新提供了切实可行的解决方案。后续版本或将引入策略引擎,支持基于上下文自动路由模型(如长文本走Mistral,代码生成走Codex),进一步降低人工干预成本。
