Meta推出ZGateway代理层，ZippyDB连接数降低至原1/19，每秒处理超10亿次操作

Meta 近日公开其面向核心分布式键值存储系统 ZippyDB 的新架构组件——ZGateway。这一无状态代理层并非简单的流量转发器，而是针对超大规模场景下连接爆炸与资源争用问题的系统性解决方案。在实际运行中，ZGateway 每秒处理超过 10 亿次操作，承担了 ZippyDB 约 40% 的请求负载；更重要的是，根据 Meta 内部模型估算，其部署使系统整体持久连接数降至原先的约 1/19，单台主机连接数减少 97%–98%。

ZippyDB 是 Meta 全球基础设施中支撑元数据、计数器、配置等关键工作负载的核心存储系统。在传统直连模式下，一个客户端可能需访问分布在数十万台数据库主机上的数万个分片，形成密集的“多对多”连接网格。当客户端规模突破百万量级时，连接管理开销急剧上升：文件描述符耗尽、内存压力陡增、TCP 握手风暴频发，严重时可导致服务不可用。这种“连接雪崩”已成为超大规模分布式系统中典型的隐性瓶颈。

ZGateway 的核心设计在于引入一层区域化、粘性化的代理层。客户端仅与本地区域的 ZGateway 主机建立长期连接（即“粘性连接”），而 ZServer 数据库节点则从受控的网关集群接收连接请求。该网关基于 Meta 自有的 C++ ZippyDB 客户端构建请求引擎，支持纯代理与读透式缓存双模式，并通过 ServiceRouter（Meta 的超大规模服务网格）实现就近路由，确保客户端始终连接最近的网关实例。

上图清晰展示了两种架构差异：上半部分为传统直连模型，客户端与数据库服务器间存在大量交叉连接；下半部分为代理模型，客户端仅连接少量网关，网关再统一调度至后端数据库，大幅简化连接拓扑。

ZGateway 的价值不仅在于连接收敛，更在于其作为集中式流量治理平台的能力。它可执行身份验证与授权、基于租户的准入控制、分片解析、请求批处理与合并——尤其关键的是，由于网关能聚合多个客户端的请求流，它可识别并合并原本被单个客户端库隔离的重复请求（如相同键的多次读取），这是单机客户端无法实现的优化。

值得注意的是，ZGateway 引入了一个额外的网络跳数。这在传统性能优化中常被视为劣势，但 Meta 明确指出：在高负载场景下，此举反而能改善端到端延迟。LinkedIn 架构师 Md Shuvo 在相关讨论中强调，数据库节点卸载了连接管理负担后，CPU 可更专注于数据处理，整体吞吐与响应稳定性显著提升。

在可靠性方面，ZGateway 提供了细粒度的流量控制机制。测试数据显示，在 CPU 利用率超过 90% 的高压场景下，1350 个租户存储桶中仅有 6 个因过载被主动分流，其余 99.9% 的请求仍获正常处理且零拒绝。系统支持按服务、分片前缀、百分比或区域进行灰度路由，并配备全球紧急关闭开关，便于快速回滚。

该图呈现 ZGateway 的三层逻辑结构：顶层为海量客户端（以千为单位计量），中层为无状态网关主机集群，底层为 ZServer 数据库节点。网关层作为“缓冲带”，既解耦了客户端与数据库的强耦合，又为全局策略实施提供了统一入口。

ZGateway 并非孤立演进。它延续了 Meta 在服务网格（ServiceRouter）、连接池、CDN 与 API 网关中已验证的代理范式，但针对 ZippyDB 的特定负载特征进行了深度定制。例如，其请求合并逻辑专为高并发小请求（如元数据读写）优化；缓存策略聚焦热点键的局部性；而租户隔离机制则服务于多租户 SaaS 化场景下的资源公平性保障。

目前，ZGateway 已承载约 40% 的 ZippyDB 流量，Meta 计划将其扩展至全部流量路径。未来演进方向包括：探索更精细的代理控制策略、评估 ZGateway 与 ZServer 的选择性共置以进一步降低延迟、以及采用多进程架构增强故障隔离能力——后者可防止单个网关进程崩溃影响全局服务。

从行业视角看，ZGateway 的实践再次印证了“连接即成本”的超大规模系统定律。当系统规模跨越百万级客户端阈值后，连接管理本身便成为主要瓶颈，此时引入中间代理层不再是权宜之计，而是架构演进的必然阶段。类似思路已在 Google 的 Spanner Proxy、Amazon 的 DynamoDB Accelerator（DAX）及阿里云的 PolarDB Proxy 中有所体现，但 Meta 的方案在连接压缩比（1/19）与单点吞吐（>10 亿 ops/s）上展现了新的工程高度。

ZGateway 的成功落地，也反映出头部科技公司正从“堆硬件”转向“精架构”的运维哲学转变：在摩尔定律放缓的背景下，通过软件层的抽象与重组，持续挖掘现有基础设施的潜力，已成为维持系统可扩展性的核心路径。其经验对构建下一代云原生数据库中间件具有明确参考价值。