地平线AIDI平台实现EB级存储稳定运行 日均10亿元数据操作峰值吞吐120GB/s

地平线AIDI智能驾驶研发平台已扩展至EB级存储规模，管理千亿级文件，每周处理约200PB数据增删，支撑数十万Kubernetes Pod与SDK客户端并发接入。面对传统开源文件系统单点假设失效的困境，团队自2021年起部署JuiceFS社区版并深度定制，形成四大关键实践：一是元数据稳定性保障，通过TiKV Region路由缓存优化、TSO往返减少、热点元数据本地缓存及流式分批readdir，解决千亿文件下主副本CPU过载与大目录扫描内存溢出问题；实施双层限流（PD Resource Group RU计量+数据面流量约束）与三层容灾（Raft多副本+异地快照+对象存储内容保留），保障集群高可用。二是构建可审计数据治理机制，采用软删除标记、租户隔离回收站、删除任务队列与审计日志联动，配合增量清理引擎，将批量删除耗时从数天压缩至8小时内，避免API限流与账单突增。三是推行分层存储与桶间弹性流动策略，热数据驻留SSD缓存、温数据存标准对象存储、冷数据归档低频层，训练调度时自动预热所需数据集，实现PB级搬迁零干扰，存储成本降低约35%，95%以上训练任务I/O延迟低于50ms。四是统一接入网关集成认证限流熔断，按标签与命名空间细粒度隔离租户，强化可观测性，重点监控元数据热点路径、缓存命中率突变与回源带宽，结合滑动窗口异常检测与根因分析脚本提升故障响应效率。目前平台日均处理超10亿次元数据操作，峰值吞吐达120GB/s，稳定支撑多代自动驾驶模型训练闭环，验证了开源系统在超大规模场景下通过精细化工程治理实现高可靠运行的可行性。