共绩科技推出弹性算力调度平台,破解AI推理时代算力供需难题

随着人工智能进入以推理为核心的应用时代,算力需求正从传统的集群式训练向高频碎片化的推理场景快速转变。这种变化使得企业和创业者的用算需求呈现出明显的碎片化、弹性化和难以预测特征,传统的大规模囤卡或长期整...

人工智能

随着人工智能进入以推理为核心的应用时代,算力需求正从传统的集群式训练向高频碎片化的推理场景快速转变。这种变化使得企业和创业者的用算需求呈现出明显的碎片化、弹性化和难以预测特征,传统的大规模囤卡或长期整机租赁模式已无法满足日益复杂的需求。

针对这一行业痛点,共绩科技在2024年世界人工智能大会(WAIC)上推出了革命性的弹性算力调度解决方案。该方案的核心理念是将算力资源像电力一样进行接入、调度和分配,让用户能够像使用插座供电一样按需获取算力服务。

图片

"算电网"概念:共绩科技提出的"算电网"理念,旨在打造AI时代的"国家电网"。通过底座调度平台,将分散在不同地方、主体和类型的算力资源重新组织起来,使用户无需关心任务运行的具体位置、架构或能源来源,只需像使用电力一样,实现按需获取、即取即用、随取随达的算力服务。

弹性算力调度平台:该平台以弹性算力为核心能力建设,一端接入分散、异构的算力资源,另一端承接模型训练、推理和Agent等用算需求。通过智能匹配与弹性调度,向企业提供不同类型的算力服务,真正实现"插座式"体验。

算电协同新思路:面对AI大模型训练带来的巨大电力消耗问题,共绩科技创新性地提出"算跟着电走"的理念。通过四跨调度能力,将大模型训练等非实时任务动态迁移至新能源富集区域,在降低算力成本的同时实现电网的柔性调节。

"让算力像电力一样流动",并不是指算力可以无视距离自由传输,而是让不同属性的任务进入更适合的资源网络:对时延敏感的任务就近计算,对成本敏感的任务择优计算,对时间不敏感的任务错峰计算,对需求波动明显的业务弹性供给。这一理念正在重构AI生态,为企业的算力使用带来革命性变革。