PrismML小型LLM获2225万美元种子轮,压缩技术或颠覆AI模型部署

AI初创公司PrismML宣布获得2225万美元种子轮融资,其核心竞争力在于开发可压缩至PC和智能手机级别的高性能大语言模型。通过独特的压缩技术,PrismML已将Qwen3.8 27B模型体积缩小9...

人工智能

近日,专注于大型语言模型(LLM)压缩技术的AI初创公司PrismML宣布完成2225万美元种子轮融资。这家由加州理工学院研究团队创立的公司,正凭借其创新的模型压缩技术,在人工智能领域掀起一场小型化革命。

PrismML的核心产品是其最新发布的Bonsai 2 27B模型,该模型成功将阿里巴巴开源的Qwen3.8 27B模型从原始的27GB压缩至仅5.9GB。这一成果不仅使模型能够轻松运行在个人电脑上,甚至可能适配高端智能手机。据称,这是目前业界领先的模型压缩比例,相比之前的Bonsai模型,性能损失仅为2%左右。

“我们证明了高性能推理并不需要庞大的模型规模。”PrismML首席执行官Babak Hassibi在接受TechCrunch采访时强调。Hassibi教授不仅是加州理工学院的知名学者,更是压缩技术领域的权威专家。他带领的团队通过深度学习算法优化,实现了模型参数的高效重组与量化,从而在保持核心功能的同时大幅缩减模型体积。

PrismML的技术优势在于其压缩后模型的性能稳定性。根据测试数据,Bonsai 2模型在多项基准测试中达到了原模型98%的性能水平,这远高于行业平均水平。目前,PrismML已经发布了多个版本的小型化模型,累计下载量超过1300万次,显示出市场对其技术的高度认可。

文章配图

值得注意的是,PrismML并非唯一涉足LLM压缩领域的公司。西班牙Donostia国际物理中心的Multiverse Computing也在该领域取得显著进展,并获得了大量融资。但PrismML表示,其压缩技术的独特之处在于能够在极小的模型尺寸下保持接近原始模型的性能表现。

“我们的目标是让AI技术真正普及到每一个设备上。”Hassibi补充道。PrismML计划利用这笔新融资加速技术研发,并探索更多应用场景,包括移动设备、物联网终端以及边缘计算设备等。

随着AI技术的快速发展,模型规模不断扩张已成为行业趋势。然而,大规模模型对计算资源的需求也日益增加,特别是在移动设备和边缘计算场景中。PrismML的出现为解决这一难题提供了新的思路,其小型化解决方案可能成为未来AI模型部署的重要方向。