Acrab 发布 GΞLIX 1 芯片，支持 100B 模型本地运行

在人工智能技术快速发展的今天，边缘计算正成为推动AI应用落地的关键力量。7月23日，专注于边缘AI解决方案的初创企业Acrab正式发布了其首款芯片产品——GΞLIX 1 SoC（System on Chip），这款芯片的发布标志着Acrab在边缘AI领域迈出了重要一步。

GΞLIX 1芯片采用先进的5nm制程工艺制造，集成了多种高性能计算单元。具体来看，该芯片包含20个Arm CPU核心，提供强大的通用计算能力；3TFLOPS的GPU单元则为图形处理和深度学习任务提供了充足算力；此外，芯片还配备了专门的神经网络处理单元（NPU）以及其他音视频引擎，使其能够高效处理各类多媒体数据。在AI算力方面，GΞLIX 1达到了惊人的650TOPS（万亿次操作每秒），足以支撑复杂的机器学习模型运行。

为了满足日益增长的AI模型需求，GΞLIX 1特别设计了大容量缓存系统。芯片拥有8MB的大型L1缓存，以及共享768GB/s带宽的L2缓存，可以显著提升数据访问速度。同时，GΞLIX 1还配备了256-bit宽度、8533MT/s传输速率的LPDDR5X内存，确保了高速的数据吞吐能力。

在软件生态方面，Acrab也为GΞLIX 1提供了全面的支持。公司不仅开发了一套完整的软件堆栈，还提供了智能体参考设计，方便开发者快速构建基于GΞLIX 1的应用程序。此外，Acrab还基于GΞLIX 1打造了第一方终端设备Agent Box，进一步拓展了芯片的应用场景。

值得注意的是，Acrab在GΞLIX 1的设计中特别关注了AI推理性能的优化。通过矢量硬件加速注意力机制，并针对预填充过程进行优化，GΞLIX 1在处理大规模语言模型时表现出色。在配备40k KV缓存和10k Token输入的Gemma 26B A4B配置下，GΞLIX 1实现了1416.8 Token/s的预填充速率，这一性能是苹果M4 Pro Mac Mini的7.5倍，充分展示了GΞLIX 1在边缘AI领域的强大实力。

Acrab表示，GΞLIX 1的发布将为各种边缘AI应用场景提供强有力的支持，包括但不限于智能家居、工业自动化、智慧城市等领域。随着更多开发者和企业的加入，预计GΞLIX 1将在未来几个月内得到广泛应用，推动边缘AI技术的进一步发展。