网通社科技频道
首页 人工智能 互联网/IT 消费电子 半导体/芯片 前沿科技
首页 人工智能 互联网/IT 消费电子 半导体/芯片 前沿科技
首页 #推理优化

#推理优化

共 3 篇相关文章

Cloudflare推理优化实践,KV缓存量化+权重压缩提升41%吞吐量

Cloudflare推理优化实践,KV缓存量化+权重压缩提升41%吞吐量

在人工智能领域,大型语言模型(LLM)如Kimi K3和GLM凭借其强大的长上下文处理能力和混合专家(MoE)架构,成为当前最炙手可热的技术之一。然而,这些模型...

2026年08月06日 人工智能 #Cloudflare #KV cache
Rubin架构的核心优化点

Rubin架构的核心优化点

近日,Nvidia在其最新的技术发布会上详细介绍了Rubin架构在推理优化方面的重大升级。这一架构的优化不仅针对GPU本身进行了深度调整,还涵盖了从单个芯片到整...

2026年07月22日 半导体/芯片 #NVIDIA #GPU
OpenAI 推出 GPT-5.6 系列模型,Sol 版本优化并放宽限额

OpenAI 推出 GPT-5.6 系列模型,Sol 版本优化并放宽限额

IT之家 7 月 13 日消息,在上个月率先小范围预览 GPT-5.6 系列模型后,OpenAI 于上周正式向所有用户开放了该系列全部三款模型,分别为 GPT-...

2026年07月13日 消费电子 #OpenAI #GPT-5.6 Sol

热门标签

#OpenAI #苹果 #AI #Anthropic #具身智能 #微软 #英伟达 #人工智能 #大模型 #AI Agent #IPO #华为 #三星 #数据中心 #Agent #Steam #开源 #SpaceX #人形机器人 #DeepSeek
网通社科技频道

关于我们 联系我们 用户协议 隐私政策

© 2026 网通社科技频道 版权所有