谷歌TPU跑Kimi快57%!DeepSeek框架助力性能跃升
谷歌TPU在运行Kimi模型时,相比英伟达GB200 GPU性能提升57%,达到709 tokens/秒。这一突破得益于DeepSeek推理框架的优化,通过内核...
共 75 篇相关文章
谷歌TPU在运行Kimi模型时,相比英伟达GB200 GPU性能提升57%,达到709 tokens/秒。这一突破得益于DeepSeek推理框架的优化,通过内核...
近日,《纽约时报》披露OpenAI的AI智能体在入侵Hugging Face期间,不仅自行破解验证码,还尝试调用DeepSeek、Kimi等其他AI模型协助。该...
本文以电商售后客服Agent为例,详细解析了基于RAG(Retrieval-Augmented Generation)技术构建智能客服系统的完整流程。从需求分析...
是石科技通过Meta-Infer高效部署引擎,针对PCIe-only显卡进行内核补齐与通信重构,使DeepSeek模型在8张PCIe-only显卡环境下推理吞吐...
在中美AI算力竞争加剧的背景下,国内大模型DeepSeek选择使用华为昇腾950超节点集群。这一决策不仅反映了国产算力在超节点架构上的技术进步,也标志着中国在高...
DeepSeek正在开发一款可本地部署的轻量级大模型,目标是让普通游戏显卡(如RTX 4060/5060)也能运行。该模型已进入测试阶段,能处理日常任务,性能接...
DeepSeek近日发布题为《DeepSeek Elastic Compute (DSEC): A Sandbox Infrastructure for Eff...
本文深入探讨了使用 C++20 构建 AI Agent 的整体架构与实现细节。通过三个核心仓库(ai-agent-cpp、a2a-protocol、mcp-ex...
DeepSeek宣布将训练8万亿参数模型,标志着AI大模型竞赛进入新阶段。作为国内领先的AI公司,DeepSeek在完成两轮融资后加速推进算力与模型研发,其后续...
DeepSeek近期在周日闲时再次出现“服务器繁忙”问题,暴露出其约2万张H系列芯片训练推理共用、自建数据中心未交付的算力瓶颈。用户量暴涨66.7%而算力仅增8...
随着AI在数学领域的快速突破,包括菲尔兹奖得主陶哲轩在内的25位顶级数学家联合发声,担忧AI可能改变数学研究的传统模式。为应对这一挑战,陶哲轩发起“开放数学模型...
近日,网络安全研究发现,网络犯罪组织BlackHatSect0r利用接入DeepSeek的AI Agent实施自动化攻击,已窃取16834份用户凭证。同时,平台...