AI 资讯 · 图解AI_Infra · 2026/10/21 06:14

DeepSeek 开源推理框架 DeepInfer 架构详解：E/P/D 分离部署与 KV Cache 存储机制

DeepSeek开源的推理框架DeepInfer是什么？整体架构一次讲清｜DeepInfer详解01

DeepSeek 开源了用于 V4.1 Flash 线上服务的推理框架 DeepInfer。该框架采用 E/P/D（专家/Prefill/Decode）三段分离部署架构，配备独立的 KV Cache 存储；Prefill 和 Decode 并行策略相反，Decode 阶段将专家模型分散部署在 64 至 128 张卡上。