AI 资讯 · 小柳技术日记 · 2026/10/22 01:55

DeepSeek 开源生产级推理框架 DeepInfer

DeepSeek 刚刚开源的 DeepInfer 一天狂吞 155 万亿 Token！

DeepSeek 刚刚开源了支撑其大规模生产服务的底层推理框架 DeepInfer。该框架采用 Apache 2.0 协议，支持 NVIDIA SM100 与华为昇腾 950。