推理框架

DeepSeek 官方开源了线上服务在用的高性能推理框架 DeepInfer，Apache 2.0 协议。支持 DeepSeek-V4.1-Flash，含优化算子、多种并行策略、结构化输出与确定性采样，本文整理特性与上手要点。