梁圣大气！DeepSeek推理框架全开源，公布日均吞吐和毛利，真正的OpenAI来了

智东西 作者 | 王涵 编辑 | 心缘 梁圣又来送福利了！ 智东西10月20日报道，刚刚，DeepSeek开源了其内部使用的、 大规模云服务推理框架DeepInfer 和 生产级token编解码组件deepseek-recipe 。 DeepInfer框架 集成了 高性能算子和深度优化的推理引擎 ，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力， 可在英伟达与华为昇腾平台上运行 。 据DeepSeek团队公布，DeepSeek V4.1 Flash的高吞吐、低延迟大规模推理服务就是基于该框架实现的。目前，其单一集群的服务吞吐是 155万亿Tokens/天 ，整体收入按照谷价计算是 每卡每小时38美金（约合人民币253.81元） 。 这个数字是什么概念？按这个数字粗略计算，一张卡24小时满负荷运行， 每天收入为6091.38元 ；一个月按照30天计算，那 月收入就有185711.4元 。 生产级Token编解码组件deepseek-recipe 则支持 主流大模型API协议与模型Tokens之间的编解码 ，处理逻辑与DeepSeek官方API完整对齐，可以确保第三方部署能获得与官方部署一致的API体验。 同时，DeepSeek在知乎发布了更加详细的技术报告，介绍了DeepSeek V4.1 Flash推理系统的整体架构与关键实现，以及今天开源的两部分的设计细节。 技术报告篇幅很长，我们用最新发布的 DeepSeek-V4.1-Flash-1017 模型总结了要点： 吞吐线：把GPU空转压到最低 1、节点内MoE专家并行（EP）：增大batch s