DeepSeek把自己内部用的推理框架DeepInfer开源了。这个框架主要用来提升大模型推理速度、降低成本，思路是支持多卡协同调度，同时减少机器空转和重复计算，让推理过程更高效。

关心大模型部署和推理成本的人可以留意一下。不管你是做工程落地的，还是单纯好奇大模型怎么跑得更快更省钱，这篇都值得看看。

最值得看的一点是，DeepInfer是从DeepSeek内部实际使用中来的，重点放在多卡协同调度和减少空转、重复计算上，对推理效率和成本有直接影响。