展现强大实力 GPU通信功能突破性进展 DeepSeek再次开源

智东西报道：DeepSeek刚刚迎来了开源周的第二次重大发布，推出了名为DeepEP的开源EP通信库。这个库专为混合专家（MoE）和专家并行（EP）设计，在模型训练和推理过程中发挥了巨大的作用。其发布仅不到一小时，便在GitHub上收获了上千的Star数，引发了开发者的广泛关注。

一、DeepEP：针对MoE模型的通信库

DeepEP是一个高性能的通信库，为混合专家（MoE）和专家并行（EP）提供了一系列优化工具。
其最大的特点在于提供了一套高吞吐量、低延迟的全对全GPU内核，这些内核也被称为MoE调度与合并。

1. 高性能特性

DeepEP支持节点内和节点间的通信，包括NVLink和RDMA技术。
它还拥有针对非对称域带宽转发的优化内核，这些内核能够实现高吞吐量，既适用于训练任务，也适用于推理预填充任务。

2. 低精度运算与延迟敏感推理

DeepEP支持FP8格式，这是一种低精度运算格式，有助于提高计算效率。
同时，它还提供了采用RDMA技术的低延迟内核，以最大限度地减少推理解码的延迟，这对于许多实时应用至关重要。

3. 独特的通信计算重叠技术

DeepEP引入了一种基于钩子的通信与计算重叠方法，这种方法不会占用任何流式多处理器（SM）资源，从而提高了计算效率。

4. 自适应路由和流量隔离

DeepEP还支持自适应路由和虚拟通道流量隔离，这有助于在复杂的并行计算环境中优化通信效率。

二、DeepEP与DeepSeek-V3的紧密结合

DeepEP的设计与DeepSeek-V3本文中的研究紧密相关。
DeepEP提供了一系列针对非对称域带宽转发的优化内核，与DeepSeek-V3中提出的组限制门控算法保持一致。
这些内核能够实现高吞吐量，并且支持流式多处理器（SM）数量控制，为模型训练和推理提供了强大的支持。

三、性能测试与实际应用

DeepEP的性能已经在特定的硬件配置上进行了测试。
在H800（NVLink的最大带宽约为160GB/s）上，使用CX7 InfiniBand 400Gb/s的RDMA网卡（最大带宽约为50GB/s），遵循DeepSeek-V3/R1的预训练设置，DeepEP表现出了卓越的性能。
在低延迟内核的测试中也取得了令人印象深刻的结果。

四、DeepSeek的进一步开源计划

除了DeepEP，DeepSeek还有三个重磅代码库即将开源。
这些代码库可能与AI算法优化、模型轻量化、应用场景拓展等相关，涵盖多个关键领域。
期待接下来的技术发布，向开源者们致敬。

五、开发者反馈与评论

DeepSeek的每次发布都引起了开发者的热烈反响。
这次DeepEP的发布也不例外。
许多开发者对DeepEP所展现的优化能力表示惊叹，尤其是其在尖端硬件上的表现。
有人认为DeepEP的出现为大规模的MoE模型带来了变革性的影响，也有人对DeepSeek的未来开源计划充满期待。
有人用“跟着鲸鱼找到鱼”这样的比喻来表达对DeepSeek的赞赏和期待。

六、结语：深度探索开源宇宙的挑战与机遇并存 时代在发展进步技术革新成果不断推动产业创新人工智能作为当今科技前沿领域不断推动着各行各业的变革在这个过程中开源社区发挥着不可替代的作用作为推动人工智能发展的重要力量之一DeepSeek一直致力于通过开源的方式推动AI基础设施的进步其最新的开源EP通信库再次点燃了AI圈的热情随着后续三个重磅代码库的即将开源必将进一步推动AI领域的技术革新促进全球范围内的技术交流与合作开启全新的深度探索开源宇宙之旅期待看到更多的技术突破与创新实践共同推动人工智能的发展壮大为推动社会进步作出更大的贡献同时我们也要认识到每一次技术革新都伴随着挑战与机遇让我们共同迎接未来的挑战抓住机遇共同开启全新的技术旅程向开源宇宙的更深处探索进发！

---

---

相关标签： 蓝屏事件、 rdma、 gpu、 通信、 deepseek、

上一篇：理想汽车推出全新力作一

下一篇：Fold7折叠手机设计概览Z首度揭晓的三星Gala