新功能引领开源社区瞩目 DeepSeek再次释放技术储备

智东西报道：DeepSeek刚刚发布其开源周的第二项重大成果，名为DeepEP的开源EP通信库。这个库专为混合专家（MoE）和专家并行（EP）模型量身定制，它的出现为人工智能领域带来一股新的活力。在发布短短不到一小时的时间内，其在GitHub上的Star数就已经上千，引起广泛关注。

DeepEP是一个高吞吐量、低延迟的通信库，特别适用于MoE模型的训练和推理。
它提供了一系列的全对全GPU内核，这些内核也被称为MoE调度与合并。
这个库具有一系列显著的特点，使其在人工智能领域具有卓越的性能。

DeepEP支持高性能的通信。
它支持用于节点内和节点间通信的NVLink和RDMA技术，这两项技术都是目前最尖端的硬件通信技术。
DeepEP利用这些技术实现了高吞吐量的通信，这对于大规模的MoE模型训练至关重要。
它还支持非对称域带宽转发优化内核，这些内核能够根据需求将数据从NVLink域快速转发到RDMA域，实现高效的数据传输。

DeepEP支持低精度运算。
在人工智能领域，运算精度和效率都非常重要。
DeepEP支持FP8格式，这是一种低精度的数值表示方法，可以在保证一定精度损失可接受的范围内，大大提高运算效率。
这对于大规模的MoE模型训练和推理非常有利。

再者，DeepEP对延迟敏感的推理解码任务进行了优化。
它提供了一组采用RDMA技术的低延迟内核，以最大限度地减少推理解码的延迟。
这对于需要实时响应的AI应用场景非常重要。

DeepEP还引入了通信与计算重叠的方法。
这种方法通过引入基于钩子的机制，实现了通信和计算的并行处理，不会占用任何流式多处理器（SM）资源。
这大大提高了计算效率，使得MoE模型的训练和推理更加高效。

DeepEP还支持自适应路由和流量隔离。
这一特性使得网络通信更加灵活和可靠，能够适应不同的网络环境和工作负载。

DeepSeek在发布DeepEP时还提供了具体的性能测试数据。
在H800设备上，使用CX7 InfiniBand 400Gb/s的RDMA网卡，遵循DeepSeek-V3的预训练设置，DeepEP表现出了惊人的性能。
这证明了DeepEP在实际应用中的优秀表现。

DeepSeek发布的推文在短短一小时内浏览量就高达12万，评论区下方的开发者们对DeepEP赞不绝口。
他们对DeepSeek在MoE模型方面的优化工作表示惊叹，认为DeepEP能够借助尖端硬件如NVLink和RDMA精准地处理相关任务令人印象深刻。

随着DeepEP的发布，DeepSeek的开源周仅仅是个开始。
本周后续，DeepSeek还将开源三个代码库，这些库可能会与AI算法优化、模型轻量化、应用场景拓展等相关，涵盖多个关键领域。
我们期待接下来的三场技术盛宴，向开源者们致敬。

DeepEP的发布标志着人工智能领域又向前迈进了一步。
我们期待它在未来的发展中为人工智能的进步做出更大的贡献。
我们也期待DeepSeek后续的开源源码发布，能够给AI领域带来更多的创新和突破。
让我们一同深度探索开源宇宙，见证AI技术的辉煌未来！

---

---

相关标签： 蓝屏事件、 rdma、 deepseek、 gpu、 通信、

上一篇：全新SUV车型i8震撼登场一理想汽车大胆进军

下一篇：掀起智能驾驶新篇章