DeepSeek开源第四弹来了！梁文锋参与研发

2025年2月27日，DeepSeek开源周（OpenSourceWeek）迎来了第四弹。此次，DeepSeek宣布开源三项优化并行策略，并在Github上详细阐述了DeepSeek-V3和R1模型背后的并行计算优化技术。

这三项优化策略包括：DualPipe，一种创新的双向流水线并行算法，由梁文锋参与研发，能够实现前向/后向计算与通信阶段的完全重叠；EPLB（Expert Parallelism Load Balancer），针对V3/R1模型的专家并行负载均衡算法，旨在解决分布式训练和推理中的负载不平衡问题；以及DeepSeek Infra中的性能分析数据，这些数据有助于开发者更深入地了解通信-计算重叠策略及底层技术细节。

DeepSeek此次开源举措，不仅展示了团队在优化计算和通信方面的精细工作，还最大限度利用了GPU能力，为AI行业的发展注入了新的活力。