wehub
用纯 C/CUDA 实现 LLM 训练。
Updated 2026-07-13 10:31:00 +00:00
DeepSeek 开源的 MoE 专家并行通信库,专为混合专家模型的高效分布式训练和推理设计,优化跨 GPU 通信性能。
Updated 2026-07-13 10:14:40 +00:00