DeepSeek官方开源昇腾基础组件,与昇腾共建高效易用的AI芯片软件生态
本次开源,DeepSeek发布了DeepGEMM、FlashMLA、TileKernel、DeepSelect等高性能昇腾算子库组件和DeepEP分布式通信库。
据华为计算官微消息,9月30日,DeepSeek正式开源面向昇腾算力平台的基础设施组件,涵盖TileLang高级语言编译工具、高性能计算库与分布式通信库,与此前面向GPU平台开源的组件一一对应。
本次开源,DeepSeek发布了DeepGEMM、FlashMLA、TileKernel、DeepSelect等高性能昇腾算子库组件和DeepEP分布式通信库。昇腾提供了稳定、开放的Ascend C API接口,使能用户对访存路径及计算流水线进行深度调优,完成高性能算子开发。同时依托开放Ascend C编程接口与PTO ISA底层指令体系,支持了DeepSeek的TileLang编程开源工作。昇腾生态兼顾不同开发范式,既支持资深开发者进行精细的手工调优,也支持TileLang等高级语言的编译对接。
华为向DeepSeek团队提供了联合定义的昇腾超节点SuperPoD Flex 和UBL128组网方案,可实现128卡3.2Tbps单层交换Scale-up网络和256K卡两层交换Scale-out网络,可以支持超低时延推理和前沿基座模型的大规模训练的需求。基于全互联的UBL128超节点,昇腾提供了 ASC-COMM 高性能自定义通信编程库,支撑用户通信算子与通算融合算子高性能编程。DeepSeek团队开发了高性能DeepEP通信库,涵盖EP / CP / PP / FSDP 等模式下的通信算子,为更大模型向更大集群扩展提供支持,互联带宽实测达到 Dispatch 375 GB/s、Combine 347 GB/s的通信性能,接近硬件上限。

