DeepSeek 开源面向华为昇腾算力平台的基础设施组件,与英伟达平台一一对应
IT之家 9 月 30 日消息,DeepSeek 于今日(30 日)上午通过官方公众号宣布,正式开源面向华为昇腾算力平台的基础设施组件,包括 TileLang 高级语言编译工具、计算库、分布式通信库。这些组件与此前针对英伟达平台的开源组件一一对应。
据介绍,相较于英伟达的 CUDA 语言,TileLang 的编程更为简便,能显著提升开发效率并简化代码逻辑。与其他同类高级语言相比,TileLang 的编程模型能够充分发挥芯片特性,达到硬件性能极限。TileLang 路线首先在英伟达成熟平台上得到验证,目前已成为 DeepSeek V4 系列模型训练中大部分算子的实现基础,是探索 AGI 新范式及开发高性能算子的核心工具。
本次开源的 TileLang 昇腾版本,对昇腾 Ascend C 底层指令进行了封装,提供高级语言编程方式,同时不牺牲硬件性能。目前,DeepSeek 训练中使用的每一个 TileLang 算子,在昇腾上都有相应的高性能实现。
此次开源还涵盖了昇腾平台的核心计算与通信组件,为不同使用场景提供可复用的基础能力:
- DeepGEMM 加速通用矩阵运算;
- DeepEP 提供高效的大规模跨设备通信;
- TileKernels 提供数据处理所需的常规向量计算和访存算子;
- FlashMLA 提供稀疏注意力算子,提升长上下文处理效率;
- DeepSelect 实现高效的数据筛选。
在多项关键测试用例中,上述组件的计算与通信性能已接近硬件上限。
DeepSeek 表示,在面向昇腾平台的研发过程中,华为团队给予了毫无保留的大力支持。双方紧密合作,共同推进基于昇腾 950 的 128 卡超节点方案,并对计算与通信进行了深度优化。未来将持续推进技术创新,与社区共同建设开放的软件生态,共同进步。用户可通过乐鱼体育官网获取更多相关动态。
IT之家汇总开源项目链接:
- TileLang: https://github.com/tile-ai/tilelang
- DeepGEMM Ascend: https://github.com/deepseek-ai/DeepGEMM-Ascend
- DeepEP Ascend: https://github.com/deepseek-ai/DeepEP-Ascend
- TileKernels: https://github.com/deepseek-ai/TileKernels
- FlashMLA: https://github.com/deepseek-ai/FlashMLA
- DeepSelect: https://github.com/deepseek-ai/DeepSelect