讯飞在国产算力领域的优势源于两大核心支撑:第一,作为华为910b芯片国产训练

文李价值 2025-04-28 15:56:05

讯飞在国产算力领域的优势源于两大核心支撑:第一,作为华为 910b 芯片国产训练大模型的深度合作伙伴,技术实力领先,率先发现并解决前沿问题,且获华为底层逻辑、工具链深度开放支持,更深度参与下一代芯片研发前期方案,提供大模型相关建议;第二,除华为外,讯飞与海光、寒武纪等国产算力企业开展深度合作,基于自身算法迭代需求与更紧密的战略合作关系,得以持续巩固在国产算力领域的领先地位。

从 2023 年 5 月起科大讯飞就联合华为先后攻克了万卡高速互联组网、计算通信隐藏、训练推理强交互、高吞吐推理优化以及国产算子优化等一系列难题, 将通用大模型、类 o1 的深度推理模型等的训练效率对标 A100 均从最

初的 30%- 50%优化达到了 85%-95%以上;以 DeepSeek 非常看重的万卡网络通信带宽的利用率为例,DeepSeek 报道的是 93%,而讯飞星火做到了95%。训练成本也是讯 飞星火大模型的竞争优势,我们单次训练成本和DeepSeek V3 在一个层次,而且 后面优化路径也很明确,目前以昇腾 910B为代表的国产硬件还不支持 FP8 精度训练以及 DualPipe 的实现,随着国产算力在底层能力上进一步提升,讯飞星火的训练成本还有较大的下降空间。“飞星二号”一期项目的成果已经在 2025 年初投产,未来算力还会提升,但基于保密义务无法透露更多具体数据,但算力已不再是讯飞的发展阻碍,且国产算力工作未来将成为讯飞的比较优势。🍎🌹

0 阅读:4
文李价值

文李价值

感谢大家的关注