【蚂蚁集团取得重大AI突破 :可媲美英伟达H800芯片】3月25日消息,近日,有知情人士透露,蚂蚁集团正使用中国制造的半导体来开发AI模型训练技术,这将使成本降低20%。
此外,蚂蚁集团Ling团队的技术成果论文《每一个FLOP都至关重要:无需高级GPU即可扩展3000亿参数混合专家LING大模型》已发表在预印版Arxiv平台上。
论文显示,蚂蚁集团推出了两款不同规模的MoE大语言模型——百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),前者参数规模为168亿(激活参数27.5亿),Plus基座模型参数规模高达2900亿(激活参数288亿),两者性能均达到行业领先水平。
知情人士称,蚂蚁集团使用了包括来自阿里巴巴和华为的芯片,采用所谓的“专家混合机器学习”方法来训练模型,测试结果取得了与采用英伟达H800等芯片训练相似的结果。
虽然蚂蚁集团仍在使用英伟达芯片进行AI开发,但其最新模型已主要依赖包括超威半导体(AMD)及中国国产芯片的替代方案。
这表明,蚂蚁集团正加速AI技术本土化,以降低成本并减少对美国高端芯片的依赖。
据公开资料显示,”英伟达H800”是英伟达研发的芯片,专为高性能计算和人工智能训练设计的高端GPU芯片,广泛应用于数据中心和AI模型训练场景。
在2023年7月30日时,英伟达特供国内的A800和H800芯片已经从原来的12万人民币左右,涨至了25万甚至30万,甚至有高达50万一片。至2025年,H800芯片单卡价格约为6万元。
与此同时,在2023年9月,H800服务器价格约210万元/台,后在同年10月,因限售政策涨至350万元/台。至2025年市场数据显示,H800整机价格稳定在230万元左右。
另外,针对近期蚂蚁百灵大模型训练成本的报道。蚂蚁集团回应称:蚂蚁针对不同芯片持续调优,以降低AI应用成本,目前取得了一定的进展,也会逐步通过开源分享。