携华为打造星火一体机,讯飞助力行业客户快速部署私有化大模型

科技拌饭 2023-08-16 15:25:16

早在6月底,也就是科大讯飞发布星火认知大模型V1.5的当月,公司就曾向调研机构透露,讯飞星火将在下次更新中进一步突破代码能力,并面向行业客户及央国企提供业界领先的私有化代码能力平台。8月15日,科大讯飞重磅推出私有化大模型一体机——“星火一体机”,而站在讯飞背后的,还有华为公司以及昇腾AI产业链。

在早先的世界人工智能大会上,科大讯飞就宣布与华为昇腾AI强强联合,共同打造大模型训推一体化解决方案,依托昇腾业界首个万卡AI集群,将大模型训练速度大幅提高,并将稳定训练周期延长至30天以上。科大讯飞还通过自主研发的火石平台,突破了大模型数据系数化、低精度的量化以及高效适配等问题,形成了自主算力与自研平台的融合,保障了算力与数据的安全可控与隐私合规。

正所谓“术业有专攻”,人才资源尚且如此,大模型资源同样如此。虽然通用大模型具有更广泛的使用场景,但仍然不足以满足各行业的专业对口问题,无法解决特定领域的“疑难杂症”。老生常谈的安全问题也如影随形,通用大模型是通用基础设施,其训练预料主要来自公开数据,而企业内部一定会产生自己的私有数据,这些数据的规整性与隐私性非常关键,大模型需要大量规整的数据进行训练。

因此科大讯飞与华为联合打造的星火一体机,就有效地解决了“专业对口”问题与“私有化”问题。星火一体机具有5种定制优化模式、10多种可选场景包,可针对专属知识增强和特定场景定制,2.5P FP16智能算力足以支持海量规整数据的训练和推理。刘庆峰表示:“星火一体机性能领先、安全可控、开箱即用,在中国率先实现了‘拎回去就可以做推理、做内部专门的大模型的训练’,赋能每个企业和每个行业。”

大模型“无所不能”,私有化“大有可为”!从通用大模型到专用大模型,从公域数据到私域数据,星火一体机寄托了科大讯飞“让每一家企业都拥有专属大模型”的梦想,助力千行百业快速部署自己的私有化大模型,让经营提质增效看得见!

0 阅读:23

科技拌饭

简介:每天在这里,科技伴你下饭!