过去几年中,AI从一个技术话题变成了一个社会话题。AI被许多人视为一种提升生产力的强大工具,具备深刻改变各行各业的潜力。因此,许多人认为,AI不应仅限于少数人掌握,而应像电力一样,普及并惠及更多人。
为了做到这点,开放的生态自然必不可少。2024年8月29日,英特尔中国软件技术合作事业部总经理唐炯分享了英特尔在企业AI上的整体布局,以及如何通过构建开放的软件生态来推动AI应用的发展。
唐炯指出,AI技术虽然已经历了机器学习、深度学习和生成式AI的阶段,但距离真正意义上的“AI无处不在”还有很长的路要走。未来,如果AI未来能像家门旁的挂包的吊钩一样无处不在,当它出问题才会被人注意到时,才算真正的无处不在。
一直以来,英特尔都在开放生态中扮演着极为重要的角色,在面对AI时,英特尔做了一系列准备工作,具体而言可以分为三个方面:
第一个,在加速创新方面。当前,生成式AI、大模型等技术虽已令人惊叹,但尚未大规模应用到企业级场景中。因此,需要为AI应用开发者提供便利,以便于更快打造出真正不可或缺的“杀手级应用”。
我们看到,英特尔的底层硬件架构层面对于PyTorch、TensorFlow、Python等AI相关的软件支持度很高。同时,英特尔支持开发者使用oneAPI、SYCLomatic、OpenXLA等跨平台的开发工具。最后,英特尔也关注如何提升AI推理的准确性和可靠性。
第二个,价值最大化。AI的应用最终目的是创造实际价值。因此,企业需要将最合适的工作负载分配到最合适的平台上,以优化资源利用,降低成本,或者说物尽其用。
唐炯提到,AI的成本结构与传统云计算有显著不同,云计算的成本效益来源于CPU的高效调度,即通过将CPU的空闲时间分配给不同用户来降低单个用户的成本。而在AI时代,AI加速器工作时几乎没有空闲时间,也因此打破了传统云计算的成本结构。
为了实现价值最大化,需要将不同的AI工作负载分配到最合适的硬件平台上。例如,某些AI任务可以在云端运行,而另一些任务则更适合在边缘设备(如工厂、医院的本地服务器)或端侧设备(如PC、手机)上执行。
比如,如果企业的AI任务主要依赖云计算,云端算力的租赁和购买可能会导致高昂的成本。但如果能够利用端侧设备(如PC、手机)的算力,分担一部分AI计算任务,可以显著降低整体云端成本。
第三个,灵活部署。AI解决方案涉及广泛的软件和硬件堆栈,需要灵活部署各个模块来实现高效的跨平台兼容性和工作负载分配。云、边和端每个场景的需求和条件不同,而AI解决方案涉及复杂的技术堆栈。因此,在这些异构平台上的灵活部署AI方案也是一大问题。
事实上,没有一家企业能够独自提供完整的AI解决方案,通常需要多个供应商合作。因此,英特尔提出了“解构”AI解决方案的概念,将复杂的解决方案拆分成更小的模块,以便在不同硬件上灵活部署和优化。
英特尔中国软件技术合作事业部总经理唐炯
在AI生态系统中,不同的专业厂商有各自专注的领域。通过“解构”,每个合作伙伴可以集中精力于自己的专长领域,既不需要跨越到不擅长的领域,也避免了“重复造轮子”的问题。
唐炯还提到了OPEA(Open Platform for Enterprise AI),OPEA是一个面向企业级AI的开源平台,旨在通过整合不同厂商的代码和模块,形成一个完整的AI解决方案。
OPEA提供一个开放透明的平台,允许开发者和企业更好地理解自己的贡献和优化点,可以避免因选错大模型或其他技术而导致重大返工。OPEA已经吸引了全球范围内的头部ISV和国内厂商的参与,并预计将有更多中国的软件行业合作伙伴加入其中。
现在,英特尔正在协同广大生态伙伴以优化的性能推动业务拓展,充分释放企业AI潜力。在媒体沟通会上,来自东方国信、海鑫智圣和星环科技的代表也都分享了在推动AI技术发展上的实践。
东方国信是一家专注于大数据、云计算和人工智能的软件公司,服务于通信、金融、工业等多个领域。东方国信副总裁兼CTO 查礼详细介绍了东方国信的“幕僚”系列智能应用,涵盖智能BI系统、智能客服、智能APP和智能数据仓库等。
东方国信与英特尔在前沿计算技术领域有很多合作,尤其是在数据库、大数据和生成式AI等方面的合作。他强调了双方在软硬件协同和企业级AI平台构建上的努力,并表达了希望继续合作,共同推进智能计算发展的愿景。
海鑫智圣是国内最早从事AI相关业务的企业之一,海鑫智圣总经理孟凡军介绍了海鑫智圣在机器视觉(CV)领域的大模型应用,并强调公司致力于通过自建算法框架和推理引擎,结合云、边、端一体化,实现高效、安全、智能的AI解决方案。
海鑫智圣与英特尔也保持着紧密合作关系,通过英特尔提供的OpenVINO和oneAPI等工具,在至强CPU上提升了AI推理性能,有效解决了云厂商在引入AI算力时的挑战。
星环科技自2013年成立以来,专注于大模型、知识库、向量库等产品的研发,并在多个行业积累了丰富的客户资源。星环科技生态合作部总经理张雷介绍了星环科技推出的Hippo向量数据库和TKH产品,并分享了这些产品在企业部署大模型和知识体系中的应用场景。
此外,张雷详细介绍了与英特尔合作开发的无涯·问知AI PC版,这款产品可以解决用户在云端算力不足和数据安全方面的挑战。它不仅缓解了云端算力的资源瓶颈,还为那些无法或不愿将敏感数据上传至公有云的用户提供了更安全、灵活的本地AI应用解决方案。