ISV“AI进化论”的统信模式

给科技置顶 2024-08-29 12:03:17

作者:毛烁

生成式AI被认为是企业实现高速增长最关键的技术。原因在于,它不只是一项创新技术,更为业务层面带来了革新。

自GPT-4发布伊始,企业和个人用户,都迅速地感受到由AIGC带来的颠覆性力量。极简的使用、以人为本的体验、明显的交付价值,推动生成式AI逐渐影响着企业应用,并激励技术提供商在自身业务中开展生成式AI创新。

随着数字化转型的加速,企业急需具备快速适应市场变化的能力,生成式AI提供了这种可能性。在当前阶段,企业对生成式AI解决方案的需求日益增长。

01趋势:技术融合、创新驱动、商业伦理

作为ISV(独立软件开发商),统信软件对于其客户企业调研的结果显示,企业对生成式AI解决方案的需求主要体现在以下几个层面。

兼容性需求上升。企业希望AI解决方案能够无缝地与现有IT基础设施和软件生态系统集成,兼容各类操作系统、数据库、应用程序和云平台,无需进行大规模的调整或重新配置。

可扩展性与灵活性。企业重视生成式AI解决方案的可扩展性,故而解决方案需具备处理大规模数据的能力,并能随需求增长动态扩展。同时,应适应不同应用场景,如文本生成、图像处理、自动编码和客户服务等。

数据隐私与安全性。企业要求生成式AI解决方案不仅要遵守数据隐私法规(如GDPR等),还要能够确保企业内部敏感数据的安全性,防止数据泄露或不当使用。

定制化需求。面对不同的行业有不同的需求,生成式AI解决方案要提供灵活的API和工具,以便企业能够根据自身需求进行定制化开发。

对开发者友好。企业希望生成式AI解决方案能够简化开发流程,降低使用门槛,帮助其快速上手并高效地开发和部署AI应用。

不难看出,企业对生成式AI解决方案的需求趋势可以视为技术融合与创新需求的具体体现,同时,这些需求背后是更深层次内涵,便是商业与伦理驱动力的交织——即生成式AI的应用创新必须在不牺牲用户信任的前提下进行创新演进,这对技术供应商提出了更高的要求。

02 纽带:操作系统 链接AI与用户

“纽带”是统信UOS在人工智能产业链中对自身角色的定义。“在人工智能产业链中,从基础算力到最终应用,可以区分五个关键层级——算力基础、操作系统、AI模型、中间层和应用。统信UOS在其中起到了承上启下的作用。”统信软件高级副总裁张磊强调,大模型的自我学习能力将赋予给OS,形成基于用户的智能体,站在操作系统的层面去观察用户,基于对软硬件的调优与整合,更好地了解用户、理解用户、服务用户。

统信软件高级副总裁 张磊

其实,大模型时代初期统信软件就看到了AI+OS带来巨变的可能性,预判了智能化趋势,并伴随大模型点燃市场的伊始,打造出相关解决方案。

统信UOS AI内嵌的操作系统地早在2023年9月便已落地。当时,统信UOS旗下的deepin操作系统已经成为中国首个接入大模型的开源操作系统,这也标志着统信UOS在AI领域的正式进军。

紧随其后的同年12月,deepin-IDE作为中国首个自研、面向信创生态的集成开发环境宣布接入UOS AI。来年1月,统信UOS专业版接入UOS AI,成为中国首个接入大模型的商业发行操作系统版本。

在这一过程中,统信UOS不仅在产品开发上实现了重大突破,其在生态建设、开发者赋能等方面也表现出强大的创新能力。通过本地/在线模型,UOS AI向各应用提供AI能力支持,目前已有60余款应用接入UOS AI生态;通过与百度千帆、智谱、科大讯飞、360集团、昆仑万维等大模型生态伙伴达成深度合作,现已覆盖超过90%主流开源大模型与AI框架,为全球用户提供更加精准、高效、智能的AI服务。

同时,统信UOS依托《统信UOS开发者指南》、开发者分级支持体系、开发者支持计划,打造AI时代最开放、中国最大的操作系统开发平台,致力于汇聚全球开源力量构建UOS“原生态”。张磊透露,截至目前,统信UOS原生应用已超过6000款。

张磊总结道:“统信软件早就明确了‘操作系统+AI’的战略地位,构建出全栈AI布局,包括AI内嵌的操作系统、AI导向的解决方案和AI原生的开发者生态,且每一个业务领域都有着竞争优势和突出的关键模块能力。”

相比大模型厂商、云厂商、电信运营商等,统信UOS等ISV(独立软件开发商)具有独特的竞争优势,尤其在理解特定场景方面显得尤为突出。张磊举例称,在B端业务中,生成式AI项目需要与客户业务紧密结合,通过逐步深入的打磨和优化,才能打通业务逻辑,实现更多应用场景的落地。而ISV则能凭借与客户的良好合作关系和对客户需求的深刻理解,具备在满足客户需求方面的先发优势,能够有效推动技术融合与赋能,形成持续的发展曲线。

03 创变:AI成为操作系统基础服务

目前,统信软件正在将AI能力变成操作系统的基础服务之一,这意味着未来操作系统将不再仅仅是软件运行的平台,而是集成了强大AI能力的智能化平台。这种转变将极大地扩展操作系统的应用场景和功能边界。

“例如我们在AI PC方面的布局正是如此。”张磊强调,统信软件基于UOS AI,在系统资源调度、硬件策略、模型加速框架、用户意图预测四个方面进行系统级优化,帮助客户快速通过生成式AI落地的最后一公里。

在系统资源调度上,统信UOS实施了系统级的资源运行保障。在模型启动之前,加载程序将依据当前的硬件资源状况动态判断是否具备加载模型的条件,从而避免因资源不足而引起的系统卡顿或宕机。若用户的硬件条件不达标,则系统不会执行模型加载,而是将资源保留给用户使用。

在硬件策略方面,若用户的硬件配置能够更加迅速而高效地运行大型模型,统信UOS将在其模型加载框架中为用户提供最优的运行策略。

针对模型加速框架,统信UOS除了提供针对用户硬件的评估策略和选择外,对于用户所需执行的AI任务亦可通过该框架实现批量并行封装,同时支持多应用智能的同时并发处理,显著提升智能特性的整体运行效率。

面向用户意图预测层面,统信软件UOS开发了意图判断功能,以确定用户本次需执行的具体动作。通过缩减动作的范围,系统能够减少所需封装的提示词数量,从而降低模型的计算时间,优化AI的单次调用效率,并减少AI大模型的时间占用。“由于用户需要调用的能力可能千变万化,若每次都组装全量的提示词给AI模型,就会大量浪费词元,并且模型的调用准确度也会大幅下降。”张磊如是说。

对于客户定制化的需求,统信软件在操作系统层、AI中间层、应用层,提供了全面的解决方案,深入集成和优化系统,确保不同层次的软件组件能够协同工作,实现高效的资源管理和任务执行。

在操作系统层,针对AI场景,统信UOS充分发挥Linux优势,适配各大AI算力芯片,衔接AI模型和算力平台;同时提供IDE,助力AI相关应用开发;

在AI中间层,统信UOS发挥操作系统站位优势,提供本地和在线模型对接和管理服务、系统AI接口、AI开发环境等,让开发者可以快速、低成本搭建AI应用。

针对应用层,统信UOS将AI技术应用到系统应用、商业产品中,并围绕客户场景进行产品组合,形成解决方案,为客户提供AI一揽子解决方案,同时为生态伙伴的AI产品化提供参考。

写在最后

未来,独立软件供应商(ISV)在生成式AI的商业化应用上仍拥有广阔的市场潜力。随着技术的持续进步和企业对智能化需求的增加,ISV可以开发和提供更加专业化和个性化的解决方案,帮助企业实现自动化和效率优化。

“统信软件深耕操作系统与基础软件二十年,已为开启面向AI的全新十年做好充分准备,引发基础软件产业的代际变革,以‘操作系统+AI’领跑新时代。”张磊如是说。

0 阅读:0

给科技置顶

简介:感谢大家的关注