作者 | 李冬梅 6 月 17 日，极客时间《企业级 Agents 开发实战营》正式上线，10 周掌握企业级 Agents 从设计、开发到部署全流程。 随着 GPT-4o、Sora、Veo 等大模型的发布，人们对于大模型的关注达到了前所未有的高度。大模型以其强大的语言理解和生成能力，逐渐成为各行各业不可或缺的生产力。对于企业来说，应用大模型不仅可以提升业务处理效率，还能在数据分析和决策支持等方面发挥巨大作用。然而，大模型与企业数据的结合并非易事，其中涉及多方面的挑战和难点。 这主要体现在四个方面：首先，模型需要深入理解企业多样化的业务数据，然而数据的类型繁多、格式杂乱且来源无法统一；其次，业务数据随着企业运营实时变化，模型需不断学习不同来源的、持续变化的业务信息；第三，数据隐私和大模型使用的安全合规是企业业务不能触碰的红线。企业既要让模型理解好数据，又需要做到安全合规；最后，数据偏见和公平性问题：不同大语言模型由于训练数据来源不同，侧重点有差异，导致模型会存在偏见。企业需要评估不同模型的能力以及为不同业务场景选择合适的模型。 针对这些挑战，北京 AI 创企灵奥科技 Vanus 有着自己的解决方案。 突破数据壁垒，帮助大模型在企业“无痛”落地 北京灵奥科技 Vanus 成立于 2021 年底，是一家面向全球的人工智能初创企业，主要使命是为企业构建 AI Agent，先后获得靖亚资本、PNP 等 4 家机构的多轮融资。目前北京灵奥科技已经推出了多款产品，包括数据管道（Vanus Connect）和大模型中间件（Vanus AI）和 VanChat 三款 SaaS 产品，累计服务了全球 30000+企业。 北京灵奥科技 Vanus CEO 厉启鹏认为，数据是企业落地大模型的核心挑战之一，如果有一个中间环节能够帮助用户承上启下，或许就能解决这一痛点。而大模型中间件介于大模型和应用之间，是打通大模型企业端落地最后一公里，是企业构建 AI 应用的必备组件，更是能够帮助企业解决数据问题的关键。 在全球的数据处理领域，数据管道已成为一种不可或缺的工具，它负责将数据从源头移动到目标位置，并在这一过程中执行必要的转换和操作。其中，Fivetran 以其作为数据集成解决方案的独特地位，已成为业界的独角兽企业。然而，北京灵奥科技推出的 Vanus Connect 数据管道工具，却在功能和特性上与 Fivetran 有所不同，尤其是在处理非结构化数据和打通 SaaS 应用等方面展现出了其独特的优势。 首先，Fivetran 作为一个自动化的数据集成解决方案，其核心功能是将数据从网络应用、事件、数据库等同步到数据仓库中。它专注于数据的传输和同步，确保数据的准确性和一致性。然而，对于非结构化的业务数据，Fivetran 的处理能力可能相对有限。 相比之下，北京灵奥科技的 Vanus Connect 则更加侧重于非结构化数据的处理和应用打通。它不仅可以将业务数据导入数据湖中，更重要的是，它能够打通 SaaS 应用和其他业务工具，将非结构化的业务数据转化为结构化的事件处理引擎。这意味着，Vanus Connect 不仅能够处理传统的结构化数据，还能够对如社交媒体评论、电子邮件、聊天记录等非结构化数据进行有效的处理和分析。 此外，Vanus Connect 还提供了基于用户要求的数据响应和处理功能。企业可以根据自身的需求，对来自不同来源的数据进行个性化处理和响应。这种灵活性使得 Vanus Connect 能够更好地满足企业的数据处理需求，提供更灵活、个性化的解决方案。 在实际应用中，Vanus Connect 的优势在于其能够帮助企业从海量数据中找到与业务最相关的数据，提高数据的利用率和效率。同时，通过打通 SaaS 应用等业务工具，Vanus Connect 能够实现数据的实时获取和分析，帮助企业更快地做出决策和响应市场变化。 通常来讲，企业业务中的数据非常多，但也常杂乱无章。对一个企业来说，需要从海量数据中找到和业务最相关的数据，才能保证执行的最快效率。而 Vanus Connect，可以按照企业客户的需求，帮助清洗、数据过滤、数据转换，并打通业务应用和办公应用，提升响应效率。 厉启鹏介绍说，大模型中间件介于大模型和应用之间，帮助企业解决数据问题，打通大模型企业端落地最后一公里，是企业构建 AI 应用的必备组件。在神经网络层，Vanus Connect 可以连接企业不同的数据源，实时感知企业业务事件的变化，并推送给神经中枢，然后接收神经中枢的指令去做执行。在神经中枢层，Vanus AI 结合知识库（向量数据库）和大模型，帮助企业做业务的决策。 同时，大模型中间件 Vanus 可以将大模型优势和企业数据无缝结合，为用户提供 Claude 3 等多模型选择，实现商品数据自动同步，包括商品数据自动更新、Shopify 数据自动接入等，还可与网站、钉钉、飞书、企业微信等第三方应用无缝集成。 此外，厉启鹏坦言，北京灵奥科技帮助企业解决数据难题的背后，离不开亚马逊云科技的技术支持。 谈到为何选择亚马逊云科技作为合作伙伴，厉启鹏表示，亚马逊云科技提供使用简单、功能强大的云服务，这是合作的基础。而且，亚马逊云科技还提供全方位的技术服务，包含技术方案和架构师等，加速 Vanus 的产品落地。同时，通过亚马逊云科技合作伙伴网络（APN）提供全面的推广资源和支持，加速 Vanus 产品进入市场。 “我认为亚马逊云科技是最值得信赖的云服务提供商。作为全球最大的一朵云，它有非常强大的运营经验，能够帮助我们更好地服务分布在不同区域、不同国家的客户。同时，它也是我们首选的一朵云，经过了全球最多用户的打磨，是最安全的云。” 厉启鹏说。 原文链接：大模型与企业数据该怎样结合？这家大模型中间件创企给出了靠谱的解决方案_生成式 AI_李冬梅_InfoQ精选文章