【JVS·智能BI】数据集(三):数据加工动态建模

科技躬身要践行 2024-08-07 17:58:44

传统的数据加工一般采用SQL脚本进行编辑,但是这种模式存在问题,如果对excel、或者mongodb等数据类型进行加工时,是需要不同的脚本编写的,那么对数据加工处理的人员要求就比较高,要了解所有的数据加工方式。

在JVS-BI中构建了统一的数据加工处理引擎ELT。数据集是数据可视化核心承上启下的关键环节,在企业内部实现数据驱动,高效、准确地处理和分析数据,对于企业的决策和运营至关重要。JVS-BI提供了强大的数据集加工功能。

上述三个步骤展示了整个数据可视化的生命周期,数据源解决各种数据形态快速接入的问题,数据集解决的是把各种数据进行清洗、加工、关联、形成标准的分析结果(数据集),然后对数据集进行可视化渲染配置,我们这样就看到了各种各样的可视化的图像。

模拟数据抽取

进行数据加工开始于进入配置引擎后,引入开始的数据源,系统就会默认的对数据源进行抽取部分数据进行模拟建模,如下图所示:

①:拖入输入节点,系统将弹出数据源选择器,用户可以选择对应数据来源

②:点击输入节点时,系统将在下方弹出输入节点的配置界面

③:系统会模拟从数据源模拟抽取10000条数据进入ELT中,用于模拟建模

④:展示从数据源中抽取的数据量(默认抽取10000条数据)

⑤:点击刷新,系统将重新从数据源重新抽取数据

节点连接

通过节点与节点之间的连接,形成处理任务的步骤化执行

连接的方式通过点击节点的线头位置后,保持点击状态,移动鼠标在下一个节点的输入节点附近释放单击,系统自动实现节点的连接。也可以如下所示,快速实现数据加工的节点连接:

点击本节点的“+”,在弹出框中选择后续可以连接的节点,系统将自动形成两个节点的连接。

节点配置

那么如何可以快速的形成数据集,这里就需要用到动态建模的过程,如下图所示:

动态建模就是采用 数据流程化处理的方式进行构建 数据加工的过程,构建这个过程不是采用编写sql处理脚本,而是在界面上提供配置化的方式,这个过程我们称为动态建模

动态建模另外一个核心的关键点是,在数据处理的算子加入流程时,配置了对应的前后处理的节点后,系统可以自动预配置后的业务效果

①:点击节点,下侧展示节点配置内容界面

②:点击节点设置,进入节点配置界面

③:设置本节点的具体数据加工处理的方式,上图为横向数据连接(join)

在配置完成后,点击模拟建模

①:在完成算子具体配置后,点击节点

②:点击动态建模

③:系统会把当前模拟获取的数据,根据配置的数据进行 模拟处理,可以看到模拟处理的结果,更便捷的看到处理的效果。

④:系统展示出来本节点模拟建模后的数据条数(这里的数据是基于前置节点的数据进行的建模)

节点的类型

节点的类型包括多种方式对数据进行处理:

输入节点:作为数据处理流程的起点,用于导入或读取数据源。输入节点可以连接各种数据源,如数据库、文件、API等,并将数据导入到数据处理流程中,模拟抽取相关的数据,用于动态建模。

输出节点:作为数据处理流程的终点,用于将处理后的数据生成数据集(结果数据),便于用于图表、报表、大屏等数据引用场景。

数据拓展:对原始数据进行扩展数据加工字段,函数加工的方式把在原有的数据列的基础上计算衍生出新的数据。例如,可以根据用户的购买历史生成用户购买能力的指标等

横向链接:将来自不同数据源或不同表的数据按照某种关联条件进行横向合并,生成一个更宽的数据表。这类似于数据库中的JOIN操作

追加合并:将多个数据源或表中的数据按照某种顺序或条件进行纵向合并,生成一个更长的数据表。这类似于数据库中的UNION操作。

分组汇总:将数据按照某个或某些字段进行分组,并对分组内的数据进行聚合计算,如求和、平均、计数、求最早时间等

数据筛选:根据一定的条件或规则,从原始数据中筛选出满足条件的数据记录。这类似于数据库中的WHERE子句

字段设置:对数据表中的字段进行各种设置,如重命名、删除、修改数据类型等。这有助于调整数据表的结构以满足后续处理的需求。

条件分组:根据一定的条件或规则,将数据分成不同的组,以便对每组数据进行单独的处理或分析

行列转换:将数据表中的行和列进行互换,即将原来的列变成行,原来的行变成列。这有助于改变数据的表示方式,便于进行某些特定的分析或处理。

数据排名:根据数据表中的某个或某些字段的值,对数据进行排名,生成排名字段。这有助于了解数据在整体中的相对位置。

输出数据集

通过流程化的数据加工后生成的业务结果,和普通的表类似,成为数据集

整个过程系统会固化这个配置处理的设计,我们这个过程就是动态建模的过程,所配即所得,所得即固化设计。

在线demo:http://bi.bctools.cn

gitee地址:https://gitee.com/software-minister/jvs-bi

0 阅读:0

科技躬身要践行

简介:感谢大家的关注