日期:2014-05-16  浏览次数:20455 次

BI笔记之---增量方式处理多维数据集

本文将模拟一个数据仓库系统,其中有用户数据,产品数据以及订单数据。根据这些数据结构建立多维数据集,并且以增量更新的方式对其进行处理。

之所以强调增量的方式,是考虑到事实表中数据的增长,假设以后增长到几十亿,全量处理就变得很不现实,所以方案中着重演示以增量方式处理多维数据集的方案。

增量处理多维数据集的关键是要将事实数据分为两部分处理,一个是增量事实表,一个是历史事实表,多维数据集第一次处理历史事实表中的数据,以后每次周期性的处理都是处理增量表中的数据。

本文中提及的SQLServer和Visual Studio都是2008版本,2005版本同样也适用。

数据假设:一张用户表,一张产品表,一张订单表,订单里记录的是谁买了什么。多维数据集统计的需求就是根据订单统计谁买过什么。

首先,建立数据仓库,在数据引擎下新建BIDemo库。

clip_image002

接下来建立用户表,结构如下:

clip_image004

此外还有产品表:

clip_image006

以及历史订单表和建立增量订单表,它们的结构是一样的:

clip_image008

为了测试方便,我们在用户表中加入一些测试数据:

clip_image010

然后在产品表中加入一些测试数据

clip_image012

至于事实表,手动加入测试数据就不现实了,所以这里写了一个程序利用随机数来灌测试数据:

clip_image014

这个程序的代码可以在本文中找到。生成后的数据基本如下所示:

clip_image016

到此,测试的数据结构以及数据就已经准备好了,相当于有了一个小型的数据仓库。

接下来在Visual Studio中建立BI解决方案,方案下分为一个SSIS项目和一个SSAS项目。

在SSAS项目下建立数据源和数据源视图,这里需要注意的是,事实表用历史表,而不是增量表,尽管其还没有数据。

首先建立数据源,连接刚才建立的数据库,并且在数据源视图里定义好关系,如下图:

clip_image018

然后,根据此数据源视图建立多维数据集,需要注意的是,度量选择历史表,维度选择用户和产品两个表。

最后,部署多维数据集。这里只部署就可以了,不需要处理,处理任务将在以后的SSIS包中处理。

下面来看SSIS项目。在SSIS包里建立四个任务模块,类型分别如下:

clip_image020

前两个多维数据集处理模块是用来处理多维数据集的,数据流负责把增量事实表的数据导到历史事实表中,最后执行一个SQL任务把增量表中的数据删除。

两个多维数据集模块,前一个是专门处理维度,第二个是处理cube。这里之所以要把多维数据集维度处理单独拿出来放在前面,是因为在笔者经验中,对多维数据集的处理虽然是全部处理,但是新增维度的数据不会被聚合到其中,所以需要单独拿出来放在前面处理。

(题外话:对于这个地方笔者一直也不是很理解,按理说既然是全部处理那么怎么连维度都不处理呢,还需要单拿出来)

以下是设置维度处理模块,在界面中选择维度即可。

clip_image022

然后是cube处理模块,如下图。

clip_image024

然后指定增量更新,并且配置增量更新的数据表,这里指定增量表。

clip_image026

多维数据集处理完成之后就可以把增量表的数据放到历史表中了,以保证第二天加入的数据都是增量数据。

需要注意的是,在实际的运行当中,一定要保证BI的处理过程时业务系统没有发生数据,否则就