数据仓库基础

单击此处编辑母版标题样式,*,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,数据仓库基础,主题,商业智能技术,数据仓库与多维模型,设计数据仓库,设计多维模型,商业智能的体系,商业智能技术体系（BI,Business Intelligence,）,在线分析处理技术,（OLAP：,Online Analytical Processing）,数据挖掘技术,（Data Mining）,数据仓库技术,（Data Warehousing）,数据整合,集成各系统的历史数据，建立面向主题的企业数据中心,数据分析,灵活、动态、快速的多维分析、随机查询、即席报表,知识发现,通过数学模型发现隐藏的、潜在的规律，以辅助决策,更加全面、深入的分析,形成知识库指导决策、再分析,数据仓库定义,数据仓库的概念,数据仓库就是面向主题的、集成的、不同时间的、稳定的数据集合，用以支持经营管理中的决策制定过程。,什么是数据仓库？,？,数据仓库的特点,面向主题,集成性企业数据框架,历史性、稳定性,数据仓库与业务数据库的,比较,什么是联机分析处理（OLAP）？,OLAP的定义,OLAP是使分析人员、管理人员能够从多种角度对从原始数据中转化出来的、能够真正为用户所理解的、并真实反映数据维特性的信息，进行快速、一致、交互地访问，从而获得对数据的更深入了解的一类软件技术。,OLAP的特征,OLAP的核心指标、维,OLAP的目标多维分析,OLAP的特点,灵活、动态,多角度、多层次的视角,快速,OLAP的基本功能,商业语义层的定义,上钻和下钻（Roll up or Drill down）,切片和切块（Slice and Dice）,旋转（Pivoting）,强大的复杂计算能力,时间智能,丰富的数据展现方式,OLAP功能示意,按机构钻取,济南,地区维,时间维,行业维,青岛,数据挖掘技术(Data Mining),DM的定义,数据挖掘(Data Mining)是从数据集中识别出有效的、新颖的、潜在有用的以及最终可理解模式的高级处理过程。也就是说，从大量的、不完全的、有噪声的、模糊的、随机的数据中,提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。,DM的特点,涉及数据库、统计分析、人工智能多种技术,预测和验证功能,特征和规律描述,主题,商业智能技术,数据仓库与多维模型,数据仓库设计,多维模型设计,数据仓库与多维模型概述,多维模型与数据仓库,多维模型通过组织和汇总数据仓库中的数据而为分析查询提供一种多维的表现方式。,数据仓库是多维数据集的数据基础，其结构的设计会影响多维数模型的设计和建立的难易程度。,主题,商业智能技术,数据仓库与多维模型,数据仓库设计,多维模型设计,数据仓库设计原则（一）,模型构架,尽量使用星型架构，使用雪花架构的目的是使事实表第一级的维表数量达到最小。,设计方法,将常识规范化方法应用于维度表设计。例如，不相关的数据不应组合到单一维度表中，而且在多个维度表中数据不应重复。,维表设计,设计维表应包含需要分析的有关事实的有意义信息，例如产品的颜色和大小。,事实表设计,不要在事实数据表中进行过度的汇总，以保证在必要时可以进行所需粒度的数据访问。,数据仓库设计原则（二）,数据存储方式,在必要时可以把要在同一个多维数据集中使用的数据存储在多个事实数据表中，条件是这些事实数据表必须具有相同的结构。,索引,在关键字段上创建索引，以提高处理多维数据集的性能。,特殊要求,根据所选的OLAP引擎特殊需要，确保数据诸如完整性等的特殊要求。,增量更新,必须考虑数据增量和更新的策略，以保证多维数据集中有所需的数据。,数据仓库基本元素（一）,关系型数据库,关系数据库是建立数据仓库的基础引擎平台，它为数据仓库提供临时存储、清理和转换传入的数据，容纳和管理数据仓库中的大量数据，并支持数据仓库的功能。,数据源,数据源是数据仓库用于分析的数据来源，是建立数据仓库时必须聚集和合并的不同来源的数据。,数据仓库基本元素（二）,事实表,事实表是用于存放经过汇总的历史信息，也就是事实数据的表，是星型架构或雪花型架构的中心。每个数据仓库或数据集市都包括一个或多个事实表。事实表一般不包含描述性信息，具有可以聚合的特点。,维表,维度表是存储描述事实表中事实数据特性的表，每个维表都是独立于其它维表的，并且包含了事实特性的层次结构信息。,索引,与在任何关系数据库中一样，索引对提高数据仓库性能和处理多维数据集性能的起着重大作用，是数据仓库中不可或缺的部分。,数据仓库组织形式（一）,星型模型,星型模型是由单个事实数据表和一些维度表组成的构架模型。在这种模型中每个维度表均联接到事实数据表上。,事,实,表,税务机关维表,行业维表,经济性质维表,时间维表,税种维表,数据仓库组织形式（二）,雪花型模型,雪花型架构比星型模型增加了次要维表，有一个或多个维表是联接到其它维表上，而非事实数据表上。,事,实,表,机构维表,行业维表,地市维表,时间维表,省份维表,地区维,数据仓库设计（一）事实表,事实表设计,每个事实数据表都应该由两个部分组成，一个由多个部分组成的索引和一些由这些索引所描述的数据。,索引部分,索引部分包含着与描述事实数据特征的维表相关联的外键信息。,数据部分,数据部分是事实表中真正要存放的事实数据。,数据仓库设计（一）事实表,事实表示例：,前五列为索引部分，后三列是事实数据部分,列,描述,time _id,时间维表,Dim_time,的外键,swbm _id,税务机关维表,Dim_swbm,的外键,jjxz _id,经济性质维表,Dim_jjxz,的外键,szsm _id,税种维表,Dim_szsm,的外键,hy_id,行业维表,Dim_hy,的外键,Yzsj,包含本月应征税款的列,Djs,包含抵缴数的列,Jms,包含免数/退库数的列,数据仓库设计（一）事实表,设计事实表应注意的问题,事实表中一般不应包含描述性信息，也不应包含除事实表与维表中间对应的关联字段之外的任何数据。,事实表中的数据应该是经过适当聚合的数据,事实表中数据的粒度应该是一致的,事实表的设计应该考虑增量数据更新的需要，例如是否需要增加时间戳字段等。,数据仓库设计（二）维表,维表设计,维表设计中由于维度类型的不同，其维表结构也会相应有不同特点。,维度分类,普通维,普通维是基于一个维表的维度，由维表中的不同列来表示维度中的不同级别。,雪花维,雪花维是基于多个维表的维度，各个维表间以外键关联，分别存储同一维度中不同级别的成员列值。,父子维,父子维是基于两个维表列的维度，由维表中的两列来共同定义各个成员的隶属关系。一列称为成员键列，标识每个成员；另一列称为父键列，标识每个成员的父代。,数据仓库设计（二）维表,普通维,普通维中的层次是根据维表的列而定义的，所以维表中列的定义会直接影响到维度中层次的定义。设计普通维度的维表必须充分考虑维度的扩展性。,示例：,例如下图中典型的时间维度如左图所示，则每一个层次在维表中均应有对应的列。,第1季度,2000年,第2季度,1月份,2月份,3月份,第3季度,4季度,月份列值,季度列值,时间维表,年,季度,月份,数据仓库设计（二）维表,雪花维,由于雪花维是基于不同维表建立的，所以针对雪花维而设计的维表必然有多个，各维表分别存储维度中不同级别的成员值，维表间以外键关联。,示例：,例如，典型的地区维中地市维表可以存储全国所有的城市名称和编码，以及所属省份的编码，而在省份维表中则只存储省份名称和编码，两维表以省份编码关联。,地市维表,City_id,Province_id,City_Name,省份维表,Province_Name,Province_Id,数据仓库设计（二）维表,父子维,由于父子维中的层次关系是由维表中的两个列来共同定义的，所以其维度层次结构是由维表中的列值决定的，且维度层次分布是不均衡的。,示例：,例如，典型的机构维中除了最上层的机构外其它机构都具有其本身机构信息和上级机构信息两项属性。由此，维表中也必须包含此两项信息的设计。,机构维表,机构编码,机构名称,上级机构编码,数据仓库设计（三）索引,索引,与在其它关系数据库中一样，索引对数据仓库的性能具有重要作用。每个维度表都必须在主键上建立索引。在其它列（如标识层次结构级别的列）上，索引对某些专用查询的性能也很有用。事实数据表必须在由维度表外键构成的组合主键上建立索引。,由于星型架构和雪花型架构很简单，大多数数据仓库应用程序所需的索引主要就是这些。对于特殊查询和创建报表，则可能需要其它索引。,数据仓库设计（四）增量机制,增量更新机制,在数据仓库设计中还必须注意的一个问题就是数据仓库结构对数据更新（增量）的影响。,主题,商业智能技术,数据仓库与多维模型,数据仓库设计,多维模型设计,多维模型设计基本元素,维度,级别,成员,度量值（指标）,计算值（计算成员）,存储方式,角色权限和安全机制,维度设计,维度,维度的设计包括根据分析的需求选择维度的类型、设计维度的层次结构和是否共享等权限考虑。,选择维度类型,根据维度所描述的事物特征选择适合的维度类型,。,设计维度层次结构,根据分析的实际需要设计维度的分层和级别等结构。,维度共享,确定该维度是否可以为其它模型所应用，如果是常用维度，则一般设计为共享维度。,维度选型,维度选型,维度选型必须根据维度所描述的事物特征来进行选择。,普通维,适用于层次分布均衡，等级关系固定，不易发生变化的维度，例如时间、年龄分布等维度,雪花维,适用于层次分布均衡，等级关系固定，但成员个数较多，或维度层次由一定扩充性的维度。例如地区维度。,父子维,适用于层次分布不均衡，有明显隶属关系的分析角度。例如机构等维度。,维度的层次结构设计,级别,级别是维度层次结构的一个元素。级别描述了数据的层次结构，从数据的最高（汇总程度最大）级别直到最低（最详细）级别。划分维度级别时必须充分考虑此后进行分析的具体要求，级别划分必须清晰，有逻辑上的可汇总性。,成员,组成维度的所有列值就是维度的成员。设计维度成员时必须考虑分析的充分可扩展性，照顾到分析的每一种可能性，也就是必须保证维度的完整性。,度量值与计算成员,度量值,度量值是多维数据集中的一组值，是所分析的多维数据集关注的中心。这些值通常为数字，具有可聚合的特性。同时，由于度量值是生成计算成员的基础，所以度量值应该是最基础的数据，具有充分的可扩展考虑。,计算成员,计算成员是基于度量值而定义的运算表达式，其计算结果一般不进行存储，而是在运行时临时计算的所得。不同的OLAP引擎所能够提供的基本函数和计算方法会有所不同，性能上也会有一定的影响，在设计时应充分考虑OLAP引擎的特性。,多维模型的安全性设计,多维模型的安全性,根据OLAP引擎的不同，其所能够提供的安全机制也有所不同，除了使用方面的权限（可读、可写等）外，根据多维模型的粒度可将权限划分如下：,主题级别的权限,粒度最大的安全权限，即对整个多维模型的使用权限。,维度级别权限：,维度级别的安全权限，可限定用户浏览多维数据集时所能查看的维度成员。,单元级别权限：,单元级别的安全权限，可以限定多维数据集中特定单元访问。,其它级别权限：,不同OLAP引擎所提供的特属功能的权限。例如，钻取权限等,存储方式的选择（一）,多维存储方式（MOLAP）,将聚合和分区源数据的一个复本存储到分析服务器计算机中的多维结构中的存储方式。,特点,查询性能较好,占用的存储空间较大,存储方式的选择（二）,关系数据库存储方式（ROLAP）,将聚合存储在一个关系型结构中，并把分区的源数据保留在它现有的关系型结构中的存储方式。,特点,查询性能较不如MOLAP方式,占用的存储空间较少,存储方式的选择（三）,混合存储方式（HOLAP）,将聚合存储到分析服务器计算机上的多维结构中，并将分区的源数据保留在它现有的关系型结构中的存储方式。,特点,查询性能介于以上两种方式之间,占用的存储空间介于以上两种方式之间,适用于在对基于大量基本数据的汇总进行查询时需要快速响应的多维数据集,