资源描述
第一章1、数据仓库就是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合。2、元数据是描述数据仓库内数据的结构和建立方法的数据，它为访问数据仓库提供了一个信息目录，根据数据用途的不同可将数据仓库的元数据分为技术元数据和业务元数据两类。3、数据处理通常分成两大类：联机事务处理和联机分析处理。4、多维分析是指以“维”形式组织起来的数据（多维数据集）采取切片、切块、钻取和旋转等各种分析动作，以求剖析数据，使拥护能从不同角度、不同侧面观察数据仓库中的数据，从而深入理解多维数据集中的信息。5、ROLAP是基于关系数据库的OLAP实现，而MOLAP是基于多维数据结构组织的OLAP实现。6、数据仓库按照其开发过程，其关键环节包括数据抽取、数据存储于管理和数据表现等。7、数据仓库系统的体系结构根据应用需求的不同，可以分为以下4种类型：两层架构、独立型数据集合、以来型数据结合和操作型数据存储和逻辑型数据集中和实时数据仓库。8、操作型数据存储实际上是一个集成的、面向主题的、可更新的、当前值的（但是可“挥发”的）、企业级的、详细的数据库，也叫运营数据存储。9、“实时数据仓库”以为着源数据系统、决策支持服务和仓库仓库之间以一个接近实时的速度交换数据和业务规则。10、从应用的角度看，数据仓库的发展演变可以归纳为5个阶段：以报表为主、以分析为主、以预测模型为主、以运营导向为主和以实时数据仓库和自动决策为主。第二章1、调和数据是存储在企业级数据仓库和操作型数据存储中的数据。2、抽取、转换、加载过程的目的是为决策支持应用提供一个单一的、权威数据源。因此，我们要求ETL过程产生的数据（即调和数据层）是详细的、历史的、规范的、可理解的、即时的和质量可控制的。3、数据抽取的两个常见类型是静态抽取和增量抽取。静态抽取用于最初填充数据仓库，增量抽取用于进行数据仓库的维护。4、粒度是对数据仓库中数据的综合程度高低的一个衡量。粒度越小，细节程度越高，综合程度越低，回答查询的种类越多。5、使用星型模式可以从一定程度上提高查询效率。因为星型模式中数据的组织已经经过预处理，主要数据都在庞大的事实表中。6、维度表一般又主键、分类层次和描述属性组成。对于主键可以选择两种方式：一种是采用自然键，另一种是采用代理键。7、雪花型模式是对星型模式维表的进一步层次化和规范化来消除冗余的数据。8、数据仓库中存在不同综合级别的数据。一般把数据分成4个级别：早期细节级、当前细节级、轻度综合级和高度综合级。第三章1、SQL Server SSAS提供了所有业务数据的同意整合试图，可以作为传统报表、在线分析处理、关键性能指示器记分卡和数据挖掘的基础。2、数据仓库的概念模型通常采用信息包图法来进行设计，要求将其5个组成部分（包括名称、维度、类别、层次和度量）全面地描述出来。3、数据仓库的逻辑模型通常采用星型图法来进行设计，要求将星型的各类逻辑实体完整地描述出来。4、按照事实表中度量的可加性情况，可以把事实表对应的事实分为4种类型：事务事实、快照事实、线性项目事实和事件事实。5、确定了数据仓库的粒度模型以后，为提高数据仓库的使用性能，还需要根据拥护需求设计聚合模型。6、在项目实施时，根据事实表的特点和拥护的查询需求，可以选用时间、业务类型、区域和下属组织等多种数据分割类型。7、当维表中的主键在事实表中没有与外键关联时，这样的维称为退化维。它于事实表并无关系，但有时在查询限制条件（如订单号码、出货单编号等）中需要用到。8、维度可以根据其变化快慢分为元变化维度、缓慢变化维度和剧烈变化维度三类。9、数据仓库的数据量通常较大，且数据一般很少更新，可以通过设计和优化索引结构来提高数据存取性能。10、数据仓库数据库常见的存储优化方法包括表的归并与簇文件、反向规范化引入冗余、表的物理分割（分区）。第四章1、关联规则的经典算法包括Apriori算法和FP-growth算法,其中FP-grownth算法的效率更高。2、如果L2=a,b,a,c,a,d,b,c,b,d,则连接产生的C3=a,b,c,a,b,d,a,c,d,b,c,d再经过修剪，C3=a,b,c,a,b,d3、设定supmin=50%,交易集如则L1=A，B，C L2=A,CT1 A B CT2 A CT3 A D T4 B E F第五章1、分类的过程包括获取数据、预处理、分类器设计和分类决策。2、分类器设计阶段包含三个过程：划分数据集、分类器构造和分类器测试。3、分类问题中常用的评价准则有精确度、查全率和查准率和集合均值。4、支持向量机中常用的核函数有多项式核函数、径向基核函数和S型核函数。第六章1、聚类分析包括连续型、二值离散型、多值离散型和混合类型4种类型描述属性的相似度计算方法。2、连续型属性的数据样本之间的距离有欧氏距离、曼哈顿距离和明考斯基距离。3、划分聚类方法对数据集进行聚类时包含三个要点：选种某种距离作为数据样本减的相似性度量、选择评价聚类性能的准则函数和选择某个初始分类，之后用迭代的方法得到聚类结果，使得评价聚类的准则函数取得最优值。4、层次聚类方法包括凝聚型和分解型两中层次聚类方法。填空题20分，简答题25分，计算题2个（25分），综合题30分1、数据仓库的组成？P2数据仓库数据库，数据抽取工具，元数据，访问工具，数据集市，数据仓库管理，信息发布系统2、数据挖掘技术对聚类分析的要求有哪几个方面？P131可伸缩性；处理不同类型属性的能力；发现任意形状聚类的能力；减小对先验知识和用户自定义参数的依赖性；处理噪声数据的能力；可解释性和实用性3、数据仓库在存储和管理方面的特点与关键技术？P7数据仓库面对的是大量数据的存储与管理并行处理针对决策支持查询的优化支持多维分析的查询模式4、常见的聚类算法可以分为几类？P132基于划分的聚类算法，基于层次的聚类算法，基于密度的聚类算法，基于网格的聚类算法，基于模型的聚类算法 等。5、一个典型的数据仓库系统的组成？P12数据源、数据存储与管理、OLAP服务器、前端工具与应用6、 数据仓库常见的存储优化方法？P71表的归并与簇文件；反向规范化，引入冗余；表的物理分割。7、 数据仓库发展演变的5个阶段？P20以报表为主以分析为主以预测模型为主以运行向导为主以实时数据仓库、自动决策应用为主8、 ID3算法主要存在的缺点？P116（1）ID3算法在选择根结点和各内部结点中的分枝属性时，使用信息增益作为评价标准。信息增益的缺点是倾向于选择取值较多的属性，在有些情况下这类属性可能不会提供太多有价值的信息。（2）ID3算法只能对描述属性为离散型属性的数据集构造决策树。9、 简述数据仓库ETL软件的主要功能和对产生数据的目标要求。P30ETL软件的主要功能:数据的抽取，数据的转换，数据的加载对产生数据的目标要求：详细的、历史的、规范化的、可理解的、即时的、质量可控制的10、 简述分类器设计阶段包含的3个过程。划分数据集，分类器构造，分类器测试11、 什么是数据清洗？P33数据清洗是一种使用模式识别和其他技术，在将原始数据转换和移到数据仓库之前来升级原始数据质量的技术。12、 支持度和置信度的计算公式及数据计算（P90）找出所有的规则X Y , 使支持度和置信度分别大于门限支持度： 事务中X和Y同时发生的比例,P(X Y)置信度：项集X发生时，Y同时发生的条件概率P(Y|X)Example:13、利用信息包图设计数据仓库概念模型需要确定的三方面内容。P57确定指标，确定维度，确定类别14、K-近邻分类方法的操作步骤（包括算法的输入和输出）。P12815、什么是技术元数据，主要包含的内容？P29技术元数据是描述关于数据仓库技术细节的数据，应用于开发、管理和维护DW，包含：l DW结构的描述,如DW的模式、视图、维、层次结构和导出数据的定义，数据集市的位置和内容等l 业务系统、DW和数据集市的体系结构和模式l 汇总算法。包括度量和维定义算法，数据粒度、主题领域、聚合、汇总和预定义的查询和报告。l 由操作型业务环境到数据仓库业务环境的映射。包括源数据和他们的内容、数据分割、数据提取、清洗、转换规则和数据刷新规则及安全（用户授权和存取控制）16、业务元数据主要包含的内容？P29业务元数据：从业务角度描述了DW中的数据，提供了介于使用者和实际系统之间的语义层，主要包括：l 使用者的业务属于所表达的数据模型、对象名和属性名l 访问数据的原则和数据的来源l 系统提供的分析方法及公式和报表的信息。17、K-means算法的基本操作步骤（包括算法的输入和输出）。P13818、数据从集结区加载到数据仓库中的主要方法？P36l SQL命令（如Insert或Update）l 由DW供应商或第三方提供专门的加载工具l 由DW管理员编写自定义程序19、多维数据模型中的基本概念：维，维类别，维属性，粒度P37l 维：人们观察数据的特定角度，是考虑问题的一类属性，如时间维或产品维l 维类别：也称维分层。即同一维度还可以存在细节程度不同的各个类别属性（如时间维包括年、季度、月等）l 维属性：是维的一个取值，是数据线在某维中位置的描述。l 粒度：DW中数据综合程度高低的一个衡量。粒度低，细节程度高，回答查询的种类多 ？20、Apriori算法的基本操作步骤P93C Apriori使用一种称作逐层搜索的迭代方法，K项集用于探索K+1项集。C 该方法是基于候选的策略，降低候选数C Apriori剪枝原则：若任何项集是非频繁的，则其超集必然是非频繁的（不用产生和测试超集）C 该原则基于以下支持度的特性:CE 项集的支持度不会超过其子集E 支持度的反单调特性（anti-monotone）：如果一个集合不能通过测试，则它的所有超集也都不能通过相同的测试。C 令 k=1C 产生长度为1的频繁项集C 循环，直到无新的频繁项集产生E 从长度为k的频繁项集产生长度为k+1的候选频繁项集H 连接步：项集的各项排序，前k-1个项相同E 若候选频繁子集包含长度为k的非频繁子集，则剪枝H 剪枝步：利用支持度属性原则 E 扫描数据库，计算每个候选频繁集的支持度E 删除非频繁项, 保留频繁项什么是数据仓库？数据仓库是一个面向主体的、集成的、时变的、非易失的数据集合，支持管理过程的决策过程数据仓库排除与对于决策无用的数据，提供特定主题的简明视图。通过集成多个异种数据源而构成数据仓库总是物理地分离存放数据，这些数据源于操作环境下的应用数据操作性的数据更新不会发生在数据仓库的环境下.2联机事务处理OLTP (on-line transaction processing)传统的关系DBMS的主要任务他们涵盖了一个组织的大部分日常操作：购买、库存、制造、银行、工资、注册、记账等。联机分析处理OLAP (on-line analytical processing)数据仓库系统的主要任务数据分析和决策OLTP和OLAP的区别用户和系统的面向性:OLTP面向顾客，而OLAP面向市场数据内容：OLTP系统管理当前数据，而OLAP管理历史的数据。数据库设计：OLTP系统采用实体-联系（ER)模型和面向应用的数据库设计，而OLAP系统通常采用星形和雪花模型视图：OLTP系统主要关注一个企业或部门内部的当前数据，而OLAP 系统主要关注汇总的统一的数据。访问模式：OLTP访问主要有短的原子事务组成，而OLAP系统的访问大部分是只读操作，尽管许多可能是复杂的查询数据仓库和OLAP工具基于多维数据模型。这种模型将数据看作数据立方体形式。数据立方体允许从多维对数据建模和观察。它由维和事实定义。3 最流行的数据仓库数据模型是多维模型，这种模型可以以星形模式、雪花型模式或事实星座模式形式存在。建立数据仓库模型：维与度量星型模型: 最常见的模型范例是星形模式，其中数据仓库包括（1）一个大的包含大批数据并且不含冗余的中心表（事实表）；（2）一组小的附属表（维表），每维一个。中间是事实表，连接一组维表雪花模式: 雪花模式是星型模式的变种，其中某些维表是规范化的，而数据进一步分解到附加的维表中，它的图形类似于雪花的形状事实星座表: 多个事实表共享维表，这种模式可以看作星型模式及，因此称为星系模式或事实星座数据立方体度量是一个数值函数，可以对数据立方体空间的每一个点求值。通过对给定点的各维-值对聚集数据，计算该点的度量值。度量可以根据所用的聚集函数类型可以分成三类（即分布的、代数的和整体的）。概念分层定义一个映射序列，将低层概念映射到更一般的较高层概念。多维数据模型中的OLAP操作(1) 上卷：上卷操作通过沿一个维的概念分层向上攀升或者通过维规约，对数据立方体进行聚集；(2) 下钻：下钻是上卷的逆操作，它由不太详细的数据到更详细的数据。下钻可以通过沿维的概念分层向下或引入附加的维来实现；(3) 切片和切块：切片操作对给定立方体的一个维进行选择，导致一个子立方体。切块操作通过对两个或多个维执行选择，定义子立方体；(4) 转轴（旋转）：转轴是一种可视化操作，它转动数据的视角，提供数据的替代表示；(5) 其他OLAP操作：钻过执行涉及多个事实表的查询；钻透操作使用关系SQL机制，钻透数据立方体的底层，到后段关系表。三层数据仓库的系统结构(1) 底层是仓库数据服务器，它几乎总是关系数据库系统。(2) 中间层是OLAP服务器，其典型的实现或者是(i)关系OLAP（ROLAP）模型,即扩充的关系DBMS，它将对多维数据的操作映射为标准的关系操作；或者是（ii）多维OLAP(MOLAP)模型即专门的服务器，它直接实现多维数据和操作。(3) 顶层是前段客户层，它包括查询和报表工具、分析工具和/或数据挖掘工具（例如趋势分析、预测等）。从结构的角度看，有三种数据仓库模型：企业仓库、数据集市和虚拟仓库。数据集市（Data Mart）：数据集市包含企业范围数据的一个子集，对于特定的用户群是有用的。其范围限于选定的主题。根据数据的来源不同，数据集市分为独立的和依赖的两类。数据仓库后端工具和实用程序包含以下功能：数据提取；数据清理；数据变换；装入；刷新。数据立方体的物化有三种选择：（1）不物化；(2)完全物化；（3）部分物化。有三种数据仓库应用：信息处理、分析处理和数据挖掘。4分类和预测找出描述并区分数据类和概念的模型（或函数）以便能够使用模型预测类标记未知的对象类。例如：依据气候划分国家类型或者依据每里的耗油量划分汽车类型。表示形式：判定树，分类规则，神经网络。预测：预测某些未知的或空缺的数据值。聚类分析类标记未知：把数据聚类或分组成新的类，例如：把房子聚类来找出房子的分布模式。聚类依据以下原则：最大化类内的相似性和最小化类间的相似性。FP-树结构的优点完整性: 不会破坏任何交易的长模式为频繁模式挖掘保存了完整的信息简洁性减少了不相关的信息非频繁项集被删掉频繁项集按支持度递减顺序排列:越是频繁的项集越有可能被共享不会比原数据库大(如果不算节点链和计数)基本思想(分治策略）：使用FP-树循环的产生频繁模式路径方法对于每一个项,先构造它的条件模式基,然后构造它的条件FP-树在每一个新创建的条件FP-树上重复此过程直到结果FP树为空,或它只包含一条路径(单路径将产生所有的它的子路径的结合,每一条子路径都是一个频繁模式)挖掘FP-树的主要步骤1)为FP-树中的每一个节点构造条件模式基2)为每一个条件模式基条件FP-树3)循环的挖掘条件FP-树，生成至今为止获得的频繁模式如果条件FP-树只包含单条路径，简单的列举所有的模式一、 名词解释1. 数据仓库：是一种新的数据处理体系结构，是面向主题的、集成的、不可更新的(稳定性)、随时间不断变化(不同时间)的数据集合，为企业决策支持系统提供所需的集成信息。2. 孤立点：指数据库中包含的一些与数据的一般行为或模型不一致的异常数据。3. OLAP：OLAP是在OLTP的基础上发展起来的，以数据仓库为基础的数据分析处理，是共享多维信息的快速分析，是被专门设计用于支持复杂的分析操作，侧重对分析人员和高层管理人员的决策支持。4. 粒度：指数据仓库的数据单位中保存数据细化或综合程度的级别。粒度影响存放在数据仓库中的数据量的大小，同时影响数据仓库所能回答查询问题的细节程度。5. 数据规范化：指将数据按比例缩放(如更换大单位)，使之落入一个特定的区域（如01）以提高数据挖掘效率的方法。规范化的常用方法有：最大最小规范化、零均值规范化、小数定标规范化。6. 关联知识：是反映一个事件和其他事件之间依赖或相互关联的知识。如果两项或多项属性之间存在关联，那么其中一项的属性值就可以依据其他属性值进行预测。7. 数据挖掘：从大量的、不完全的、有噪声的、模糊的、随机的数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。8. OLTP：OLTP为联机事务处理的缩写，OLAP是联机分析处理的缩写。前者是以数据库为基础的，面对的是操作人员和低层管理人员，对基本数据进行查询和增、删、改等处理。9. ROLAP：是基于关系数据库存储方式的，在这种结构中，多维数据被映像成二维关系表，通常采用星型或雪花型架构，由一个事实表和多个维度表构成。10. MOLAP：是基于类似于“超立方”块的OLAP存储结构，由许多经压缩的、类似于多维数组的对象构成，并带有高度压缩的索引及指针结构，通过直接偏移计算进行存取。11. 数据归约：缩小数据的取值范围，使其更适合于数据挖掘算法的需要，并且能够得到和原始数据相同的分析结果。12. 广义知识：通过对大量数据的归纳、概括和抽象，提炼出带有普遍性的、概括性的描述统计的知识。13. 预测型知识：是根据时间序列型数据，由历史的和当前的数据去推测未来的数据，也可以认为是以时间为关键属性的关联知识。14. 偏差型知识：是对差异和极端特例的描述，用于揭示事物偏离常规的异常现象，如标准类外的特例，数据聚类外的离群值等。15. 遗传算法：是一种优化搜索算法，它首先产生一个初始可行解群体，然后对这个群体通过模拟生物进化的选择、交叉、变异等遗传操作遗传到下一代群体，并最终达到全局最优。16. 聚类：是将物理或抽象对象的集合分组成为多个类或簇(cluster)的过程，使得在同一个簇中的对象之间具有较高的相似度，而不同簇中的对象差别较大。17. 决策树：是用样本的属性作为结点，用属性的取值作为分支的树结构。它是分类规则挖掘的典型方法，可用于对新样本进行分类。18. 相异度矩阵：是聚类分析中用于表示各对象之间相异度的一种矩阵，n个对象的相异度矩阵是一个nn维的单模矩阵，其对角线元素均为0，对角线两侧元素的值相同。19. 频繁项集：指满足最小支持度的项集，是挖掘关联规则的基本条件之一。20. 支持度：规则AB的支持度指的是所有事件中A与B同地发生的的概率，即P(AB)，是AB同时发生的次数与事件总次数之比。支持度是对关联规则重要性的衡量。21. 可信度：规则AB的可信度指的是包含A项集的同时也包含B项集的条件概率P(B|A)，是AB同时发生的次数与A发生的所有次数之比。可信度是对关联规则的准确度的衡量。22. 关联规则：同时满足最小支持度阈值和最小可信度阈值的规则称之为关联规则。二、 综合题1. 何谓数据挖掘？它有哪些方面的功能？从大量的、不完全的、有噪声的、模糊的、随机的数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程称为数据挖掘。相关的名称有知识发现、数据分析、数据融合、决策支持等。数据挖掘的功能包括：概念描述、关联分析、分类与预测、聚类分析、趋势分析、孤立点分析以及偏差分析等。2. 何谓数据仓库？为什么要建立数据仓库？数据仓库是一种新的数据处理体系结构，是面向主题的、集成的、不可更新的(稳定性)、随时间不断变化(不同时间)的数据集合，为企业决策支持系统提供所需的集成信息。建立数据仓库的目的有3个：一是为了解决企业决策分析中的系统响应问题，数据仓库能提供比传统事务数据库更快的大规模决策分析的响应速度。二是解决决策分析对数据的特殊需求问题。决策分析需要全面的、正确的集成数据，这是传统事务数据库不能直接提供的。三是解决决策分析对数据的特殊操作要求。决策分析是面向专业用户而非一般业务员，需要使用专业的分析工具，对分析结果还要以商业智能的方式进行表现，这是事务数据库不能提供的。3. 列举操作型数据与分析型数据的主要区别。操作型数据分析型数据当前的、细节的历史的、综合的面向应用、事务驱动面向分析、分析驱动频繁增、删、改几乎不更新，定期追加操作需求事先知道分析需求事先不知道生命周期符合SDLC完全不同的生命周期对性能要求高对性能要求宽松一次操作数据量小一次操作数据量大支持日常事务操作支持管理决策需求4. 何谓OLTP和OLAP？它们的主要异同有哪些？OLTP即联机事务处理，是以传统数据库为基础、面向操作人员和低层管理人员、对基本数据进行查询和增、删、改等的日常事务处理。OLAP即联机分析处理，是在OLTP基础上发展起来的、以数据仓库基础上的、面向高层管理人员和专业分析人员、为企业决策支持服务。OLTP和OLAP的主要区别如下表：OLTPOLAP数据库数据数据库或数据仓库数据细节性数据综合性数据当前数据历史数据经常更新不更新，但周期性刷新一次性处理的数据量小一次处理的数据量大对响应时间要求高响应时间合理用户数量大用户数据相对较少面向操作人员，支持日常操作面向决策人员，支持管理需要面向应用，事务驱动面向分析，分析驱动5. 何谓粒度？它对数据仓库有什么影响？按粒度组织数据的方式有哪些？粒度是指数据仓库的数据单位中保存数据细化或综合程度的级别。粒度影响存放在数据仓库中的数据量的大小，同时影响数据仓库所能回答查询问题的细节程度。按粒度组织数据的方式主要有： 简单堆积结构 轮转综合结构 简单直接结构 连续结构6. 简述数据仓库设计的三级模型及其基本内容。概念模型设计是在较高的抽象层次上的设计，其主要内容包括：界定系统边界和确定主要的主题域。逻辑模型设计的主要内容包括：分析主题域、确定粒度层次划分、确定数据分割策略、定义关系模式、定义记录系统。物理数据模型设计的主要内容包括：确定数据存储结构、确定数据存放位置、确定存储分配以及确定索引策略等。在物理数据模型设计时主要考虑的因素有: I/O存取时间、空间利用率和维护代价等。提高性能的主要措施有划分粒度、数据分割、合并表、建立数据序列、引入冗余、生成导出数据、建立广义索引等。7. 在数据挖掘之前为什么要对原始数据进行预处理？原始业务数据来自多个数据库或数据仓库，它们的结构和规则可能是不同的，这将导致原始数据非常的杂乱、不可用，即使在同一个数据库中，也可能存在重复的和不完整的数据信息，为了使这些数据能够符合数据挖掘的要求，提高效率和得到清晰的结果，必须进行数据的预处理。为数据挖掘算法提供完整、干净、准确、有针对性的数据，减少算法的计算量，提高挖掘效率和准确程度。8. 简述数据预处理方法和内容。 数据清洗：包括填充空缺值，识别孤立点，去掉噪声和无关数据。 数据集成：将多个数据源中的数据结合起来存放在一个一致的数据存储中。需要注意不同数据源的数据匹配问题、数值冲突问题和冗余问题等。 数据变换：将原始数据转换成为适合数据挖掘的形式。包括对数据的汇总、聚集、概化、规范化，还可能需要进行属性的重构。 数据归约：缩小数据的取值范围，使其更适合于数据挖掘算法的需要，并且能够得到和原始数据相同的分析结果。9. 简述数据清理的基本内容。 尽可能赋予属性名和属性值明确的含义； 统一多数据源的属性值编码； 去除无用的惟一属性或键值(如自动增长的id)； 去除重复属性(在某些分析中，年龄和出生日期可能就是重复的属性，但在某些时候它们可能又是同时需要的) 去除可忽略字段(大部分为空值的属性一般是没有什么价值的，如果不去除可能造成错误的数据挖掘结果) 合理选择关联字段(对于多个关联性较强的属性，重复无益，只需选择其中的部分用于数据挖掘即可，如价格、数据、金额) 去掉数据中的噪音、填充空值、丢失值和处理不一致数据。10. 简述处理空缺值的方法。 忽略该记录； 去掉属性； 手工填写空缺值； 使用默认值； 使用属性平均值； 使用同类样本平均值； 预测最可能的值。11. 常见的分箱方法有哪些？数据平滑处理的方法有哪些？分箱的方法主要有： 统一权重法(又称等深分箱法) 统一区间法(又称等宽分箱法) 最小熵法 自定义区间法数据平滑的方法主要有：平均值法、边界值法和中值法。12. 何谓数据规范化？规范化的方法有哪些？写出对应的变换公式。将数据按比例缩放(如更换大单位)，使之落入一个特定的区域（如0.01.0），称为规范化。规范化的常用方法有：(1) 最大最小规范化：(2) 零均值规范化：(3) 小数定标规范化：xx0/1013. 数据归约的方法有哪些？为什么要进行维归约？ 数据立方体聚集 维归约 数据压缩 数值压缩 离散化和概念分层维归约可以去掉不重要的属性，减少数据立方体的维数，从而减少数据挖掘处理的数据量，提高挖掘效率。14. 何谓聚类？它与分类有什么异同？聚类是将物理或抽象对象的集合分组成为多个类或簇(cluster)的过程，使得在同一个簇中的对象之间具有较高的相似度，而不同簇中的对象差别较大。聚类与分类不同，聚类要划分的类是未知的，分类则可按已知规则进行；聚类是一种无指导学习，它不依赖预先定义的类和带类标号的训练实例，属于观察式学习，分类则属于有指导的学习，是示例式学习。15. 举例说明聚类分析的典型应用。商业：帮助市场分析人员从客户基本库中发现不同的客户群，并且用不同的购买模式描述不同客户群的特征。生物学：推导植物或动物的分类，对基于进行分类，获得对种群中固有结构的认识。WEB文档分类其他：如地球观测数据库中相似地区的确定；各类保险投保人的分组；一个城市中不同类型、价值、地理位置房子的分组等。聚类分析还可作为其他数据挖掘算法的预处理：即先进行聚类，然后再进行分类等其他的数据挖掘。聚类分析是一种数据简化技术，它把基于相似数据特征的变量或个案组合在一起。16. 聚类分析中常见的数据类型有哪些？何谓相异度矩阵？它有什么特点？常见数据类型有区间标度变量、比例标度型变量、二元变量、标称型、序数型以及混合类型等。相异度矩阵是用于存储所有对象两两之间相异度的矩阵，为一个nn维的单模矩阵。其特点是d(i,j)=d(j,i)，d(i,i)=0，d(j,j)=0。如下所示：17. 分类知识的发现方法主要有哪些？分类过程通常包括哪两个步骤？分类规则的挖掘方法通常有：决策树法、贝叶斯法、人工神经网络法、粗糙集法和遗传算法。分类的过程包括2步：首先在已知训练数据集上，根据属性特征，为每一种类别找到一个合理的描述或模型，即分类规则；然后根据规则对新数据进行分类。18. 什么是决策树？如何用决策树进行分类？决策树是用样本的属性作为结点，用属性的取值作为分支的树结构。它是利用信息论原理对大量样本的属性进行分析和归纳而产生的。决策树的根结点是所有样本中信息量最大的属性。树的中间结点是以该结点为根的子树所包含的样本子集中信息量最大的属性。决策树的叶结点是样本的类别值。决策树用于对新样本的分类，即通过决策树对新样本属性值的测试，从树的根结点开始，按照样本属性的取值，逐渐沿着决策树向下，直到树的叶结点，该叶结点表示的类别就是新样本的类别。决策树方法是数据挖掘中非常有效的分类方法。19. 简述ID3算法的基本思想及其主算法的基本步骤。首先找出最有判别力的因素，然后把数据分成多个子集，每个子集又选择最有判别力的因素进一步划分，一直进行到所有子集仅包含同一类型的数据为止。最后得到一棵决策树，可以用它来对新的样例进行分类。主算法包括如下几步：从训练集中随机选择一个既含正例又含反例的子集(称为窗口)；用“建树算法”对当前窗口形成一棵决策树；对训练集(窗口除外)中例子用所得决策树进行类别判定，找出错判的例子；若存在错判的例子，把它们插入窗口，重复步骤，否则结束。20. 简述ID3算法的基本思想及其建树算法的基本步骤。首先找出最有判别力的因素，然后把数据分成多个子集，每个子集又选择最有判别力的因素进一步划分，一直进行到所有子集仅包含同一类型的数据为止。最后得到一棵决策树，可以用它来对新的样例进行分类。建树算法的具体步骤如下：对当前例子集合，计算各特征的互信息；选择互信息最大的特征Ak；把在Ak处取值相同的例子归于同一子集，Ak取几个值就得几个子集；对既含正例又含反例的子集，递归调用建树算法；若子集仅含正例或反例，对应分枝标上P或N，返回调用处。21. 设某事务项集构成如下表，填空完成其中支持度和置信度的计算。事务ID项集L2支持度%规则置信度%T1A, DA, B33.3AB50T2D, EA, C33.3CA60T3A, C, EA, D44.4AD66.7T4A, B, D, EB, D33.3BD75T5A, B, CC, D33.3CD60T6A, B, DD, E33.3DE43T7A, C, DT8C, D, ET9B, C, D22. 从信息处理角度看，神经元具有哪些基本特征？写出描述神经元状态的M-P方程并说明其含义。基本特征：多输入、单输出；突触兼有兴奋和抑制两种性能；可时间加权和空间加权；可产生脉冲；脉冲可进行传递；非线性，有阈值。M-P方程：，Wij是神经元之间的连接强度，是阈值，f(x)是阶梯函数。23. 遗传算法与传统寻优算法相比有什么特点？ 遗传算法为群体搜索，有利于寻找到全局最优解； 遗传算法采用高效有方向的随机搜索，搜索效率高； 遗传算法处理的对象是个体而不是参变量，具有广泛的应用领域； 遗传算法使用适应值信息评估个体，不需要导数或其他辅助信息，运算速度快，适应性好； 遗传算法具有隐含并行性，具有更高的运行效率。24. 写出非对称二元变量相异度计算公式(即jaccard系数)，并计算下表中各对象间的相异度。测试项目对 象test-1test-2test-3test-4test-5test-6OBJ1YNPNNNOBJ2YNPNPNOBJ3NYNYNN25. 简述K-平均算法的输入、输出及聚类过程(流程)。输入：簇的数目k和包含n个对象的数据集。输出：k个簇，使平方误差准则最小。步骤： 任意选择k个对象作为初始的簇中心； 计算其它对象与这k个中心的距离，然后把每个对象归入离它“最近”的簇； 计算各簇中对象的平均值，然后重新选择簇中心(离平均值“最近”的对象值)； 重复第2第3步直到簇中心不再变化为止。 26. 简述K-中心点算法的输入、输出及聚类过程(流程)。输入：结果簇的数目k，包含n个对象的数据集输出：k个簇，使得所有对象与其最近中心点的相异度总和最小。流程： 随机选择k个对象作为初始中心点； 计算其它对象与这k个中心的距离，然后把每个对象归入离它“最近”的簇； 随机地选择一个非中心点对象Orandom，并计算用Orandom代替Oj的总代价S； 如果S0,则用Orandom代替Oj，形成新的k个中心点集合； 重复迭代第3、4步，直到中心点不变为止。27. 何谓文本挖掘？它与信息检索有什么关系(异同)。文本挖掘是从大量文本数据中提取以前未知的、有用的、可理解的、可操作的知识的过程。它与信息检索之间有以下几方面的区别： 方法论不同：信息检索是目标驱动的，用户需要明确提出查询要求；而文本挖掘结果独立于用户的信息需求，是用户无法预知的。 着眼点不同：信息检索着重于文档中字、词和链接；而文本挖掘在于理解文本的内容和结构。 目的不同：信息检索的目的在于帮助用户发现资源，即从大量的文本中找到满足其查询请求的文本子集；而文本挖掘是为了揭示文本中隐含的知识。 评价方法不同：信息检索用查准率和查全率来评价其性能。而文本挖掘采用收益、置信度、简洁性等来衡量所发现知识的有效性、可用性和可理解性。 使用场合不同：文本挖掘是比信息检索更高层次的技术，可用于信息检索技术不能解决的许多场合。一方面，这两种技术各有所长，有各自适用的场合；另一方面，可以利用文本挖掘的研究成果来提高信息检索的精度和效率，改善检索结果的组织，使信息检索系统发展到一个新的水平。单选题1. 某超市研究销售纪录数据后发现，买啤酒的人很大概率也会购买尿布，这种属于数据挖掘的哪类问题？(A) A. 关联规则发现 B. 聚类 C. 分类 D. 自然语言处理3. 将原始数据进行集成、变换、维度规约、数值规约是在以下哪个步骤的任务？(C) A. 频繁模式挖掘 B. 分类和预测 C. 数据预处理 D. 数据流挖掘4. 当不知道数据所带标签时，可以使用哪种技术促使带同类标签的数据与带其他标签的数据相分离？(B) A. 分类 B. 聚类 C. 关联分析 D. 隐马尔可夫链6. 使用交互式的和可视化的技术，对数据进行探索属于数据挖掘的哪一类任务？（A） A. 探索性数据分析 B. 建模描述 C. 预测建模 D. 寻找模式和规则 11.下面哪种不属于数据预处理的方法？ (D)A变量代换 B离散化 C 聚集 D 估计遗漏值 12. 假设12个销售价格记录组已经排序如下：5, 10, 11, 13, 15, 35, 50, 55, 72, 92, 204, 215 使用如下每种方法将它们划分成四个箱。等频（等深）划分时，15在第几个箱子内？ (B)A 第一个 B 第二个 C 第三个 D 第四个 13.上题中，等宽划分时（宽度为50），15又在哪个箱子里？ (A)A 第一个 B 第二个 C 第三个 D 第四个 16. 只有非零值才重要的二元属性被称作：( C )A 计数属性 B 离散属性 C非对称的二元属性 D 对称属性 17. 以下哪种方法不属于特征选择的标准方法： (D)A嵌入 B 过滤 C 包装 D 抽样 18.下面不属于创建新属性的相关方法的是： (B)A特征提取 B特征修改 C映射数据到新的空间 D特征构造 22. 假设属性income的最大最小值分别是12000元和98000元。利用最大最小规范化的方法将属性的值映射到0至1的范围内。对属性income的73600元将被转化为：(D)A 0.821 B 1.224 C 1.458 D 0.716 23.假定用于分析的数据包含属性age。数据元组中age的值如下（按递增序）：13，15，16，16，19，20，20，21，22，22，25，25，25，30，33，33，35，35，36，40，45，46，52，70, 问题：使用按箱平均值平滑方法对上述数据进行平滑，箱的深度为3。第二个箱子值为：(A)A 18.3 B 22.6 C 26.8 D 27.9 28. 数据仓库是随着时间变化的,下面的描述不正确的是 (C)A. 数据仓库随时间的变化不断增加新的数据内容;B. 捕捉到的新数据会覆盖原来的快照;C. 数据仓库随事件变化不断删去旧的数据内容;D. 数据仓库中包含大量的综合数据,这些综合数据会随着时间的变化不断地进行重新综合.29. 关于基本数据的元数据是指: (D)A. 基本元数据与数据源,数据仓库,数据集市和应用程序等结构相关的信息;B. 基本元数据包括与企业相关的管理方面的数据和信息;C. 基本元数据包括日志文件和简历执行处理的时序调度信息;D. 基本元数据包括关于装载和更新处理,分析处理以及管理方面的信息.30. 下面关于数据粒度的描述不正确的是: (C)A. 粒度是指数据仓库小数据单元的详细程度和级别;B. 数据越详细,粒度就越小,级别也就越高;C. 数据综合度越高,粒度也就越大,级别也就越高;D. 粒度的具体划分将直接影响数据仓库中的数据量以及查询质量.33. OLAP技术的核心是: (D)A. 在线性;B. 对用户的快速响应;C. 互操作性.D. 多维分析;34. 关于OLAP的特性,下面正确的是: (D)(1)快速性 (2)可分析性 (3)多维性 (4)信息性 (5)共享性A. (1) (2) (3)B. (2) (3) (4)C. (1) (2) (3) (4)D. (1) (2) (3) (4) (5)35. 关于OLAP和OLTP的区别描述,不正确的是: (C)A. OLAP主要是关于如何理解聚集的大量不同的数据.它与OTAP应用程序不同.B. 与OLAP应用程序不同,OLTP应用程序包含大量相对简单的事务.C. OLAP的特点在于事务量大,但事务内容比较简单且重复率高.D. OLAP是以数据仓库为基础的,但其最终数据来源与OLTP一样均来自底层的数据库系统,两者面对的用户是相同的.37. 关于OLAP和OLTP的说法,下列不正确的是: (A)A. OLAP事务量大,但事务内容比较简单且重复率高.B. OLAP的最终数据来源与OLTP不一样.C. OLTP面对的是决策人员和高层管理人员.D. OLTP以应用为核心,是应用驱动的.38. 设X=1，2，3是频繁项集，则可由X产生_(C)_个关联规则。A、4 B、5 C、6 D、7 40. 概念分层图是_(B)_图。A、无向无环 B、有向无环 C、有向有环 D、无向有环41. 频繁项集、频繁闭项集、最大频繁项集之间的关系是： (C)A、频繁项集 频繁闭项集 =最大频繁项集B、频繁项集 = 频繁闭项集 最大频繁项集C、频繁项集 频繁闭项集 最大频繁项集D、频繁项集 = 频繁闭项集 = 最大频繁项集44. 在图集合中发现一组公共子结构，这样的任务称为 ( B )A、频繁子集挖掘 B、频繁子图挖掘 C、频繁数据项挖掘 D、频繁模式挖掘48. 以下哪些算法是分类算法，A，DBSCAN B，C4.5 C,K-Mean D,EM （B） 50. 决策树中不包含一下哪种结点，A,根结点（root node) B,内部结点（internal node） C,外部结点（external node） D,叶结点（leaf node） (C）53. 以下哪项关于决策树的说法是错误的 (C)A. 冗余属性不会对决策树的准确率造成不利的影响 B. 子树可能在决策树中重复多次 C. 决策树算法对于噪声的干扰非常敏感 D. 寻找最佳决策树是NP完全问题54. 在基于规则分类器的中，依据规则质量的某种度量对规则排序，保证每一个测试记录都是由覆盖它的“最好的”规格来分类，这种方案称为 (B)A. 基于类的排序方案 B. 基于规则的排序方案 C. 基于度量的排序方案 D. 基于规格的排序方案。 57. 如果对属性值的任一组合，R中都存在一条规则加以覆盖，则称规则集R中的规则为(B)A, 无序规则 B，穷举规则 C， 互斥规则 D，有序规则58. 如果规则集中的规则按照优先级降序排列，则称规则集是 (D)A, 无序规则 B，穷举规则 C， 互斥规则 D，有序规则61. 以下关于人工神经网络（ANN）的描述错误的有 (A)A，神经网络对训练数据中的噪声非常鲁棒 B，可以处理冗余特征 C，训练ANN是一个很耗时的过程 D，至少含有一个隐藏层的多层神经网络二、 多选题1. 通过数据挖掘过程所推倒出的关系和摘要经常被称为：(A B) A. 模型 B. 模式 C. 模范 D. 模具2 寻找数据集中的关系是为了寻找精确、方便并且有价值地总结了数据的某一特征的表示，这个过程包括了以下哪些步骤？ (A B C D)A. 决定要使用的表示的特征和结构B. 决定如何量化和比较不同表示拟合数据的好坏C. 选择一个算法过程使评分函数最优D. 决定用什么样的数据管理原则以高效地实现算法。4. 数据挖掘算法的组件包括：(A B C D) A. 模型或模型结构 B. 评分函数 C. 优化和搜索方法 D. 数据管理策略5. 以下哪些学科和数据挖掘有密切联系？(A D) A. 统计 B. 计算机组成原理 C. 矿产挖掘 D. 人工智能6. 在现实世界的数据中，元组在某些属性上缺少值是常有的。描述处理该问题的各种方法有： ()A忽略元组 C使用一个全局常量填充空缺值B使用属性的平均值填充空缺值 D使用与给定元组属同一类的所有样本的平均值 E使用最可能的值填充空缺值8. 对于数据挖掘中的原始数据，存在的问题有： ()A 不一致 B重复 C不完整 D 含噪声 E 维度高 12. 下面列出的条目中，哪些是数据仓库的基本特征： (ACD)A. 数据仓库是面向主题的 B. 数据仓库的数据是集成的 C. 数据仓库的数据是相对稳定的 D. 数据仓库的数据是反映历史变化的 E. 数据仓库是面向事务的13. 以下各项均是针对数据仓库的不同说法，你认为正确的有（BCDE ）。A数据仓库就是数据库B数据仓库是一切商业智能系统的基础C数据仓库是面向业务的，支持联机事务处理（OLTP）D数据仓库支持决策而非事务处理E数据仓库的主要目标就是帮助分析，做长期性的战略制定14. 数据仓库在技术上的工作过程是： (ABCD)A. 数据的抽取 B. 存储和管理 C. 数据的表现D. 数据仓库设计 E. 数据的表现15. 联机分析处理包括以下哪些基本分析功能？ (BCD)A. 聚类 B. 切片 C. 转轴 D. 切块 E. 分类16. 利用Apriori算法计算频繁项集可以有效降低计算频繁集的时间复杂度。在以下的购物篮中产生支持度不小于3的候选3-项集，在候选2-项集中需要剪枝的是（BD）ID 项集1 面包、牛奶2 面包、尿布、啤酒、鸡蛋3 牛奶、尿布、啤酒、可乐4 面包、牛奶、尿布、啤酒5 面包、牛奶、尿布、可乐A、啤酒、尿布 B、啤酒、面包 C、面包、尿布 D、啤酒、牛奶18. Apriori算法的计算复杂度受_(ABCD)?_影响。A、支持度阀值 B、项数（维度）C、事务数 D、事务平均宽度19. 非频繁模式_(AD)_A、其支持度小于阈值 B、都是不让人感兴趣的C、包含负模式和负相关模式 D、对异常数据项敏感22. 贝叶斯信念网络(BBN)有如下哪些特点，A,构造网络费时费力 B,对模型的过分问题非常鲁棒 C,贝叶斯网络不适合处理不完整的数据 D,网络结构确定后，添加变量相当麻烦 （AB）三、 判断题1. 数据挖掘的主要任务是从数据中发现潜在的规则，从而能更好的完成描述数据、预测数据等任务。 (对)2. 数据挖掘的目标不在于数据采集策略，而在于对于已经存在的数据进行模式的发掘。（对）3. 图挖掘技术在社会网络分析中扮演了重要的角色。（对）4. 模式为对数据集的全局性总结，它对整个测量空间的每一点做出描述；模型则对变量变化空间的一个有限区域做出描述。（错）5. 寻找模式和规则主要是对数据进行干扰，使其符合某种规则以及模式。（错）6. 离群点可以是合法的数据对象或者值。（对）7. 离散属性总是具有有限个值。（错）8. 噪声和伪像是数据错误这一相同表述的两种叫法。（错）9. 用于分类的离散化方法之间的根本区别在于是否使用类信息。（对）10. 特征提取技术并不依赖于特定的领域。（错）12. 定量属性可以是整数值或者是连续值。（对）14. DSS主要是基于数据仓库.联机数据分析和数据挖掘技术的应用。（对）15. OLAP技术侧重于把数据库中的数据进行分析、转换成辅助决策信息，是继数据库技术发展之后迅猛发展起来的一种新技术。 （对）17. 数据仓库中
展开阅读全文