数据仓库实现
㈠ 数据仓库的实现策略
数据仓库的开发策略主要有自顶向下、自底向上和这两种策略的联合使用。自顶向下策略在实际应用中比较困难,因为数据仓库的功能是一种决策支持功能。这种功能在企业战略的应用范围中常常是很难确定的,因为数据仓库的应用机会往往超出企业当前的实际业务范围,而且在开发前就确定目标,会在实现预定目标后就不再追求新的应用,是数据仓库丧失更有战略意义的应用。由于该策略在开发前就可以给出数据仓库的实现范围,能够清楚地向决策者和企业描述系统的收益情况和实现目标,因此是一种有效的数据仓库开发策略。该方法使用时需要开发人员具有丰富的自顶向下开发系统的经验,企业决策层和管理人员完全知道数据仓库的预定目标并且了解数据仓库能够在那些决策中发挥作用。
自底向上策略一般从某个数据仓库原型开始,选择一些特定的为企业管理人员所熟知的管理问题作为数据仓库开发的对象,在此基础上进行数据仓库的开发。因此,该策略常常用于一个数据集市、一个经理系统或一个部门的数据仓库开发。该策略的优点在于企业能够以较小的投入,获得较高的数据仓库应用收益。在开发过程中,人员投入较少,也容易获得成效。当然,如果某个项目的开发失败可能造成企业整个数据仓库系统开发的延迟。该策略一般用于企业洗碗对数据仓库的技术进行评价,以确定该技术的应用方式、地点和时间,或希望了解实现和运行数据仓库所需要的各种费用,或在数据仓库的应用目标并不是很明确时,数据仓库对决策过程影响不是很明确时使用。
在自顶向下的开发策略中可以采用结构化或面向对象的方法,按照数据仓库的规划、需求确定、系统分析、系统设计、系统集成、系统测试和系统试运行的阶段完成数据仓库的开发。而在自底向上的开发中,则可以采用螺旋式的原型开发方法,使用户可以根据新的需求对试运行的系统进行修改。螺旋式的原型开发方法要求在较短的时间内快速的生成可以不断增加功能的数据仓库系统,这种开发方法主要适合于这样一些场合:在企业的市场动向和需求无法预测,市场的时机是实现产品的重要组成部分,不断地改进对与企业的市场调节是必需的;持久的竞争优势来自连续不断地改进,系统地改进是基于用户在使用中的不断发现。
自顶向下和自底向上策略的联合使用具有两种策略的优点,既能快速的完成数据仓库的开发与应用,还可建立具有长远价值的数据仓库方案。但在实践中往往难以操作,通常需要能够建立、应用和维护企业模型、数据模型和技术结构的、具有丰富经验的开发人员,能够熟练的从具体(如业务系统中的元数据)转移到抽象(只基于业务性质而不是基于实现系统技术的逻辑模型);企业需要拥有由最终用户和信息系统人员组成的有经验的开发小组,能够清楚地指出数据仓库在企业战略决策支持中的应用。
㈡ 如何设计、创建一个面向CRM的数据仓库
1 CRM系统
1.1 CRM简介
一个完整的CRM主要可分成3个部分:操作型CRM、协作型CRM和分析型CRM。操作型CRM是CRM中最基本的功能系统,它提供整个CRM的流程管理功能,主要是提供以客户为中心的市场、销售,服务与支持等业务流程的自动化。协作型CRM是以客户服务中心为主要表现形式,以计算机电话集成技术为核心,使客户可以通过电话、传真、E-mail、Web站点等方式更快捷、更有效地与企业进行交互。
分析型CRM是通过对操作型CRM、协作型CRM、其它企业应用系统和外部数据源中保存的与客户相关的数据的集成,建立以客户为中心的数据仓库,获得企业范围内客户数据的一致视图,并以集成后的客户数据为基础,通过查询与报表分析、OLAP分析和数据挖掘等手段获取关于客户的知识,为客户提供个性化的产品和服务,提高客户的满意度和忠诚度,实现客户终身价值的最大化。本文主要针对的是分析型CRM。
1.2在CRM中应用数据仓库的必然性
数据仓库是CRM的中心环节甚至是CRM的灵魂所在,它存储了企业内部和外部的各种数据,并将这些源数据整理成一致的、随时间变化的以及最大限度优化分析的客户信息库,通过OLAF分析和数据挖掘来发现大量客户信息中所隐藏的规律,为企业进行经营决策提供支持。另一方面,它将CRM的业务平台与分析平台进行了有效地分离,使得业务型数据库可以专注于事务处理,既提高了事务处理的效率又优化了分析处理的能力。
传统的企业事务处理系统部是各个部门根据自身事务处理的需要保留部分数据,而且各个模块之间的联系并不紧密,虽然客户的部分信息也能从这些系统中获取,但远远不能满足需要。例如,对于一个典型的以客户行为为目标的分析,通常需要更多的日常积累的、反映历史变化的数据才有可能进行有效地分析,然而在这一点上传统的教据库系统是很难做到的(不论是从数据的存储量还是从数据的整合来考虑)。因此,数据仓库的引入是必然的。
1.3分析型CRM的体系结构
将数据仓库技术引入到对客户信息的管理与组织上来,即建立一个面向CRM应用系统的客户信息数掘仓库,它实现了来自企业内部及外部的多种分割应用的客户信息的集成和统一,这正是分析型CRM的基本任务。如图1所示为分析型CRM的体系结构。其中,客户信息数据仓库是分析型CRM的核心,它的任务主要是从OLTP系统中抽取数据、把抽取出的数据进行统一的格式转换,将数据加载到数据仓库环境中(以上3步称为ETL,即extract,transform,load,抽取,转换,装载),管理和维护数据仓库中的数据。最后,通过对这些数据的OLAP分析和数据挖掘,企业管理者可以得到许多有价值的信息,从而更好地为客户服务。
建立数据仓库时,这里采用的是一种可扩展的数据仓库体系结构,即中间层包括两种类型的数据库:一种是基本的包含多个主题的数据仓库;另一种足从属的针对某一主题的数据集市。如图1所示,这里根据数据仓库中的4个主题分别设计了4千数据集市。采用可扩展的体系结构,可以缩短数据仓库的建设周期,降低费用支出,并且避免了直接建立数据集市而不建立数据仓库所存在的扩展性较差、多个教据集市间难以保持同步的铗点。
2客户信息数据仓库的设计
设计客户信息数据仓库的第一步就是要确立主题。主题是一个抽象的概念,是在较高层次上将企业信息系统中的数据综合、归类并进行分析利用的对象。设计数据仓库首先要从操作型环境中的数据入手,结合决策支持的实际需要,确定数据仓库的主题。根据所涉及的分析型CRM的功能,该客户信息数据仓库包含了客户发展、客户购买、产品和市场营销4个主题。其中,客户购买主题主要是从不同的角度对客户的购买行为进行分析,如客户的购买行为同客户的背景信息之间的关联,其中背景信息主要包括客户的教育程度、收入水平、年龄、性别、是否已婚等。在客户信息数据仓库模型中,分3步来进行设计,分剧是概念模型、逻辑模型和物理模型设计。本文针对某网上书店,以客户购买主题为例,给出该客户信息数据仓库模型的完整的设计方案。
2.1概念模型设计
数据仓库设计中概念模型设计的目的是确定面向主题的信息包围。信息包图作为一种公共的、一致的和紧凑的概念模型设计工具,能够明确反映用户的需求以及实现该需求所需的各种要素及其之间的关系。信息包图由名称、维度、类别和度量组成,其中类别表述的是维的层次性。
该网上书店的客户信息数据仓库中客户购买主题信息包图如图2所示。其中,对于图书有3种分类方法,前两种较常见,还有一种是按图书存在形式分类,可分为普通图书、Vbook和Ebook。普通图书即传统纸制图书,Ebook指以计算机和网络为载体的电子图书,Vbook是一种新的多媒体演示、培训、商业交流的载体,具备音频和视频的功能,如各领域专家的讲座,教学考试类培训课程等。随着计算机的普及和网络的发展,Ebook和Vbook越来越受到读者的青睐。
2.2逻辑模型设计
数据仓库的逻辑模型一般有星型模型和雪花模型两种。星型模型是基于关系型数据库的、面向OLAP的一种多维数据模型的数据组织形式,它由事实表和多个维度表组成,通过使用一个包括主题的事实表和多个包含事实的非正规化描述的维度表来执行决策支持查询,从而获得比高度规范化设计结构更高的查询性能。
雪花模型虽然较星型模型更符合规范化的设计结构,但它增加了查询的复杂度,降低了查询的性能,因此,这里采用星型模型。
星型模型的建立要以概念模型中的信息包圈为基础,将信息包图转换为星型模型,具体方法为:将信息包图中的度量实体放入星型模型的中心位置上,信息包图中的维度实体放入度量实体的周边。该客户信息数据仓库中客户购买主题的逻辑模型。
2.3物理模型设计
物理模型是指教据在数据仓库中的存放形式和组织形式。设计物理模型,要在星型模型或雪花模型的基础上,确定事实表和维表的结构;明确二者的数据字段、数据类型、关联字段、索引结构;确定数据仓库中多维数据集的存储结构,如物理存取方式、数据存储结构、数据存放位置以厦存储分配是否分区等。进行物理模型设计时,应重点考虑的因素有I/O存取时间、空间利用率和维护代价。
目前大多数数据仓库都是建立在关系型数据库的基础上,基终数据的存储是由数据库系统进行管理的。在该数据仓库的设计中,选用MSSQLServer2000及其组件分析服务器来作为数据库和数据仓库的管理系统。数据仓库在逻辑上是多维的,但在物理存储上其多维数据集的存储方式可以有关系型联机分析处理(,ROLAP),多维联机分析处理(,MOLAP)和混台联机分析处理(,HOLAP)3种方式。
在该数据仓库中,多维数据集的存储选择HOLAP方式,即基本数据保留在原有的关系数据库中,而聚合体则存储在分析服务器上的多维结构中,这样不仅可以避免数据重复,还能够提高查询性能(因为聚合体存储在多维数据集中),仅在频繁访问详细数据时对性能影响较大。
3 实 现
针对该网上书店,此数据仓库的实施是以MSSQLServer2000平台为基础。通过SQLServer中的DTS服务,并辅以VBScript来实现将源数据导入数据仓库的ETL过程;通过AnalysisServices来建立多维数据集,实现OLAP操作,支持多维查询袁达式(multidimensionalexpression,MDX)查询,并通过自动构造MDX语句,实现上卷、下钻、切片、切块、旋转等OLAP运算。
该客户信息数据仓库共包含了客户发展、客户购买、产品和市场营销4个主题,对客户购买主题的OLAP分析示例。其中,用户可以从客户所在地区、年龄层、性别、婚姻状况,职业、年收入层、会员星级、图书一按内容分类、图书按出版社分类、图书一按存在形式分类及时间共11个维度,来分析客户购买数量、金额、成本、利润及平均单价这5个度量。
此外,利用AnalysisServices所提供的数据透视表服务,用户可以用VB或其它语言开发自己想要的前端数据展现程序,也可以直接利用现有工具,如MSOffice套件中的Excel、Access,来实现对多维数据集的数据展现功能,从而可以方便地得到各种统计报表和分析图形。利用Excel展现了对2005年不同年龄层的客户对不同种类图书的购买情况的利润分析。
㈢ 数据仓库的实现方式
数据仓库是一个过程而不是一个项目。
数据仓库系统是一个信息提供平台,他从业务处理系统获得数据,主要以星型模型和雪花模型进行数据组织,并为用户提供各种手段从数据中获取信息和知识。
从功能结构划分,数据仓库系统至少应该包含数据获取(Data Acquisition)、数据存储(Data Storage)、数据访问(Data Access)三个关键部分。
企业数据仓库的建设,是以现有企业业务系统和大量业务数据的积累为基础。数据仓库不是静态的概念,只有把信息及时交给需要这些信息的使用者,供他们做出改善其业务经营的决策,信息才能发挥作用,信息才有意义。而把信息加以整理归纳和重组,并及时提供给相应的管理决策人员,是数据仓库的根本任务。因此,从产业界的角度看,数据仓库建设是一个工程,是一个过程。
㈣ 企业如何更好的搭建数据仓库
0 引 言
随着计算机应用的深入,大量数据存储在计算机中,信息的存储、管理、使用和维护显得越来越重要,而传统的数据库管理系统很难满足其要求。为了解决大数据量、异构数据集成以及访问数据的响应速度问题,采用数据仓库技术,为最终用户处理所需的决策信息提供有效方法。
1 数据仓库
数据仓库是为管理人员进行决策提供支持的一种面向主题的、集成的、非易失的并随时间而变化的数据集合。数据仓库是一种作为决策支持系统和联机分析应用数据源的结构化数据环境。
从目前数据仓库的发展来讲,数据可以存放于不同类型的数据库中,数据仓库是将异种数据源在单个站点以统一的模型组织的存储,以支持管理决策。数据仓库技术包括数据清理、数据集成、联机分析处理(OLAP)和数据挖掘(DM)。OLAP是多维查询和分析工具,支持决策者围绕决策主题对数据进行多角度、多层次的分析。OLAP侧重于交互性、快速的响应速度及提供数据的多维视图,而DM则注重自动发现隐藏在数据中的模式和有用信息。OLAP的分析结果可以给DM提供分析信息,作为挖掘的依据;DM可以拓展OLAP分析的深度,可以发现OLAP所不能发现的更为复杂、细致的信息。OLAP是联机分析处理,DM是通过对数据库、数据仓库中的数据进行分析而获得知识的方法和技术,即通过建立模型来发现隐藏在组织机构数据库中的模式和关系。这两者结合起来可满足企业对数据整理和信息提取的要求,帮助企业高层做出决策。在欧美发达国家,以数据仓库为基础的在线分析处理和数据挖掘应用,首先在金融、保险、证券、电信等传统数据密集型行业取得成功。IBM、oracle、Teradata、Microsoft、Netezza和SAS等有实力的公司相继推出了数据仓库解决方案。
近几年开始流行“分布式数据仓库”,是在多个物理位置应用全局逻辑模型。数据被逻辑地分成多个域,但不同位置不会有重复的数据。这种分布式方法可以为不同的物理数据创建安全区域,或为全球不同时区的用户提供全天候的服务。此外,有由Kognitio发起数据仓库托管服务,即DBMS厂商为客户开发和运行数据仓库。这种最初出现在业务部门,业务部门购买托管服务,而不是使用企业内IT部门提供的数据仓库。
2 数据挖掘技术
数据挖掘(DataMining),又称数据库中的知识发现(KnoWledge Discoveryin Database,KDD),是指从大型数据库或数据仓库中提取隐含的、未知的、非平凡的及有潜在应用价值并最终可为用户理解的模式过程。它是数据库研究中的很有应用价值的新领域,是人工智能、机器学习、数理统计学和神经元网络等技术在特定的数据仓库领域中的应用。数据挖掘的核心模块技术历经数十年的发展,其中包括数理统计、人工智能、机器学习。从技术角度看,数据挖掘是从大量的、不完全的、有噪声的、模糊的、随机的实际数据中,提取隐含在其中的、人们所不知道的、但又是潜在有用的信息和知识的过程。从商业应用角度看,数据挖掘是崭新的商业信息处理技术,其主要特点是对商业数据库中的大量业务数据进行抽取、转化、分析和模式化处理,从中提取辅助商业决策的关键知识。
从技术角度讲,数据挖掘可应用于以下方面:
(1)关联规则发现是在给定的事物集合中发现满足一定条件的关联规则,简单来讲,就是挖掘出隐藏在数据间的相互关系,为业务主题提供指导。
(2)序列模式分析和关联规则发现相似,但其侧重点在于分析数据间的前后关系。模式是按时间有序的。序列模式发现是在与时间有关的事物数据库中发现满足用户给定的最小支持度域值的所有有序序列。
(3)分类分析与聚类分析,分类规则的挖掘实际上是根据分类模型从数据对象中发现共性,并把它们分成不同的类的过程。聚类时间是将d维空间的n个数据对象,划分到k个类中,使得一个类内的数据对象间的相似度高于其他类中数据对象。聚类分析可以发现没有类别标记的一组数据对象的特性,总结出一个类别的特征。
(4)自动趋势预测,数据挖掘能自动在大型数据库里面寻找潜在的预测信息。一个典型的利用数据挖掘进行预测的例子就是目标营销。数据挖掘工具可以根据过去邮件推销中的大量数据找出其中最有可能对将来的邮件推销作出反应的客户。
3 联机分析(OLAP)处理技术
联机分析(OLAP)是数据仓库实现为决策提供支持的重要工具,是共享多维信息,针对特定问题的联机数据访问和分析的快速软件技术。是使分析人员、管理人员或执行人员能够从多种角度对从原始数据中转化出来,能够真正为用户所理解,并真实反映企业维特性的信息进行快速、一致、交互地存取,从而获得对数据的更深入了解的一类软件技术(OLAP委员会的定义)。OLAP的特性包括:①快速性:系统应能在5s内对用户的大部分分析要求做出反应;②可分析性:能处理与应用有关的任何逻辑分析和统计分析;⑨多维性:多维性是OLAP的关键属性。系统必须提供对数据的多维视图和分析,包括对层次维和多重层次维的完全支持;④信息性:系统应能及时获得信息,并能管理大容量信息。
OLAP的数据结构是多维,目前存在方式:①超立方结构(Hypercube),指用三维或更多的维数来描述一个对象,每个维彼此垂直。数据的测量值发生在维的交叉点上,数据空间的各部分都有相同的维属性(收缩超立方结构。这种结构的数据密度更大,数据的维数更少,并可加入额外的分析维);②多立方结构(Multicube),即将超立方结构变为子立方结构。面向某特定应用对维分割,它具有强灵活性,提高了数据(特别是稀疏数据)的分析效率。分析方法包括:切片、切块、旋转、钻取等。
OLAP也被称为共享的多维数据的快速分析FASMI,应用在数据密集型行业,如市场和销售分析、电子商务的分析、基于历史数据的营销、预算、财务报告与整合、管理报告、利益率、质量分析等。
4 小 结
采用数据仓库的数据挖掘及联机分析技术实现的决策支持系统,是弥补传统辅助决策系统能力不足的有效途径,具有重要的现实意义。