登陆注册
8925700000043

第43章 物流决策支持系统(3)

5)数据集市(datamarts)

为了特定的应用目的或应用范围而从数据仓库中独立出来的一部分数据,也可称为部门数据或主题数据(subjectarea)。在数据仓库的实施过程中往往可以从一个部门的数据集市着手,以后再用几个数据集市组成一个完整的数据仓库。需要注意的就是在实施不同的数据集市时,同一含义的字段定义一定要相容,这样再以后实施数据仓库时才不会造成大麻烦。

数据仓库管理包括:安全和特权管理,跟踪数据的更新,数据质量检查,管理和更新元数据,审计和报告数据仓库的使用和状态,删除数据,复制、分割和分发数据,备份和恢复,存储管理。

信息发布系统,即把数据仓库中的数据或其他相关的数据发送给不同的地点或用户。基于Web的信息发布系统是对付多用户访问的最有效方法。

2.联机分析处理

(1)联机分析处理的概念

联机分析处理(On‐Line Analytical Processing,OLAP)的概念最早是由关系数据库之父爱德华·库德(E.F.Codd)博士于1993年提出的,是一种用于组织大型商务数据库和支持商务智能的技术。OLAP数据库分为一个或多个多维数据集,每个多维数据集都由多维数据集管理员组织和设计以适应用户检索和分析数据的方式,从而更易于创建和使用所需的数据透视表和数据透视图。

库德同时提出了关于OLAP的12条准则。OLAP的提出引起了很大的反响,OLAP作为一类产品同联机事务处理(OLTP)明显区分开来。库德提出OLAP的12条准则来描述OLAP系统:

准则1 OLAP模型必须提供多维概念视图;

准则2 透明性准则;

准则3 存取能力推测;

准则4 稳定的报表能力;

准则5 客户/服务器体系结构;

准则6 维的等同性准则;

准则7 动态的稀疏矩阵处理准则;

准则8 多用户支持能力准则;

准则9 非受限的跨维操作;

准则10 直观的数据操纵;

准则11 灵活的报表生成;

准则12 不受限的维与聚集层次。

当今的数据处理大致可以分成两大类:联机事务处理OLTP和联机分析处理OLAP。OLTP是传统的关系型数据库的主要应用,主要是基本的、日常的事务处理,例如银行交易。OLAP是数据仓库系统的主要应用,支持复杂的分析操作,侧重决策支持,并且提供直观易懂的查询结果。

(2)联机分析处理逻辑概念和典型操作

OLAP展现在用户面前的是一幅幅多维视图。

①维(dimension),是人们观察数据的特定角度,是考虑问题时的一类属性,属性集合构成一个维(时间维、地理维等)。

②维的层次(level),是人们观察数据的某个特定角度(即某个维),还可以存在细节程度不同的各个描述方面(时间维:日期、月份、季度、年)。

③维的成员(member),即维的一个取值,是数据项在某维中位置的描述。(“某年某月某日”是在时间维上位置的描述)。

④度量(measure),即多维数组的取值。(2000年1月,上海,笔记本电脑,$100000)。

OLAP的基本多维分析操作有钻取(drill‐up和drill‐down)、切片(slice)和切块(dice)以及旋转(pivot)等。

①钻取,是改变维的层次,变换分析的粒度。它包括向下钻取(drill‐down)和向上钻取(drill‐up)/上卷(roll‐up)。drill‐up是在某一维上将低层次的细节数据概括到高层次的汇总数据,或者减少维数;而drill‐down则相反,它从汇总数据深入细节数据进行观察或增加新维。

②切片和切块,是在一部分维上选定值后,关心度量数据在剩余维上的分布。如果剩余的维只有两个,则是切片;如果有三个或以上,则是切块。

③旋转,是变换维的方向,即在表格中重新安排维的放置(例如行列互换)。

(3)联机分析处理系统的体系结构和分类

数据仓库与OLAP的关系是互补的,现代OLAP系统一般以数据仓库作为基础,即从数据仓库中抽取详细数据的一个子集并经过必要的聚集存储到OLAP存储器中供前端分析工具读取。OLAP系统按照其存储器的数据存储格式可以分为关系OLAP(Relational OLAP,ROLAP)、多维OLAP(Multidimensional OLAP,MOLAP)和混合型OLAP(Hybrid OLAP,HOLAP)三种类型。

1)关系联机分析处理(ROLAP)

ROLAP将分析用的多维数据存储在关系数据库中,并根据应用的需要有选择地定义一批视图,作为表也存储在关系数据库中。不必要将每一个SQL查询都作为实视图保存,只定义那些应用频率比较高、计算工作量比较大的查询作为实视图。对每个针对OLAP服务器的查询,优先利用已经计算好的实视图来生成查询结果以提高查询效率。

同时用作ROLAP存储器的RDBMS也针对OLAP作相应的优化,比如并行存储、并行查询、并行数据管理、基于成本的查询优化、位图索引、SQL的OLAP扩展(cube,rollup)等等。

2)多维联机分析处理(MOLAP)

MOLAP将OLAP分析所用到的多维数据物理上存储为多维数组的形式,形成“立方体”的结构。维的属性值被映射成多维数组的下标值或下标的范围,而总结数据作为多维数组的值存储在数组的单元中。由于MOLAP采用了新的存储结构,从物理层实现起,因此又称为物理OLAP(Physical OLAP);而ROLAP主要通过一些软件工具或中间软件实现,物理层仍采用关系数据库的存储结构,因此称为虚拟OLAP(Virtual OLAP)。

3)混合联机分析处理(HOLAP)

由于MOLAP和ROLAP有着各自的优点和缺点,且它们的结构迥然不同,这给分析人员设计OLAP结构提出了难题。为此,一个新的OLAP结构——混合型OLAP(HOLAP)被提出,它能把MOLAP和ROLAP两种结构的优点结合起来。迄今为止,对HOLAP还没有一个正式的定义。但很明显,HOLAP结构不应该是MOLAP与ROLAP结构的简单组合,而是这两种结构技术优点的有机结合,能满足用户各种复杂的分析请求。

3.数据挖掘

(1)数据挖掘的定义

数据挖掘(DataMining,DM)又称数据库中的知识发现(Knowledge Discoverin Database,KDD),是目前人工智能和数据库领域研究的热点问题,所谓数据挖掘是指从数据库的大量数据中揭示出隐含的、先前未知的并有潜在价值的信息的非平凡过程。数据挖掘是一种决策支持过程,它主要基于人工智能、机器学习、模式识别、统计学、数据库、可视化技术等,高度自动化地分析企业的数据,作出归纳性的推理,从中挖掘出潜在的模式,帮助决策者调整市场策略,减少风险,作出正确的决策。

1)技术上的定义

数据挖掘(datamining)就是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中,提取隐含在其中的、人们事先不知道的但又是潜在有用的信息和知识的过程。

与数据挖掘相近的同义词有数据融合、数据分析和决策支持等。这个定义包括好几层含义:数据源必须是真实的、大量的、含噪声的;发现的是用户感兴趣的知识;发现的知识要可接受、可理解、可运用;并不要求发现放之四海而皆准的知识,仅支持特定的发现问题。

何为知识?从广义上理解,数据、信息也是知识的表现形式,但是人们更把概念、规则、模式、规律和约束等看作知识。人们把数据看做是形成知识的源泉,好像从矿石中采矿或淘金一样。原始数据可以是结构化的,如关系数据库中的数据;也可以是半结构化的,如文本、图形和图像数据;甚至是分布在网络上的异构型数据。发现知识的方法可以是数学的,也可以是非数学的;可以是演绎的,也可以是归纳的。发现的知识可以被用于信息管理、查询优化、决策支持和过程控制等,还可以用于数据自身的维护。因此,数据挖掘是一门交叉学科,它把人们对数据的应用从低层次的简单查询,提升到从数据中挖掘知识,提供决策支持。在这种需求牵引下,汇聚了不同领域的研究者,尤其是数据库技术、人工智能技术、数理统计、可视化技术、并行计算等方面的学者和工程技术人员,投身到数据挖掘这一新兴的研究领域,形成新的技术热点。

这里所说的知识发现,不是要求发现放之四海而皆准的真理,也不是要去发现崭新的自然科学定理和纯数学公式,更不是什么机器定理证明。实际上,所有发现的知识都是相对的,是有特定前提和约束条件的,面向特定领域的,同时还要能够易于被用户理解。最好能用自然语言表达所发现的结果。

2)商业角度的定义

数据挖掘是一种新的商业信息处理技术,其主要特点是对商业数据库中的大量业务数据进行抽取、转换、分析和其他模型化处理,从中提取辅助商业决策的关键性数据。

简而言之,数据挖掘其实是一类深层次的数据分析方法。数据分析本身已经有很多年的历史,只不过在过去数据收集和分析的目的是用于科学研究,另外,由于当时计算能力的限制,对大数据量进行分析的复杂数据分析方法受到很大限制。现在,由于各行业业务自动化的实现,商业领域产生了大量的业务数据,这些数据不再是为了分析的目的而收集的,而是由于纯机会的(opportunistic)商业运作而产生。分析这些数据也不再是单纯为了研究的需要,更主要是为商业决策提供真正有价值的信息,进而获得利润。但所有企业面临的一个共同问题是:企业数据量非常大,而其中真正有价值的信息却很少,因此从大量的数据中经过深层分析,获得有利于商业运作、提高竞争力的信息,就像从矿石中淘金一样,数据挖掘也因此而得名。

因此,数据挖掘可以描述为:按企业既定业务目标,对大量的企业数据进行探索和分析,揭示隐藏的、未知的或验证已知的规律性,并进一步将其模型化的先进有效的方法。

(2)数据挖掘常用的方法

利用数据挖掘进行数据分析常用的方法主要有分类、回归分析、聚类、关联规则、特征、变化和偏差分析、Web页挖掘等,它们分别从不同的角度对数据进行挖掘。

1)分类

分类是找出数据库中一组数据对象的共同特点并按照分类模式将其划分为不同的类,其目的是通过分类模型,将数据库中的数据项映射到某个给定的类别。它可以应用到客户的分类、客户的属性和特征分析、客户满意度分析、客户的购买趋势预测等,如一个汽车零售商将客户按照对汽车的喜好划分成不同的类,这样营销人员就可以将新型汽车的广告手册直接邮寄到有这种喜好的客户手中,从而大大增加了商业机会。

2)回归分析

回归分析方法反映的是事务数据库中属性值在时间上的特征,产生一个将数据项映射到一个实值预测变量的函数,发现变量或属性间的依赖关系,其主要研究问题包括数据序列的趋势特征、数据序列的预测以及数据间的相关关系等。它可以应用到市场营销的各个方面,如客户寻求、保持和预防客户流失活动、产品生命周期分析、销售趋势预测及有针对性的促销活动等。

3)聚类分析

聚类分析是把一组数据按照相似性和差异性分为几个类别,其目的是使得属于同一类别的数据间的相似性尽可能大,不同类别中的数据间的相似性尽可能小。它可以应用到客户群体的分类、客户背景分析、客户购买趋势预测、市场的细分等。

4)关联规则

关联规则是描述数据库中数据项之间所存在的关系的规则,即根据一个事务中某些项的出现可导出另一些项在同一事务中也出现,即隐藏在数据间的关联或相互关系。在客户关系管理中,通过对企业的客户数据库里的大量数据进行挖掘,可以从大量的记录中发现有趣的关联关系,找出影响市场营销效果的关键因素,为产品定位、定价与定制客户群,客户寻求、细分与保持,市场营销与推销,营销风险评估和诈骗预测等决策支持提供参考依据。

5)特征分析

特征分析是从数据库中的一组数据中提取出关于这些数据的特征式,这些特征式表达了该数据集的总体特征。如营销人员通过对客户流失因素的特征提取,可以得到导致客户流失的一系列原因和主要特征,利用这些特征可以有效地预防客户的流失。

6)变化和偏差分析

偏差包括很大一类潜在有趣的知识,如分类中的反常实例、模式的例外、观察结果对期望的偏差等,其目的是寻找观察结果与参照量之间有意义的差别。在企业危机管理及其预警中,管理者更感兴趣的是那些意外规则。意外规则的挖掘可以应用到各种异常信息的发现、分析、识别、评价和预警等方面。

同类推荐
  • 组织领导学

    组织领导学

    本书全面介绍与综合论述了近半个世纪以来一些具有代表性的重要的组织领导理论和行为,从领导的本质入手,集中探讨了组织中的领导理论和行为。
  • 塔木德:犹太人经商和处世圣经

    塔木德:犹太人经商和处世圣经

    《塔木德》是10个世纪中两千多位犹太学者的心血结晶,是整个犹太民族生活方式的导航图。本书重点萃取了《塔木德》中有关犹太人如何经商和处世的62条箴言,分上下两篇,以大量生动的事例进行阐发,揭示了犹太人独特的金钱观念、经营技巧和处世法则,从中可以窥见犹太人之所以卓越的秘密。
  • 网上开店进货指南

    网上开店进货指南

    本书就网店货源问题进行了深入的探索,介绍了货源的种类及开辟货源的渠道和方法。
  • 品周易,学管理

    品周易,学管理

    本书内容包括:周易领导素养、周易管人之道、周易决策智慧、周易变革思维、周易和合精神、周易经营理念、周易平衡艺术。
  • 犹太人赚钱的智慧

    犹太人赚钱的智慧

    这本书是以我的亲身经历及我对犹太人的观察为基础写成的,是那些没有实际经历过这些事情的人无法为你提供的。同时,书中的内容具体且简单易懂。我希望,这本书能为各位读者的日常生活提供一定的帮助,每个人都可以将它作为一种秘密武器而加以有效利用。这本书中,详细地记录了我所了解到的犹太人在赚钱方面所积累的各种智慧与知识,而这些正植根于他们所具有的坚韧不拔的人生观以及极具现实性的生活方式。
热门推荐
  • 暗之罪

    暗之罪

    在这个光鲜的世界里,也有不为人知的一面,那些隐藏在光下面的暗,往往比人们所看到的黑暗更恐怖、更阴暗,因为光越强影子就会越暗,大概就是这个道理…..有的时候,外表越光鲜的人,他们的内心也就越阴暗。或许,没有人知道,这些邪念是从何而起,但是,人们总会相信,自己的国家是有能力制止这些邪念的,他们一直坚信着,没有人问为什么,因为啊,他们一直活得很安稳,很知足。殊不知,其实,他们只是被放养的猎物罢了,随时会被捕捉,随时会被猎杀。人们不愿去相信,也不愿去解惑那些未知的恐惧,他们只是希望着,明天会比今天更好……更好。所以,平凡的人永远也不会知道,隐藏在这个世界里的黑暗,不,更准确的来说,应该是…罪恶
  • 离殇落

    离殇落

    一世情,半世殇奈何桥上初逢注定造就了一场孽缘
  • 罪炼狱界

    罪炼狱界

    所有的所有,都是我们的猎物,我们站在世界的食物链的顶端之上。我们是罪人,罪血,罪!艺术品只是我的兴趣,嗜血是我的乐趣,破坏是我的情趣,毁灭是我的恶趣,睡梦是我的庸趣,吞噬是我的舒趣,暧昧只是我野趣。我,我们,狩猎是我们唯一的爱好。本书纯粹是,脑洞+科幻=奇思妙想如果有雷同的,纯粹是巧合。喜欢的书友点下收藏,希望里面的精彩世界能够吸引你。
  • 晨雾若云

    晨雾若云

    这场阴谋,因你而起,却由我来结束——苏歆晨本该由你承受,却为何让她痛苦——棨云他本来就是我的,何来夺人所爱——苏荷明明时间那么短,可我却爱上了你——雾箬
  • 无上始神

    无上始神

    临风怳兮浩歌。孔盖兮翠旌。登九天兮抚彗星。竦长剑兮拥幼艾,荃独宜兮为民正。指九天以为正兮,夫唯灵脩之故也。
  • 驮陆

    驮陆

    在无尽的虚空之中,一只庞大的无法想象的巨龟驮着一座同样无比巨大的陆地在虚空中漂泊。这块陆地上的无数生灵在那里一代代的生存繁衍,没有人知道他们由一只巨龟驮着他们生活一年又一年,一代又一代~~~
  • 生存鸡汤

    生存鸡汤

    喝鸡汤不是为了补得,是为了生存的。可仅仅为了生存的生活,是不是太无聊了?
  • 琉璃亡瞳

    琉璃亡瞳

    琉璃亡瞳,看我们年轻时的文,回忆过去。QQ2261262267
  • 星之雪

    星之雪

    最初的宇宙,无论是时间,还是空间,几乎一无所有,唯一所拥有的只有黑暗,直到第一点亮光的出现,接着是星球、生命、文明……而我作为宇宙最初的那无尽的黑暗,我沉睡了那么久,现在却有人将我唤醒,我活在这个世间的意义究竟是什么?为何你们要将我唤醒?既然什么都不知道的话,那还不如让我一直陷入沉睡的状态,因为那样,或许……你们还可以存活。
  • 平安夜的孤儿

    平安夜的孤儿

    故事开始于在03年的平安夜。一个流浪摄影师,在纽约的一家酒吧门口,偶然的看到了一个“被放逐”的小女孩。一次的相遇,改变的或许是一身的命运。相处9年,一起攀爬9年,两人最终以父女相称,以家人相伴。9年之后,那个曾经的流浪摄影师,已经变成了如今名扬天下的国际知名摄影家,而女孩,也成了他的御用造型师。9年以后,当已经是知名化妆师的女孩子回到自己出生的那片土地。回家的感觉,是好是坏?9年前的那个平安夜,女孩又为什么会出现在一个绝对不属于她的城市呢?