Sybase IQ助力海尔综合决策分析案例
来源:中国电子政务网 更新时间:2012-04-15

项目背景

  

海尔集团创立于 1984 年,经过 20 多年的持续稳定发展,已成为享誉海内外的大型国际化企业集团。产品从1984 年的单一冰箱发展到拥有白色家电、黑色家电、米色家电在内的

96 大门类 15100 多个规格的产品群,并出口到世界 160 多个国家和地区。2004 年 1 月,海尔成为唯一入选世界 100 个最具影响力品牌的中国企业,2004 年,海尔全球营业额突破 1000 亿元。

企业信息化建设作为海尔集团的管理体系支撑,在企业的发展过程中起到至关重要的作用。海尔认为企业信息化建设可以用斜坡理论来表示,即把企业看作是放在斜坡上的一个球,这个球随时都会滑下来,但是作为一个成功的企业,这个球需要越做越大,越做越高,原来很小的一个球体 (企业) 在很低的位置上,要把它提高上业,必须借助几个力: 一是基础,即业务流程再造,以信息流带动资金流和物流,实现高效率的电子商务运作,这是整个系统中最重要的一点; 二是手段,即计算机网络,海尔员工不断增加,海内外的分支机构日益庞大,贸易联系也日趋频繁,要做到及时准确地获得并处理各种信息,就需要有一个安全、可靠、高速的计算机网络信息系统作为保证; 三是中心,即定单信息流,企业所有的工作都是为了获取有价值的定单,企业的活力也源于企业的所有生产经营活动都围绕订单这个中心来进行; 四就是动力,即速度和创新,计算机信息网络可以作为企业发展的手段,但同时又对企业提出了新的挑战,那就是速度要快,企业的业务处理要达到电子商务的要求,用户通过网络提出的需求,谁能够最快地满足,谁就是赢家,否则就不可能占有市场。所有这四方面加起来的最终目的就是创世界名牌,这是整个信息化建设的目标,如果不能创世界名牌,不具备国际化的竞争力,信息化建设也就失去了方向和意义。

海尔集团的信息化工作取得了良好的成效,不仅坚定了企业进一步加快信息化建设步伐的信心,也同时加快了企业国际化的进程,使海尔在日益激烈的国际一体化的经济竞争中保持良好的战斗力,更坚定地向世界500强迈进。

应用需求

  

目前海尔集团已经建立了诸如ERP系统、采购系统、分销系统、发货系统、财务系统、OA 系统等众多的信息系统,这些系统也一直和正在企业的生产经营管理活动中发挥着重要的作用。然而这些系统多是为不同部门、不同务服务,并且由于各个系统建设和实施的阶段性、技术性以及其他经济、人为因素的影响,导致各系统间彼此孤立,形成信息孤岛,市场的需求和客户对企业的反馈信息在信息孤岛的影响下不能在各系统间做出及时响应,并有可能造成数据的失真; 另外信息分散保存在各应用系统中,没有统一的集团级的数据支撑平台,因此也无法为企业的宏观决策提供数据支持。

经过多家产品和解决方案的比较和评估,海尔集团最终决定和 Sybase 公司合作,通过引入 Sybase 公司先进的理念、丰富的数据整合和数据仓库设计和实施经验,构建海尔集团统一的数据平台,一方面满足目前集团内部的数据交换要求,构筑企业全局的数据视图,对外发布经过集成的、完整的、一致的信息; 另一方面从全局角度分析企业状况,满足集团提高决策能力的诸多需求,并为日后进一步的信息化建设打下良好的基础。

系统架构

  

为实现海尔集团的数据整合以及决策分析的业务需求,Sybase 建议的架构是: 首先采用专业的 ETL (清洗、转换、装载) 工具将分散在各业务系统中的数据集中到集团公司总部的 ODS (操作型数据存储) 系统中,ODS 提供当前操作型数据的统一视图,ODS中的数据以日为单位或以自定义的时间间隔进行更新,并可提供短期业务分析功能,如日常报表等; 然后采用专业的 ETL 工具,对存放在 ODS 中的数据进行清洗和转换,并批量加载到 DW (数据仓库) 中。

业务架构如下图所示:

采用 ODS+DW 的架构其原因如下:

(1) 如果采用“EAI (企业应用集成) ”的方式,即通过构建“消息总线”,所有的系统通过消息机制进行交互,虽然可以从一定程度上解决“信息孤岛”的问题,但是由于没有集中的数据存储,对于将来大范围的历史数据的分析处理还是没有任何帮助; 数据的完整性和一致性仍然无法保证; 由于查询、报表等操作最终还是发生在各个业务系统,因此也无法分担各系统的业务压力。

(2) 如果采用 OLAP Server+Cube 的方式,虽然实施比较简单,但是这种方式主要适用于小型的企业或者部门级应用,而对于海尔这样的大型企业并不适用: Cube 需要随着业务模型变化而重构,灵活性差; 数据需要频繁重复加载,对原有 OLTP 业务系统的影响大,大量不同主题的 Cube 不便于管理; Cube 构建的数据集市,海量数据处理能力差,不适合于海尔这样的数据规模。

(3) 系统最终采用ODS+DW 的方式,不仅能够有效地解决数据集成和业务集成的问题,而且可以有效的降低 OLTP 系统的负荷,将查询处理、决策分析的负荷转移到 ODS或者数据仓库中来进行,并对海尔集团不同业务系统中产生的数据提供海量数据存储和统一的数据视图。

Sybase 提供了覆盖整个解决方案的一套完整的产品包,包括: 数据仓库的设计和建模工具 Power Designer、可作为 ODS 的数据管理软件 ASE 、数据集成和转换工具 Power Center、数据存储和管理工具 Sybase IQ、和数据可视化分析工具 Brio 等产品。以下就是方案的技术架构图:

数据仓库的设计、建模

  

考虑到海尔业务系统的数据量大,数据种类复杂,而对这些数据进行集中整合势必需要一个完善的设计才能够保证将来的高效访问。因此它需要首先根据需求确定分析模型,其次还要按照用户最能理解的方式组织和提供信息。在这个阶段,我们采用了PowerDesigner Warehouse Architect。Ware- house Architect 是个高度优化的数据库工具,广泛用于数据源的逆向工程、建模、数据仓库方案设计,它可以实现对逻辑设计、物理设计和应用建模的集成,从而方便了数据仓库的开发和实施。

数据转换与集成

  

海尔的业务系统较多,采用的数据管理软件也各式各样,现有各系统的编码、统计方式存在一定的差异,数据可比性不强,因此,在将数据整合进数据仓库前的非常重要的工作就是对原始数据进行提取、转化,并最终以一致的格式装载到集团中心的数据仓库中去。在海尔项目中,Sybase采用了 PowerCenter 作为数据的转换与集成工具,从各种异构的数据源中抽取数据到ODS,并从ODS中进一步经过清洗、转换并批量加载到数据仓库中。在数据抽取过程中,用户可以根据不同的抽取阶段,灵活定制各种数据抽取流程,并根据自定义的时间间隔定时地将数据加载到数据仓库中。

ODS (操作型数据存储)

  

ODS是数据装载进入数据仓库之前的数据合并的集成点,它提供当前操作型数据的统一视图。与数据仓库分析型的存储结构不同,ODS 中存放的是当前的、最细节的、整合的操作型数据,在该数据最终装载进入数据仓库之前,还需要进一步的ETL (数据的抽取、转换、装载) 过程。ODS 既是后端数据仓库的数据源,又提供了短期业务分析功能,如日常报表等,以分担各业务系统的查询压力。

海尔项目中,我们采用了 Sybase 企业级智能数据库管理系统 ASE 作为 ODS 的存储管理软件。ASE 的卓越的性能、高效的安全机制、良好的稳定性和可扩展性完全可以满足 ODS 存储和管理业务数据的需求。在海尔的 ODS 中存储了 3 至 6 个月的业务数据。

数据仓库引擎

  

海尔的数据仓库系统一方面需要具备良好的海量数据存储能力,另外一方面还要保证复杂分析查询情况下的高效性。

本项目中,我们选用了 Sybase 的企业级的数据仓库产品 IQ 作为数据仓库管理软件。Sybase IQ 是专门为数据仓库系统设计的一种存储和管理的数据库,它包含了许多特殊的技术以专门满足数据仓库应用的需求,如: 数据的快速加载、灵活高效的查询和访问、无限的并发用户支持、高效的存储和数据压缩,等等。Sybase IQ 突破了传统技术的很多限制,与普通的关系型数据库比较,有许多性能和应用上的优势: 首先,Sybase IQ 与传统数据库系统不同,它是按列而不是按行存储数据的,它还充分地利用了列的特性,在压缩数据的同时显著地提高了查询性能; 其次,IQ的数据结构和索引,是为决策支持应用中典型的即席查询操作以及这类应用中数据的特点而优化设计的,Sybase IQ 的专利索引技术保证了数据仓库的数据加载和访问速度明显优于其他的传统关系型数据库; Sybase IQ 拥有良好的海量数据存储能力,IQ的数据库大小可达8.4PB, 能够支持65524 个数据库设备,每个设备的大小可达 128 GB,数据库中每个单表的最大行数为 281474976710700 (281 万亿) 行,单表的最大列数为 16000 列,基于以上技术特性,Sybase IQ 完全可以满足海尔综合决策分析系统的业务需求。

数据分析和展现

  

数据集中的最终目的,是为了向我们提供辅助决策的信息,在海尔应用中,通过前端展现工具 Brio灵活强大的报表生成能力、联机分析处理 (OLAP) 能力以及完美的图形展现能力,使得采集到的数据真正转化为服务用户决策的信息。

项目实施效果

  

在经过紧张的设计与实施工作后,海尔综合决策分析系统终于为海尔集团带来了可喜的变化,其实施效果主要表现在以下几个方面:

(1) 海尔综合决策分析系统实现了企业内部不同业务系统的数据整合,通过历史数据的清洗、修复,解决了因不同系统编码和统计方式不同造成的数据不一致现象,使数据仓库成为真正意义上的数据中心,满足企业目前以及未来不同应用系统的数据需求。

(2) 海尔综合决策分析系统满足了企业决策分析的业务需求。通过对企业的财务、资金、人力、销售、采购、库存、生产各个业务的经营状况进行分析,并从中挖掘出有价值的信息,帮助决策者及时准确地做出科学决策。

(3) 海尔综合决策分析系统迅速缓解了企业内部各业务系统的压力,用户不必通过 OLTP 系统即可在集团总部的 ODS 数据库上进行日常报表等短期业务分析。

(4) 海尔不同业务系统间的数据交互借助统一的ODS完成,减少了冗余的数据接口和降低了新系统的开发成本。

此外,海尔综合决策分析系统的统计功能还大大提高了业务人员的工作效率,减轻了他们的工作负担。其分析功能则囊括了库存、利润、收入、原材料等等各个业务部门关心的方面,使海尔的业务部门可以做到对业务心中有数,从而为公司的领导层提供决策方面的依据、为客户服务部门提供资料、为市场部提供明确的客户分类、为市场销售工作提供依据和支持。

海尔综合决策分析功能则囊括了库存、利润、收入、原材料等等各个业务部门关心的方面,使海尔的业务部门可以做到对业务心中有数,从而为公司的领导层提供决策方面的依据、为客户服务部门提供资料、为市场部提供明确的客户分类、为市场销售工作提供依据和支持。