熱點推薦:
您现在的位置: 電腦知識網 >> 編程 >> SQL語言 >> 正文

動態數據倉庫設計與應用淺談

2013-11-13 12:41:53  來源: SQL語言 

  數據倉庫技術的每次演進都以發掘企業數據中更多價值作為目標而近期流行的動態數據倉庫技術不僅在靈活性可視化方面有了長足進步還能夠對企業決策合作伙伴及客戶服務提供更為強大的支持

  數據倉庫發展歷程

  數據倉庫的發展歷史具體可以劃分為五個階段數據倉庫系統發展之初其主要作用是為企業內部的某些部門提供一些固定的報表因此這一階段通產被成為報表階段在該階段數據倉庫的結構可以根據具體問題進行優化即使數據查詢人員要求訪問的信息量極其巨大處理這些資料的效率仍然可以很高

  當企業用戶的關注點從發生了什麼轉向為什麼會發生數據倉庫進入了分析階段在這一階段決策者開始對數據進行分析實質上是在了解報表數據的真實涵義這就需要更詳細地對數據進行多角度分析為了解決數據查詢的瓶頸出現了聯機分析處理(OLAP)環境它可以使對數據進行多角度分析的反應時間以秒或分鐘來計算因為在OLAP環境中很多聚合數據都是預先計算好的而且數據的存儲格式也和傳統的關系型數據庫環境存在本質區別

  擁有了量化的數據支持後企業對經營的動態情況以及這種情況為什麼發生都會有所體驗接下來就要將業務信息用於預測了數據倉庫也隨之進入預測階段即數據挖掘階段數據挖掘能夠預知企業即將發生的動向幫助管理者更為積極地管理和實施企業戰略數據挖掘為用戶提供豐富的數據采集工具以便利用歷史數據創建預測模型

  數據倉庫演進的第階段即是動態數據倉庫到第階段的數據倉庫技術都以支持企業內部戰略性決策為重點而第階段則側重在戰術性的決策支持執行企業戰略的員工提供支持我們將這一階段稱為營運導向階段

  動態數據倉庫技術在企業環境成熟應用後將引領企業動態性階段伴隨著動態數據倉庫在決策支持領域所扮演的角色越來越重要企業實現決策自動化的積極性也在不斷提高在人工操作效果不明顯時為了尋求決策的有效性和連續性企業會趨向於采取自動決策方式

  數據倉庫起來

  動態數據倉庫是一種創新理念但其技術基礎和架構思想還是來自傳統數據倉庫技術關鍵的區別是動態數據倉庫增加了動態特性與傳統數據倉庫相比它具有如下特點

  .動態訪問

  動態訪問是指一線用戶可以動態或實時地訪問所需要的信息傳統的數據倉庫用戶只針對高端管理層而如果要實現大量客戶經理和客戶代表同時訪問是一個很大的壓力動態數據倉庫采用不同於傳統數據倉庫的技術手段擴展了數據倉庫系統的用戶范圍實現動態訪問可以說動態數據倉庫讓一線員工真正動了起來

  .動態數據加載

  傳統數據倉庫保存的是歷史的相對靜止的集成的企業數據其往往是先加載好數據再去支撐業務查詢而動態數據倉庫的數據加載卻可以在加載數據的同時滿足用戶的查詢請求而且動態加載的負荷不影響用戶使用數據倉庫不僅如此動態數據倉庫的數據也是准實時加載的這樣就可以使用戶能夠訪問幾乎和生產環境時效相當的數據

  .動態事件

  傳統數據倉庫只是支持用戶對企業歷史數據的分析或者經過一些模型對未來的一些發展進行預測它無法支持一線員工在遇到一些動態事件(例如銀行櫃台向客戶推薦理財產品)時進行一些實時的業務操作而動態數據倉庫就可以支持一線員工在遇到這些動態事件及時做出響應成功抓住業務機會從而大幅提升業績因為從事情發生到采取行動的時間越短成功銷售的命中率就越高所獲的價值也就越高

  .動態負載管理

  傳統數據倉庫在負載管理方面沒有什麼特殊要求而動態數據倉庫則包含策略動態負載管理和操作動態負載管理其中操作動態負載管理一般是比較簡單的訪問不需要看太多的信息而策略動態負載管理則需要實施復雜的數據挖掘

  .動態企業集成

  傳統數據倉庫主要用來支持企業用戶對數據進行分析而動態數據倉庫則可以將企業所有系統都很好地整合在一起形成一個閉環從而實現流程的自動化而不是一個獨立的系統

  .動態可用性

  因為動態數據庫已經不是一個純粹的後台系統而是業務運營的一部分因此對可靠性穩定性的要求更為嚴格

  動態數據倉庫設計

  前面提到動態數據倉庫在技術設施上采用得都是已有技術而實現的難點在於動態即如何實現數據倉庫的動態特性這也是部署動態數據倉庫系統的關鍵所在動態數據倉庫中包含了傳統數據倉庫的各種元素例如元數據管理數據分發對外服務調度管理代碼自動化數據質量管理等

  要實現動態數據倉庫中的動態數據加載有多個實施方案供用戶選擇目前市場中存在多個接近實時的數據同步解決方案例如在專有工具方面可以借助IBM WRS SQL復制和IBM WRS基於Q的復制實現ETL工具包含Informatica PowerExchangeIBM DataStage加CDC組件數據庫工具包括甲骨文數據庫的復制技術DB基於CD/CCD的SQL復制以及SQL Server的出版社訂閱復制技術另外數據捕獲器與消息中間件的集成可以提供動態數據倉庫的客戶化集成解決方案

  上述方案基本上是基於現有的數據庫復制技術進行除此之外還有一些專業的數據同步軟件例如GoldenGate就是進行數據實時同步的一個非常好的工具有報道稱美國領先衛星電視服務提供商DIRECTV就是采用GoldenGate和Teradata來部署動態數據倉庫並獲得成功的

  動態數據倉庫的應用

  現階段動態數據倉庫的實踐者主要為速遞服務公司和金融保險類企業軟件解決方案方面NCR teradata的ADW(Active Data Warehouse)Sybase IQ能夠為企業的動態數據倉庫應用提供比較好的支持其中Sybase IQ的特色在於采用了按列存儲的創新技術和專有的數據壓縮技術

  近期速遞服務行業紛紛開始構建郵件速遞的實時動態查詢系統作為這一系統的主要支撐技術動態數據倉庫將幫助速遞服務企業構建覆蓋業務分析時限控制財務結算等內容的業務應用平台日前國內某速遞服務公司就以Teradata平台作為其特快專遞系統的硬件平台並采用Teradata ADW解決方案搭建起其第三代速遞跟蹤查詢系統

  系統上線後該公司的速遞郵件實時動態跟蹤查詢系統每天處理超過千萬筆信息全天郵件查詢量從上線之初的幾十萬件次增加到了上百萬件次高峰訪問時段可達到每小時十幾萬件次借助動態數據倉庫該公司速遞郵件的收寄投遞信息在處理完成幾分鐘內即可發送上網而對於采用無線手持終端方式上傳的郵件狀態可以在幾秒鐘內即體現出郵件的最新狀態大大提高了查詢的時效性更好地滿足了用戶的需求

  而在金融行業現階段的動態數據倉庫應用主要是主動預防和管控某些業務風險而不是等到風險發生後再報告該過程將原來的被動管理轉化為現在的主動防范而除了風險控管企業還可以通過對數據的分析和整理來判定自己的交易行為或客戶的交易行為是否符合法律法規的要求


From:http://tw.wingwit.com/Article/program/SQL/201311/16410.html
    Copyright © 2005-2013 電腦知識網 Computer Knowledge   All rights reserved.