數(shù)據(jù)倉庫：過去、現(xiàn)在和未來

作者：許江

我經(jīng)常接觸數(shù)據(jù)倉庫建設(shè)的需求，而現(xiàn)有的大數(shù)據(jù)系統(tǒng)也希望基于大數(shù)據(jù)建設(shè)數(shù)據(jù)倉庫，然而Hadoop為核心發(fā)展起來的軟件適用于OLAP的數(shù)據(jù)分析需求，OLTP這樣的分布式數(shù)據(jù)庫系統(tǒng)也如火如荼的發(fā)展。

在企業(yè)數(shù)據(jù)信息數(shù)據(jù)整合過程中，往往都是不同數(shù)據(jù)源放到不同的數(shù)據(jù)庫系統(tǒng)中，沒有數(shù)據(jù)倉庫的規(guī)范化建設(shè)，跨部門進(jìn)行數(shù)據(jù)協(xié)作，打破數(shù)據(jù)孤島無法實(shí)現(xiàn)。

分布式系統(tǒng)，幫助解決這些問題，我們真正深入了解數(shù)據(jù)價(jià)值的人都知道，建設(shè)統(tǒng)一的數(shù)據(jù)中心，數(shù)據(jù)倉庫，整合行業(yè)數(shù)據(jù)可以進(jìn)行多種維度的數(shù)據(jù)分析，數(shù)據(jù)驅(qū)動決策，幫助企業(yè)創(chuàng)新。目前在金融、電商、廣告等行業(yè)已經(jīng)大規(guī)模利用新技術(shù)取得了不菲的成績。

今天，企業(yè)級數(shù)據(jù)分析平臺發(fā)生了很大的變化。

發(fā)生什么了？

那么，對于傳統(tǒng)的數(shù)據(jù)倉庫，你有各種各樣的數(shù)據(jù)來源。您正在收集、清洗和整合數(shù)據(jù)，以便您可以將其呈現(xiàn)在您的數(shù)據(jù)倉庫中，進(jìn)行統(tǒng)計(jì)分析、預(yù)測分析、商業(yè)智能和其他工作。

好吧，隨著時間的推移，現(xiàn)在變得更加復(fù)雜了。

我們有云、有移動設(shè)備、社交媒體數(shù)據(jù)、機(jī)器數(shù)據(jù)、傳感器數(shù)據(jù)。越來越多的數(shù)據(jù)來源，數(shù)據(jù)爆發(fā)式增長，非結(jié)構(gòu)化數(shù)據(jù)、半結(jié)構(gòu)化數(shù)據(jù)、結(jié)構(gòu)化數(shù)據(jù)。

有大量的關(guān)于大數(shù)據(jù)介紹中，你會看到幻燈片談?wù)撃仨毺幚鞵B級數(shù)據(jù)量，才能利用上這些新的數(shù)據(jù)分析技術(shù)。但是對我來說，這是沒有抓住重點(diǎn)。

數(shù)據(jù)倉庫真正的意義是什么？為什么企業(yè)對數(shù)據(jù)倉庫支出不斷增加。這是因?yàn)椴皇菙?shù)據(jù)量和速度問題。隨著發(fā)展，我們只需要增加硬件就能增加我們數(shù)據(jù)處理的規(guī)模，這才是分布式系統(tǒng)的強(qiáng)大之處。

萬物互聯(lián)的時代，隨著數(shù)據(jù)的多樣性和異質(zhì)性從而增加數(shù)據(jù)分析的復(fù)雜性。我們的需求是關(guān)聯(lián)和整合這些數(shù)據(jù)。但是，我們現(xiàn)有的數(shù)據(jù)分析工具，Hadoop或Spark并沒有帶來任何神器的解決方案。我們?nèi)匀辉谂鉀Q同樣的問題：如何從不同的渠道獲取數(shù)據(jù)、然后將他們關(guān)聯(lián)起來，這樣企業(yè)可以讓數(shù)據(jù)說話，數(shù)據(jù)驅(qū)動決策。為了解決這些問題，我們需要依賴更多新的工具。

數(shù)據(jù)倉庫的演變

利用新技術(shù)，使我們能更好的解決實(shí)際業(yè)務(wù)問題。

那么，我們來看看不同的技術(shù)，是如何幫助我們解決與數(shù)據(jù)相關(guān)的需求，為業(yè)務(wù)提供數(shù)據(jù)支撐。

OLAP場景的Hadoop解決方案，OLTP場景的NewSQL解決方案。

流水線式的數(shù)據(jù)分析

我們看到一個有趣的現(xiàn)象，每個公司幾乎都建立了一個數(shù)據(jù)流水線，隨著新數(shù)據(jù)的進(jìn)入，他們利用NoSQL數(shù)據(jù)庫來存儲文檔數(shù)據(jù)。就像是一個無線容量的數(shù)據(jù)庫，擁有很好的擴(kuò)展性，并且還能進(jìn)行大數(shù)據(jù)量的高速查詢和搜索。

我們可以看到很多大規(guī)模使用MongoDB、Hbase、cassandra數(shù)據(jù)庫，還有NewSQL的發(fā)展。

隨著數(shù)據(jù)多樣性的出現(xiàn)，出現(xiàn)了很多新型的數(shù)據(jù)庫。

新型數(shù)據(jù)分析需求

越來越高的數(shù)據(jù)分析需求和數(shù)據(jù)多樣性的探索，導(dǎo)致了數(shù)據(jù)庫系統(tǒng)的蓬勃發(fā)展，國產(chǎn)數(shù)據(jù)庫也有了非常大的進(jìn)步可以進(jìn)入國際頂級的數(shù)據(jù)庫會議發(fā)表論文，2017年騰訊的開源項(xiàng)目VLDB也發(fā)文了，而做為去IOE發(fā)起者的阿里在云端阿里云也如火如荼的發(fā)展數(shù)據(jù)庫服務(wù)，比如：PolarDB、螞蟻金服金融級數(shù)據(jù)庫分布式數(shù)據(jù)庫OceanBase都是黑科技級別的產(chǎn)品。為了在云端兼顧OLTP和OLAP的數(shù)據(jù)分析引擎，各大云廠商阿里云、騰訊云、XX云都使勁的推廣各自的數(shù)據(jù)庫技術(shù)，也采取與開源數(shù)據(jù)庫廠商廣泛合作的方式。

底層數(shù)據(jù)庫系統(tǒng)，特別是NewSQL幾大巨頭也有有在長期招聘相關(guān)職位。可見目前分布式OLTP/OLAP數(shù)據(jù)庫發(fā)展的勢頭，必然是與Cloud相結(jié)合，也只有云化才有機(jī)會大把撈金，不然開源數(shù)據(jù)庫這樣的生態(tài)下，底層基礎(chǔ)軟件出路在何方？

Analytic DB 的發(fā)展

我們列表?RDBMS -> MPP -> HADOOP -> NOSQL -> NEWSQL?主流的系統(tǒng)，根據(jù)我接觸過的公司或產(chǎn)品來列舉，個人認(rèn)知有限，如未能列表全面，歡迎補(bǔ)充。

RDBMS

MPP

Hadoop ?Ecosystem

NoSQL

NewSQL

雖然NoSQL因其性能、可伸縮性與可用性而廣受贊譽(yù)，但其開發(fā)與數(shù)據(jù)重構(gòu)的工作量要大于SQL存儲。因此，有些人開始轉(zhuǎn)向了NewSQL，它將NoSQL的優(yōu)勢與SQL的能力結(jié)合了起來。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。