數(shù)據(jù)中臺建設(shè)(二):數(shù)據(jù)中臺簡單介紹
時間:2023-03-26 16:28:01 | 來源:電子商務(wù)
時間:2023-03-26 16:28:01 來源:電子商務(wù)
數(shù)據(jù)中臺簡單介紹
一、???????什么是數(shù)據(jù)中臺
2014年馬云正式提出“DT(Data Technology)”的概念,人類從IT時代走向DT時代,阿里內(nèi)部的數(shù)據(jù)平臺事業(yè)部大刀闊斧的建立整個集團(tuán)的數(shù)據(jù)資產(chǎn),同年,阿里從芬蘭Supercell公司接觸到中臺概念后,在集團(tuán)內(nèi)部積極踐行,開創(chuàng)了“大中臺、小前臺”的組織機(jī)制和業(yè)務(wù)機(jī)制,通過高效、統(tǒng)一的后方系統(tǒng)來支撐快速變化的前端業(yè)務(wù),提高業(yè)務(wù)產(chǎn)出效率,減少成本投入。
2018年中臺概念開始深入互聯(lián)網(wǎng)公司,2019年數(shù)據(jù)中臺概念大火。之所以現(xiàn)在推崇數(shù)據(jù)中臺的建設(shè)原因是數(shù)據(jù)中臺確實給小前臺提供了強(qiáng)有力的數(shù)據(jù)支持,實現(xiàn)了對需求快速響應(yīng),另一個重要的原因是數(shù)據(jù)中臺已經(jīng)在阿里體現(xiàn)了巨大的商業(yè)價值和應(yīng)用價值。
1.1、??????????????數(shù)據(jù)中臺概念
數(shù)據(jù)中臺是一套可持續(xù)“
讓企業(yè)的數(shù)據(jù)用起來”的機(jī)制,通過有形的產(chǎn)品和實施方法論,構(gòu)建
一套持續(xù)不斷把數(shù)據(jù)變成資產(chǎn)并服務(wù)于業(yè)務(wù)的機(jī)制,數(shù)據(jù)來自于業(yè)務(wù),并反哺業(yè)務(wù),不斷循環(huán)迭代,實現(xiàn)數(shù)據(jù)數(shù)據(jù)可見、可用、可運(yùn)營,
通過數(shù)據(jù)中臺把數(shù)據(jù)變成一種服務(wù)能力,其目標(biāo)是提供普惠的數(shù)據(jù)服務(wù)。關(guān)于數(shù)據(jù)中臺有以下幾個功能特點(diǎn):1)數(shù)據(jù)中臺具備數(shù)據(jù)匯聚整合、數(shù)據(jù)提純加工、數(shù)據(jù)服務(wù)可視化、數(shù)據(jù)價值變現(xiàn)核心能力。2)數(shù)據(jù)中臺的核心就是實現(xiàn)公共計算邏輯下沉,實現(xiàn)數(shù)據(jù)復(fù)用,提供給接口使用。3)數(shù)據(jù)中臺不是某一個單一的產(chǎn)品或者某個技術(shù)。本質(zhì)上講數(shù)據(jù)中臺就是從數(shù)據(jù)中發(fā)現(xiàn)價值,賦能業(yè)務(wù)數(shù)據(jù)管理機(jī)制。如果我們把數(shù)據(jù)比喻成血液,那么數(shù)據(jù)中臺就是心臟和毛細(xì)血管,構(gòu)建中臺可以能讓數(shù)據(jù)價值滲透到各個業(yè)務(wù)場景中去。
4)數(shù)據(jù)中臺最核心的理念就是“OneData OneService”“oneData”指的是對于企業(yè)數(shù)據(jù)我們需要按照主題和分層方式進(jìn)行管理、統(tǒng)一表及指標(biāo)的命名規(guī)范,保證數(shù)據(jù)完整性及復(fù)用性,全企業(yè)數(shù)據(jù)只有這一份統(tǒng)一管理的數(shù)據(jù)。
“oneService”指的是業(yè)務(wù)使用的所有數(shù)據(jù)來源于數(shù)據(jù)中臺,數(shù)據(jù)中臺提供統(tǒng)一的數(shù)據(jù)服務(wù)功能,屏蔽底層數(shù)據(jù)存儲,做到接口復(fù)用,減少不規(guī)范的煙囪式的接口開發(fā)。
構(gòu)建數(shù)據(jù)中臺時需要企業(yè)從戰(zhàn)略、組織、人才方面全方位規(guī)劃配合,而不僅僅停留在工具和產(chǎn)品層面,所以在一些大互聯(lián)公司在宣布中臺戰(zhàn)略時,會伴隨組織架構(gòu)調(diào)整,例如:合并數(shù)據(jù)處理部門,合并業(yè)務(wù)部門等等。
1.2、??????????????數(shù)據(jù)中臺類比案例
為了方便理解中臺概念我們舉個例子:每個人家里廚房都有油、鹽、糖、醬油、醋、料酒、生抽很多調(diào)料,這些調(diào)料相當(dāng)于數(shù)據(jù),你相當(dāng)于業(yè)務(wù)部門,特別喜歡吃糖醋魚、糖醋排骨、糖醋豬蹄、糖醋里脊,以上食物成品相當(dāng)于各種業(yè)務(wù)應(yīng)用。你家里老媽做飯,相當(dāng)于IT部門,她覺得每天都按照比例調(diào)制糖醋汁很麻煩非常浪費(fèi)時間,每次調(diào)制的味道還不同,于是你老媽決定按照一定的比例(1醬油+2料酒+3醋+4生抽+5鹽,這個比例就相當(dāng)于數(shù)據(jù)處理及數(shù)據(jù)算法)來調(diào)制一大桶糖醋汁(相當(dāng)于數(shù)據(jù)產(chǎn)品),以后每天倒一點(diǎn)點(diǎn)糖醋汁就可以做出一盤糖醋菜(業(yè)務(wù)應(yīng)用), 這個調(diào)制糖醋汁以及使用糖醋汁做出一盤糖醋菜的這個過程就相當(dāng)于構(gòu)建了一個數(shù)據(jù)中臺。如果你家十天半個月才吃一次糖醋菜,頻率很低(相當(dāng)于某個業(yè)務(wù)應(yīng)用很低),就沒有必要調(diào)制一大桶糖醋汁放在那兒(沒必要構(gòu)建中臺)。
所以在構(gòu)建數(shù)據(jù)中臺之前首先看一看有沒有數(shù)據(jù)產(chǎn)品的需求,有多少人使用這個數(shù)據(jù)產(chǎn)品產(chǎn)生的業(yè)務(wù)結(jié)果,使用的需求量大不大?以及使用這個數(shù)據(jù)產(chǎn)品業(yè)務(wù)結(jié)果的頻率高不高?如果以上都合理就可以規(guī)劃構(gòu)建數(shù)據(jù)中臺。
數(shù)據(jù)中臺的核心理念就在于數(shù)據(jù)取之于業(yè)務(wù),用之于業(yè)務(wù),它相對于數(shù)據(jù)平臺注重的是對業(yè)務(wù)的積累和沉淀,構(gòu)建了從數(shù)據(jù)生產(chǎn)到消費(fèi),消費(fèi)后產(chǎn)生的數(shù)據(jù)再回流到生產(chǎn)流程的閉環(huán)過程。二、前、中、后臺概念
??????????????2.1、前臺概念
由各類前臺系統(tǒng)組成的前端平臺,每個前臺系統(tǒng)都是用戶的一個觸點(diǎn),即企業(yè)的最終用戶直接使用或交互的系統(tǒng),是企業(yè)與最終用戶的交點(diǎn)。例如用戶直接使用的網(wǎng)站、手機(jī)app、微信公眾號、企業(yè)看板等都是前臺范疇。小前臺一般都是敏捷前臺,強(qiáng)調(diào)敏捷交互及穩(wěn)定交付的組織能力建設(shè),對于阿里來說,小前臺就是各個業(yè)務(wù)部門。
???????2.2、中臺概念
中臺的設(shè)置是為了提煉各個業(yè)務(wù)線的共性需求,并將這些打造成組件化的資源包,然后以接口的形式提供給前臺各業(yè)務(wù)部門使用,可以使產(chǎn)品在更新迭代、創(chuàng)新拓展的過程中研發(fā)更靈活、業(yè)務(wù)更敏捷、最大限度地減少“重復(fù)造輪子”的KPI項目。中臺是一種經(jīng)營理念,是一種組織形式,是“平臺思維”的自然演進(jìn)。
中臺又包含業(yè)務(wù)中臺、技術(shù)中臺、數(shù)據(jù)中臺。
業(yè)務(wù)中臺業(yè)務(wù)中臺更多偏向于業(yè)務(wù)流程管控,將業(yè)務(wù)流程中共性的服務(wù)抽象出來,形成通用的服務(wù)能力。
比如電商平臺,有C2C、B2C、C2B、B2B四種模式,其中訂單、交易、商品管理,購物車模塊、短信中心,用戶中心、支付中心、交易中心、搜索服務(wù)都是有共性的,將這些組件沉淀出來,形成電商行業(yè)的業(yè)務(wù)中臺,再基于這些業(yè)務(wù)中臺組件的服務(wù)能力,可以快速搭建前臺應(yīng)用,譬如:C2C模式的淘寶、B2C模式的天貓、B2B模式的1688、C2B模式的聚劃算,用戶通過這些前臺業(yè)務(wù)觸點(diǎn)使用業(yè)務(wù)服務(wù),業(yè)務(wù)中臺不直接面向終端用戶,但可以極大提升構(gòu)建面向終端用戶的前臺的速度和效率。
技術(shù)中臺主要負(fù)責(zé)基礎(chǔ)服務(wù)、基礎(chǔ)組件、基礎(chǔ)平臺、存儲體系、云平臺、運(yùn)維相關(guān)等技術(shù)支撐。
數(shù)據(jù)中臺業(yè)務(wù)中臺是抽象業(yè)務(wù)流程的共性形成通用業(yè)務(wù)服務(wù)能力,而數(shù)據(jù)中臺則是抽象數(shù)據(jù)能力的共性形成通用的數(shù)據(jù)服務(wù)能力。
例如:原始業(yè)務(wù)數(shù)據(jù)通過資產(chǎn)化、服務(wù)化,形成用戶畫像服務(wù),這個服務(wù)可用于電商平臺的商品推薦,也可以用于地產(chǎn)購房意愿,還可以用于金融領(lǐng)域的信用評級等。同一個服務(wù)在應(yīng)用層面展現(xiàn)的內(nèi)容可能不一致,但是底層的數(shù)據(jù)體系是一致的。
2.3、后臺概念
由后臺系統(tǒng)組成的后端平臺,每個后臺系統(tǒng)一般管理了企業(yè)的一類核心資源,例如:財務(wù)系統(tǒng)、產(chǎn)品系統(tǒng)、客戶管理系統(tǒng)、倉庫物流管理系統(tǒng)等,這類系統(tǒng)構(gòu)成了企業(yè)的后臺,后臺更多解決的是企業(yè)管理效率問題,為前中臺提供數(shù)據(jù)支撐,而中臺要解決的才是前臺創(chuàng)新的問題。
三、數(shù)據(jù)中臺與業(yè)務(wù)中臺區(qū)別和聯(lián)系
一個企業(yè)中可以同時擁有業(yè)務(wù)中臺和數(shù)據(jù)中臺,兩者是相輔相成的。業(yè)務(wù)中臺中沉淀的業(yè)務(wù)數(shù)據(jù)進(jìn)入到數(shù)據(jù)中臺進(jìn)行體系化加工,再以服務(wù)化的方式支撐業(yè)務(wù)中臺上的應(yīng)用,而這些應(yīng)用產(chǎn)生的新數(shù)據(jù)又流轉(zhuǎn)到數(shù)據(jù)中臺,形成循環(huán)不息的數(shù)據(jù)閉環(huán)。
在企業(yè)中構(gòu)建數(shù)據(jù)中臺與業(yè)務(wù)中臺沒有先后之分,根據(jù)企業(yè)實際情況進(jìn)行規(guī)劃建設(shè)。
從數(shù)據(jù)層面上來看,業(yè)務(wù)中臺只是數(shù)據(jù)中臺的數(shù)據(jù)源之一,除此之外,企業(yè)還有很多其他的數(shù)據(jù)來源,如:APP,小程序,IOT等多源數(shù)據(jù)。
從服務(wù)層面上來說,數(shù)據(jù)中臺的數(shù)據(jù)服務(wù)也不一定經(jīng)過業(yè)務(wù)中臺作用于業(yè)務(wù),也可以直接被上層應(yīng)用系統(tǒng)進(jìn)行封裝,如電商領(lǐng)域推薦系統(tǒng)。
中臺不是平臺,平臺可以有很多,例如:營銷平臺、風(fēng)控平臺、管理平臺,平臺解決的是特定領(lǐng)域業(yè)務(wù)的問題,而中臺解決的是全企業(yè)各個業(yè)務(wù)領(lǐng)域綜合問題,一般一個企業(yè)只需要一個中臺就可以,現(xiàn)在還有業(yè)務(wù)中臺、數(shù)據(jù)中臺之分,未來當(dāng)數(shù)據(jù)與業(yè)務(wù)更加緊密集合,會統(tǒng)一形成“企業(yè)中臺”。
四、??????????????數(shù)據(jù)中臺與大數(shù)據(jù)平臺關(guān)系
大數(shù)據(jù)平臺更關(guān)心技術(shù)層面的事情,提供數(shù)據(jù)加工處理的能力,提供數(shù)據(jù)集成、數(shù)據(jù)開發(fā)、數(shù)據(jù)測試、任務(wù)上線等,針對的往往是技術(shù)人員。而數(shù)據(jù)中臺的核心是數(shù)據(jù)服務(wù)能力,要結(jié)合場景,比如精準(zhǔn)營銷、風(fēng)控等,通過服務(wù)直接賦能業(yè)務(wù)應(yīng)用,數(shù)據(jù)中臺不僅僅面向技術(shù)人員,更需要面向多個部門的業(yè)務(wù)人員。
如果把數(shù)據(jù)中臺看成一個工廠,大數(shù)據(jù)平臺就是工廠中的設(shè)備,為工廠運(yùn)行提供加工處理數(shù)據(jù)能力,通過一系列的整合、加工、處理最終為客戶提供有價值的數(shù)據(jù)結(jié)果和服務(wù),當(dāng)然,屬于大數(shù)據(jù)平臺的數(shù)據(jù)倉庫也當(dāng)屬數(shù)據(jù)中臺的重要組成部分。
數(shù)據(jù)倉庫的主要場景實支持管理決策和業(yè)務(wù)分析,而數(shù)據(jù)中臺則是將數(shù)據(jù)服務(wù)化之后提供給業(yè)務(wù)系統(tǒng),目標(biāo)是將數(shù)據(jù)能力滲透到各個業(yè)務(wù)環(huán)節(jié),不限于決策分析類場景。例如:
所以數(shù)據(jù)時代帶來的挑戰(zhàn)不僅僅是數(shù)據(jù)量的爆發(fā)式增長,更重要的是如何管理好、治理好、利用好這些數(shù)據(jù),顯然傳統(tǒng)的大數(shù)據(jù)平臺建設(shè)方法論不能滿足以上需求,數(shù)據(jù)中臺應(yīng)運(yùn)而生
五、構(gòu)建數(shù)據(jù)中臺價值
構(gòu)建數(shù)據(jù)中臺價值如下:
5.1、提升數(shù)據(jù)應(yīng)用能力
數(shù)據(jù)中臺將海量數(shù)據(jù)轉(zhuǎn)化為高質(zhì)量的數(shù)據(jù)資產(chǎn),為企業(yè)提供更深層的客戶洞察,從而為客戶提供更個性化和智能化的產(chǎn)品和服務(wù)。
5.2、打破數(shù)據(jù)應(yīng)用屏障
在傳統(tǒng)數(shù)據(jù)建設(shè)中,數(shù)據(jù)無法被業(yè)務(wù)使用,其中一個重要的原因是業(yè)務(wù)人員不夠懂?dāng)?shù)據(jù),導(dǎo)致數(shù)據(jù)應(yīng)用到業(yè)務(wù)變得困難,數(shù)據(jù)分析人員不管業(yè)務(wù),只是按部就班產(chǎn)出報表結(jié)果,以上情況導(dǎo)致數(shù)據(jù)分析結(jié)果不能很好地反哺到業(yè)務(wù)中,構(gòu)建數(shù)據(jù)中臺之后,數(shù)據(jù)分析人員將數(shù)據(jù)變成業(yè)務(wù)人員可閱讀、易理解的內(nèi)容,業(yè)務(wù)人員看到內(nèi)容后很快可以將數(shù)據(jù)結(jié)合到業(yè)務(wù)中。
5.3、打破數(shù)據(jù)孤島,盤活全量數(shù)據(jù)
數(shù)據(jù)中臺構(gòu)建將分散割裂的海量數(shù)據(jù)做到集成,打破數(shù)據(jù)孤島的現(xiàn)狀,同時降低使用數(shù)據(jù)服務(wù)的門檻,實現(xiàn)數(shù)據(jù)“越用越多”的價值閉環(huán)。
5.4、支持跨主題域訪問數(shù)據(jù)
企業(yè)早期建設(shè)的應(yīng)用數(shù)據(jù)層ADS(傳統(tǒng)數(shù)據(jù)倉庫分為ODS/DW/ADS)更多是為了某個主題域所服務(wù),例如:營銷域、人力資源域、風(fēng)控域。而企業(yè)在數(shù)據(jù)應(yīng)用到業(yè)務(wù)的時候往往需要打破各個主題,會從業(yè)務(wù)對象主體出發(fā)來考慮數(shù)據(jù)應(yīng)用,如人(會員、供應(yīng)商、渠道、員工)和物(商品、倉庫、合同),從全域角度設(shè)計完整的面向?qū)ο蟮臄?shù)據(jù)標(biāo)簽體系。
5.5、數(shù)據(jù)快速復(fù)用
傳統(tǒng)的架構(gòu)中,將分析后的數(shù)據(jù)應(yīng)用到業(yè)務(wù)中,通常做法就是通過數(shù)據(jù)同步能力,把結(jié)果同步到業(yè)務(wù)系統(tǒng)中,由業(yè)務(wù)系統(tǒng)自行處理,這會帶來數(shù)據(jù)管理問題,整個數(shù)據(jù)血緣鏈路是割裂的。數(shù)據(jù)中臺可以很好的提供數(shù)據(jù)服務(wù),業(yè)務(wù)系統(tǒng)只需要從數(shù)據(jù)服務(wù)中獲取數(shù)據(jù)即可。
關(guān)鍵詞:數(shù)據(jù),建設(shè),簡單