探索圖數(shù)據(jù)庫(kù)在數(shù)據(jù)資產(chǎn)可視化中的應(yīng)用
Apache Atlas為組織提供了開(kāi)放的元數(shù)據(jù)管理和治理功能,以建立其數(shù)據(jù)資產(chǎn)的目錄,對(duì)這些資產(chǎn)進(jìn)行分類和治理,并為數(shù)據(jù)科學(xué)家,分析師和數(shù)據(jù)治理團(tuán)隊(duì)提供圍繞這些數(shù)據(jù)資產(chǎn)的協(xié)作功能。
此圖為Atlas的架構(gòu)圖,主要包含的組件如圖所示,我們主要關(guān)注于在Core組件中使用JanusGraph圖數(shù)據(jù)庫(kù)來(lái)存儲(chǔ)元數(shù)據(jù)對(duì)象。Atlas采用了分布式圖數(shù)據(jù)庫(kù)JanusGraph作為數(shù)據(jù)存儲(chǔ),目的在于用有向圖靈活的存儲(chǔ)、查詢數(shù)據(jù)血緣關(guān)系。默認(rèn)情況下元數(shù)據(jù)存儲(chǔ)配置為 HBase ,索引存儲(chǔ)配置為 Solr。也可以通過(guò)構(gòu)建相應(yīng)的配置文件使用BerkeleyDB存儲(chǔ)元數(shù)據(jù)存儲(chǔ) 和使用ElasticSearch存儲(chǔ) Index。元數(shù)據(jù)存儲(chǔ)用于存儲(chǔ)元數(shù)據(jù)對(duì)象本身,索引存儲(chǔ)用于存儲(chǔ)元數(shù)據(jù)屬性的索引,其允許高效搜索。
Atlas定義了一套atlas-graphdb-api,允許采用不同的圖數(shù)據(jù)庫(kù)引擎來(lái)實(shí)現(xiàn)api,便于切換底層存儲(chǔ)。所以Atlas讀寫(xiě)數(shù)據(jù)的過(guò)程可以看作就是將圖數(shù)據(jù)庫(kù)對(duì)象映射成Java類的過(guò)程,基本流程如下:
在Atlas中查詢某一個(gè)元數(shù)據(jù)對(duì)象時(shí)往往需要遍歷圖數(shù)據(jù)庫(kù)中的多個(gè)頂點(diǎn)與邊,相比關(guān)系型數(shù)據(jù)庫(kù)直接查詢一行數(shù)據(jù)要復(fù)雜的多,當(dāng)然使用圖數(shù)據(jù)庫(kù)作為底層存儲(chǔ)也存在它的優(yōu)勢(shì),比如可以支持復(fù)雜的數(shù)據(jù)類型和更好的支持血緣數(shù)據(jù)的讀寫(xiě)。
JanusGraph與應(yīng)用的集成,有如下兩種方式:
第一種:可以把JanusGraph嵌入到應(yīng)用程序中去,JanusGraph和應(yīng)用程序處在同一個(gè)JVM中。應(yīng)用程序中的客戶代碼(相對(duì)JanusGraph來(lái)說(shuō)是客戶)直接調(diào)用Gremlin去查詢JanusGraph中存儲(chǔ)的圖,這種情況下外部存儲(chǔ)系統(tǒng)可以是本地的,也可以處在遠(yuǎn)程。
第二種:應(yīng)用程序和Janus Graph處在兩個(gè)不同JVM中,應(yīng)用通過(guò)給JanusGraph提交Gremlin查詢給GremlinServer,來(lái)使用JanusGraph,因?yàn)镴anusGraph原生是支持Gremlin Server的。(Gremlin Server是Apache Tinkerpop中的一個(gè)組件)。
下面就展示實(shí)際基于JanusGraph圖數(shù)據(jù)庫(kù)的可視化展現(xiàn)情況:
基于以JanusGraph圖數(shù)據(jù)庫(kù)為例,結(jié)合Atlas獲取hadoop生態(tài)系統(tǒng)的元數(shù)據(jù)思路,未來(lái)數(shù)據(jù)資產(chǎn)可視化擴(kuò)展對(duì)大數(shù)據(jù)的采集能力,以kafka作為消息系統(tǒng),解耦生產(chǎn)者和消費(fèi)者,圖數(shù)據(jù)庫(kù)作為數(shù)據(jù)處理核心,以Hbase、solr,es,zookeper等技術(shù)作為輔助手段。為數(shù)據(jù)存儲(chǔ),關(guān)系建立,數(shù)據(jù)血緣建立,數(shù)據(jù)快速查詢提供便利。
寫(xiě)在最后
基于對(duì)圖數(shù)據(jù)庫(kù)知識(shí)的探索,圖數(shù)據(jù)庫(kù)在未來(lái)數(shù)據(jù)資產(chǎn)可視化中的應(yīng)用將會(huì)是促進(jìn)數(shù)據(jù)價(jià)值提升,提高企業(yè)數(shù)據(jù)資產(chǎn)配置效率的有效手段,企業(yè)可以通過(guò)圖數(shù)據(jù)庫(kù)建立企業(yè)數(shù)據(jù)資產(chǎn)全景圖,快速搜索定位,形成有效的數(shù)據(jù)交匯,以個(gè)性化展現(xiàn)企業(yè)的數(shù)據(jù)資產(chǎn),方便使用者獲取關(guān)鍵信息,更好的了解數(shù)據(jù)資產(chǎn)的各個(gè)方面。
以上是我分享的內(nèi)容以及一些不成熟的思考,希望跟大家一起探討。
精選提問(wèn):
問(wèn)1:圖數(shù)據(jù)庫(kù)增刪改查有特定語(yǔ)法嗎?
答:根據(jù)不同類型的圖數(shù)據(jù),所支持的語(yǔ)法也是不一樣的。
問(wèn)2:看到上面列舉了四種圖數(shù)據(jù)庫(kù)的比較,在實(shí)際使用中,傾向于用哪個(gè)產(chǎn)品?為什么?
答:每個(gè)圖數(shù)據(jù)庫(kù)都有不同的優(yōu)點(diǎn)和缺點(diǎn),需要看產(chǎn)品的需求,注重哪方面的,比如說(shuō)更關(guān)注于性能,更專注于擴(kuò)展性等。
問(wèn)3:有些公司字段依賴是自己解析sql實(shí)現(xiàn)的,但是我還沒(méi)具體思路。。。老師能提示下嗎?
答:目前是通過(guò)sql解析器對(duì)sql腳本做解析,例如sqlparser,比如說(shuō)解析存儲(chǔ)過(guò)程,perl腳本什么的。
問(wèn)4:mongodb支持圖數(shù)據(jù)庫(kù)嗎?圖數(shù)據(jù)庫(kù)的應(yīng)用場(chǎng)景在哪里?
答:mongodb屬于nosql數(shù)據(jù)庫(kù)的一種,和圖數(shù)據(jù)是不一樣的。圖數(shù)據(jù)庫(kù)的應(yīng)用場(chǎng)景有很多,比如最典型的知識(shí)圖譜,在數(shù)據(jù)資產(chǎn)管理中,我認(rèn)為更多的應(yīng)用數(shù)據(jù)資產(chǎn)可視化展現(xiàn),以及數(shù)據(jù)地圖,數(shù)據(jù)影響/血緣分析等。
問(wèn)5:生產(chǎn)者和消費(fèi)者解耦,有啥優(yōu)勢(shì)?
答:生產(chǎn)者和消費(fèi)者更多的應(yīng)用在并發(fā)的過(guò)程中,可以并行的執(zhí)行。把生產(chǎn)者和消費(fèi)者當(dāng)做兩個(gè)獨(dú)立的并發(fā)主體,不互相依賴,也就是說(shuō)生產(chǎn)者生產(chǎn)完直接把數(shù)據(jù)丟到緩存中,并不需要關(guān)系消費(fèi)者是否使用,而消費(fèi)者也并不需要等待生產(chǎn)者,可以加快處理速度。
問(wèn)6:不過(guò)現(xiàn)在市面上,還有一個(gè)產(chǎn)品是百度Hugegraph,您覺(jué)得這個(gè)與Neo4j和JanusGraph有什么區(qū)別和優(yōu)缺點(diǎn)?
答:HugeGraph是基于TinkerPop,很大程度上借鑒了JanusGraph,只是再次基礎(chǔ)上做了二次開(kāi)發(fā)和封裝,更加的易用。而JanusGraph可能更多的需要自己做配置。
問(wèn)7:如何做傳統(tǒng)關(guān)系型數(shù)據(jù)庫(kù)數(shù)據(jù)和圖數(shù)據(jù)庫(kù)的數(shù)據(jù)遷移呢?
答:大部分的圖數(shù)據(jù)庫(kù)都會(huì)給出接口或者導(dǎo)出腳本,把數(shù)據(jù)庫(kù)從關(guān)系型數(shù)據(jù)庫(kù)遷移到圖數(shù)據(jù)庫(kù)上,但是導(dǎo)出的性能會(huì)有很大差異。現(xiàn)在并沒(méi)有統(tǒng)一的標(biāo)準(zhǔn),更多的依賴開(kāi)源。
問(wèn)8:如果是中小型企業(yè)做基于工商數(shù)據(jù)的圖數(shù)據(jù)庫(kù),在學(xué)習(xí)成本及硬件,軟件成本上。市面上這幾種圖數(shù)據(jù)庫(kù)有優(yōu)先級(jí)么?
答:個(gè)人認(rèn)為,在關(guān)注于學(xué)習(xí)成本、軟件成本、易用性等方面考慮的話,推薦使用收費(fèi)的軟件,不推薦使用開(kāi)源的軟件,目前企業(yè)版收費(fèi)的有Neo4j,ArangoDB等,項(xiàng)目成熟,社區(qū)活躍,文檔也很成熟。企業(yè)學(xué)習(xí)部署更方便。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
圖片新聞
最新活動(dòng)更多
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車(chē)生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書(shū)》
-
8月5日立即報(bào)名>> 【在線會(huì)議】CAE優(yōu)化設(shè)計(jì):醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
推薦專題
- 1 AI 眼鏡讓百萬(wàn) APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺(jué)語(yǔ)言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國(guó)跨境支付十大趨勢(shì)
- 5 中國(guó)最具實(shí)力AI公司TOP10
- 6 深圳跑出40億超級(jí)隱形冠軍:賣(mài)機(jī)器人年入6.1億,港股上市
- 7 特斯拉Robotaxi上路,馬斯克端上畫(huà)了十年的餅
- 8 “AI六小虎”到了下一個(gè)賽點(diǎn)
- 9 AI視頻,攪動(dòng)1.5萬(wàn)億市場(chǎng)
- 10 張勇等人退出阿里合伙人