元數(shù)據(jù)作為大數(shù)據(jù)的源泉，有著非常重要的作用。可在Impala中卻隱藏著一個(gè)秘密？和元數(shù)據(jù)有著頗深的淵源，我們一起來追溯！

站在用戶的角度思考問題，與客戶深入溝通，找到江岸網(wǎng)站設(shè)計(jì)與江岸網(wǎng)站推廣的解決方案，憑借多年的經(jīng)驗(yàn)，讓設(shè)計(jì)與互聯(lián)網(wǎng)技術(shù)結(jié)合，創(chuàng)造個(gè)性化、用戶體驗(yàn)好的作品，建站類型包括：成都網(wǎng)站設(shè)計(jì)、成都網(wǎng)站建設(shè)、企業(yè)官網(wǎng)、英文網(wǎng)站、手機(jī)端網(wǎng)站、網(wǎng)站推廣、域名注冊(cè)、雅安服務(wù)器托管、企業(yè)郵箱。業(yè)務(wù)覆蓋江岸地區(qū)。

一、Impala體系結(jié)構(gòu)

（1）每個(gè)slave節(jié)點(diǎn)運(yùn)行一個(gè)Impala進(jìn)程，和HDFS的DataNode進(jìn)程同時(shí)協(xié)作

（2）兩個(gè)其他的進(jìn)程運(yùn)行在master節(jié)點(diǎn)，用來支持查詢執(zhí)行

1、State Store進(jìn)程：為ImpalaDaemon提供查×××，并周期性地檢查Impala進(jìn)程狀態(tài)

2、Catalog進(jìn)程：把元數(shù)據(jù)的變更同步到所有ImpalaDaemons中

二、Impala如何執(zhí)行查詢

（1）Impala daemon查詢執(zhí)行過程

客戶端（Impala-shell或Hue）連接到Impala daemon，它是Coordinator。Coordinator從State Store請(qǐng)求其他的Impala daemons，并把查詢分發(fā)給其他的Impala daemons，最后返回結(jié)果給客戶端。

三、元數(shù)據(jù)緩存

根據(jù)Impala的查詢功能，我們可以知道在Impala里面存在元數(shù)據(jù)的緩存。元數(shù)據(jù)保存在Hive的Metastore里面，那么元數(shù)據(jù)緩存的作用是什么呢？就是在Impala啟動(dòng)的時(shí)候，將元數(shù)據(jù)緩存到Impala daemon的節(jié)點(diǎn)。當(dāng)Impala daemon發(fā)起元數(shù)據(jù)變更的時(shí)候，比如說創(chuàng)建表，刪除表，或者修改表的定義，這些都是可以緩存下來的。如果我們?nèi)ゲ樵儽硇畔⒌臅r(shí)候，可以從緩存里面找到，直接在節(jié)點(diǎn)中進(jìn)行查詢,所以在每個(gè)Impala daemon里面有metadata cache節(jié)點(diǎn)用作緩存。

而當(dāng)Impala進(jìn)程改變了元數(shù)據(jù)，將會(huì)提示catalog服務(wù)，Catalog服務(wù)通知所有Impala daemons來更新緩存。

四、外部改變和元數(shù)據(jù)緩存

我們上面講的都是內(nèi)部的改變，然而很多時(shí)候還會(huì)有外部的改變，可外部的改變對(duì)于Impala來說是未知的，比如：

（1）Hive、Hcatalog或HueMetadata Manager改變了元數(shù)據(jù)

（2）數(shù)據(jù)直接添加到HDFS目錄

外部的改變將導(dǎo)致Impala元數(shù)據(jù)緩存變得不可用，我們必須手動(dòng)的刷新或驗(yàn)證Impala的元數(shù)據(jù)緩存。

當(dāng)然，這種改變根據(jù)改變內(nèi)容和性質(zhì)的不同，有不同的方法去更新，比如：

有疑問，歡迎來吐槽，關(guān)注微信公眾號(hào)“大數(shù)據(jù)cn”， 每天同行嗨不停，還有更多資源等著你！

另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn，海內(nèi)外云服務(wù)器15元起步，三天無理由+7*72小時(shí)售后在線，公司持有idc許可證，提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國(guó)服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡(jiǎn)單易用、服務(wù)可用性高、性價(jià)比高”等特點(diǎn)與優(yōu)勢(shì)，專為企業(yè)上云打造定制，能夠滿足用戶豐富、多元化的應(yīng)用場(chǎng)景需求。

分享題目：Impala隱藏的驚天秘密-創(chuàng)新互聯(lián)
地址分享：http://m.2m8n56k.cn/article40/gjpeo.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供響應(yīng)式網(wǎng)站、網(wǎng)站建設(shè)、商城網(wǎng)站、網(wǎng)頁(yè)設(shè)計(jì)公司、網(wǎng)站導(dǎo)航、小程序開發(fā)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：[email protected]。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)