大數(shù)據(jù)經(jīng)典面試題答疑---經(jīng)常問的原理問題總結(jié)(系列文章,持續(xù)更新),幫你解決大數(shù)據(jù)開發(fā)中的困擾.

　　1. HDFS

　　1.1. 讀數(shù)據(jù)

　　1.2. 寫數(shù)據(jù)

　　如果在寫的過程中某個datanode發(fā)生錯誤，會采取以下幾步：

　　1) pipeline被關(guān)閉掉;

　　2)為了防止防止丟包ack quene里的packet會同步到data quene里;

　　3)把產(chǎn)生錯誤的datanode上當前在寫但未完成的block刪掉;

　　4)block剩下的部分被寫到剩下的兩個正常的datanode中;

　　5)namenode找到另外的datanode去創(chuàng)建這個塊的復(fù)制。當然，這些操作對客戶端來說是無感知的。

　　6.當客戶端結(jié)束寫入數(shù)據(jù)，則調(diào)用stream的close函數(shù)。此操作將所有的數(shù)據(jù)塊寫入pipeline中的數(shù)據(jù)節(jié)點，并等待ack queue返回成功。最后通知元數(shù)據(jù)節(jié)點寫入完畢。

　　校驗

　　1.2.1. HDFS在寫入過程中如何保證packet傳輸?shù)囊恢滦?/p>

　　hdfs寫入的時候計算出校驗和，然后每次讀的時候再計算校驗和。hdfs每固定長度就會計算一次校驗和，這個值由io.bytes.per.checksum指定，默認是512字節(jié)。因為CRC32是32位即4個字節(jié)，這樣校驗和占用的空間就會少于原數(shù)據(jù)的1%。

　　datanode在存儲收到的數(shù)據(jù)前會校驗數(shù)據(jù)的校驗和，比如收到客戶端的數(shù)據(jù)或者其他副本傳過來的數(shù)據(jù)。hdfs數(shù)據(jù)流中客戶端寫入數(shù)據(jù)到hdfs時的數(shù)據(jù)流，在管道的最后一個datanode會去檢查這個校驗和，如果發(fā)現(xiàn)錯誤，就會拋出ChecksumException到客戶端。

　　可以在對FileSystem調(diào)用open()之前調(diào)用setVerifyChecksum()來禁止校驗和檢測.

　　也可以通過在shell中執(zhí)行-get,-copyToLocal命令時指定-ignoreCrc選項做到.

　　1.3. namenode

　　根據(jù)元數(shù)據(jù)增長趨勢，參考本文前述的內(nèi)存空間占用預(yù)估方法，能夠大體得到NameNode常駐內(nèi)存大小，一般按照常駐內(nèi)存占內(nèi)存總量~60%調(diào)整JVM內(nèi)存大小可基本滿足需求。

　　為避免GC出現(xiàn)降級的問題，可將CMSInitiatingOccupancyFraction調(diào)整到~70。

　　NameNode重啟過程中，尤其是DataNode進行BlockReport過程中，會創(chuàng)建大量臨時對象，為避免其晉升到Old區(qū)導(dǎo)致頻繁GC甚至誘發(fā)FGC，可適當調(diào)大Young區(qū)(-XX:NewRatio)到10~15。

　　據(jù)了解，針對NameNode的使用場景，使用CMS內(nèi)存回收策略，將HotSpot JVM內(nèi)存空間調(diào)整到180GB，可提供穩(wěn)定服務(wù)。繼續(xù)上調(diào)有可能對JVM內(nèi)存管理能力帶來挑戰(zhàn)，尤其是內(nèi)存回收方面，一旦發(fā)生FGC對應(yīng)用是致命的。這里提到180GB大小并不是絕對值，能否在此基礎(chǔ)上繼續(xù)調(diào)大且能夠穩(wěn)定服務(wù)不在本文的討論范圍。結(jié)合前述的預(yù)估方法，當可用JVM內(nèi)存達180GB時，可管理元數(shù)據(jù)總量達~700M，基本能夠滿足中小規(guī)模以下集群需求。

　　參考：https://blog.csdn.net/lingbo229/article/details/81079769

　　結(jié)論：

　　1、Total = 198 ∗ num(Directory + Files) + 176 ∗ num(blocks) + 2% ∗ size(JVM Memory Size)

　　2、受JVM可管理內(nèi)存上限等物理因素，180G內(nèi)存下，NameNode服務(wù)上限的元數(shù)據(jù)量約700M。更多關(guān)于“大數(shù)據(jù)培訓(xùn)”的問題，歡迎咨詢千鋒教育在線名師。千鋒教育多年辦學(xué)，課程大綱緊跟企業(yè)需求，更科學(xué)更嚴謹，每年培養(yǎng)泛IT人才近2萬人。不論你是零基礎(chǔ)還是想提升，都可以找到適合的班型，千鋒教育隨時歡迎你來試聽。