久久精品国产亚洲高清|精品日韩中文乱码在线|亚洲va中文字幕无码久|伊人久久综合狼伊人久久|亚洲不卡av不卡一区二区|精品久久久久久久蜜臀AV|国产精品19久久久久久不卡|国产男女猛烈视频在线观看麻豆

千鋒教育-做有情懷、有良心、有品質的職業(yè)教育機構

手機站
千鋒教育

千鋒學習站 | 隨時隨地免費學

千鋒教育

掃一掃進入千鋒手機站

領取全套視頻
千鋒教育

關注千鋒學習站小程序
隨時隨地免費學習課程

當前位置:首頁  >  應聘面試  >  大數(shù)據(jù)面試題  > 大數(shù)據(jù)面試題:yarn的基礎詳解

大數(shù)據(jù)面試題:yarn的基礎詳解

來源:千鋒教育
發(fā)布人:syq
時間: 2022-06-20 17:38:00 1655717880

  1.hadoop 1.x

  JobTracker,TaskTracker

  缺點:JobTracker負載過重,存在單點故障;與MapReduce強耦合,其他計算框架需要重復實現(xiàn)資源管理;

  2.hadoop 2.x

  App Mstr (Application Master進程)

  3.工作流程

  如架構圖所示,大致的工作流程如下:

圖片1

圖片2 

  用戶使用客戶端向 RM 提交一個任務,同時指定提交到哪個隊列和需要多少資源。用戶可以通過每個計算引擎的對應參數(shù)設置,如果沒有特別指定,則使用默認設置。

  RM 在收到任務提交的請求后,先根據(jù)資源和隊列是否滿足要求選擇一個 NM,通知它啟動一個特殊的 container,稱為 Application Master(App Mstr,AM),后續(xù)流程由它發(fā)起。

  AM 向 RM 注冊后根據(jù)自己任務的需要,向 RM 申請 container,包括數(shù)量、所需資源量、所在位置等因素。

  如果隊列有足夠資源,RM 會將 container 分配給有足夠剩余資源的 NM,由 AM 通知 NM 啟動 container。

  container 啟動后執(zhí)行具體的任務,處理分給自己的數(shù)據(jù)。NM 除了負責啟動 container,還負責監(jiān)控它的資源使用狀況以及是否失敗退出等工作,如果 container 實際使用的內存超過申請時指定的內存,會將其殺死,保證其他 container 能正常運行。

  各個 container 向 AM 匯報自己的進度,都完成后,AM 向 RM 注銷任務并退出,RM 通知 NM 殺死對應的 container,任務結束。

  更多關于“大數(shù)據(jù)培訓”的問題,歡迎咨詢千鋒教育在線名師。千鋒教育多年辦學,課程大綱緊跟企業(yè)需求,更科學更嚴謹,每年培養(yǎng)泛IT人才近2萬人。不論你是零基礎還是想提升,都可以找到適合的班型,千鋒教育隨時歡迎你來試聽。

tags:
聲明:本站稿件版權均屬千鋒教育所有,未經(jīng)許可不得擅自轉載。
10年以上業(yè)內強師集結,手把手帶你蛻變精英
請您保持通訊暢通,專屬學習老師24小時內將與您1V1溝通
免費領取
今日已有369人領取成功
劉同學 138****2860 剛剛成功領取
王同學 131****2015 剛剛成功領取
張同學 133****4652 剛剛成功領取
李同學 135****8607 剛剛成功領取
楊同學 132****5667 剛剛成功領取
岳同學 134****6652 剛剛成功領取
梁同學 157****2950 剛剛成功領取
劉同學 189****1015 剛剛成功領取
張同學 155****4678 剛剛成功領取
鄒同學 139****2907 剛剛成功領取
董同學 138****2867 剛剛成功領取
周同學 136****3602 剛剛成功領取
相關推薦HOT
快速通道