久久精品国产亚洲高清|精品日韩中文乱码在线|亚洲va中文字幕无码久|伊人久久综合狼伊人久久|亚洲不卡av不卡一区二区|精品久久久久久久蜜臀AV|国产精品19久久久久久不卡|国产男女猛烈视频在线观看麻豆

千鋒教育-做有情懷、有良心、有品質(zhì)的職業(yè)教育機構

手機站
千鋒教育

千鋒學習站 | 隨時隨地免費學

千鋒教育

掃一掃進入千鋒手機站

領取全套視頻
千鋒教育

關注千鋒學習站小程序
隨時隨地免費學習課程

當前位置:首頁  >  技術干貨  > ClickHouse為什么快?

ClickHouse為什么快?

來源:千鋒教育
發(fā)布人:qyf
時間: 2022-10-08 17:47:31 1665222451

ClickHouse為什么快

  數(shù)據(jù)計算層面:

  向量化執(zhí)行+SIMD(單指令多數(shù)據(jù)流)

  * ClickHouse實現(xiàn)了向量執(zhí)行引擎(Vectorized execution engine),對內(nèi)存中的列式數(shù)據(jù),一個batch調(diào)用一次SIMD指令(而非每一行調(diào)用一次),不僅減少了函數(shù)調(diào)用次數(shù)、降低了cache miss,而且可以充分發(fā)揮SIMD指令的并行能力,大幅縮短了計算耗時。向量執(zhí)行引擎,通常能夠帶來數(shù)倍的性能提升。

  動態(tài)代碼生成(Runtime Codegen)

  * 在經(jīng)典的數(shù)據(jù)庫實現(xiàn)中,通常對表達式計算采用火山模型,也即將查詢轉(zhuǎn)換成一個個operator,比如HashJoin、Scan、IndexScan、Aggregation等。為了連接不同算子,operator之間采用統(tǒng)一的接口,比如open/next/close。在每個算子內(nèi)部都實現(xiàn)了父類的這些虛函數(shù),在分析場景中單條SQL要處理數(shù)據(jù)通常高達數(shù)億行,虛函數(shù)的調(diào)用開銷不再可以忽略不計。另外,在每個算子內(nèi)部都要考慮多種變量,比如列類型、列的size、列的個數(shù)等,存在著大量的if-else分支判斷導致CPU分支預測失效。 * ClickHouse實現(xiàn)了Expression級別的runtime codegen,動態(tài)地根據(jù)當前SQL直接生成代碼,然后編譯執(zhí)行。如下圖例子所示,對于Expression直接生成代碼,不僅消除了大量的虛函數(shù)調(diào)用(即圖中多個function pointer的調(diào)用),而且由于在運行時表達式的參數(shù)類型、個數(shù)等都是已知的,也消除了不必要的if-else分支判斷。

  多核并行處理+分布式處理

  * ClickHouse將數(shù)據(jù)劃分為多個partition,每個partition再進一步劃分為多個index granularity,然后通過多個CPU核心分別處理其中的一部分來實現(xiàn)并行數(shù)據(jù)處理。在這種設計下,單條Query就能利用整機所有CPU。極致的并行處理能力,極大的降低了查詢延時。 * 分布式計算,即多機器處理線性擴展

  著眼硬件+高效的算法實現(xiàn)

  # 比如 * ClickHouse設計時非常在于對CPU L3級別的緩存使用,因為一次L3 cache miss會帶來70~100納秒的延遲。這意味著,在單核CPU上,它會浪費4000萬/每秒的運算;而在一個32線程的CPU上,則可能會浪費5億/每秒的運算,別小看這些細節(jié),一點一滴的將它們累加起來,數(shù)據(jù)是非常可觀的。也正因為注意了這些細節(jié),所以ClickHouse在基準查詢中,能做到1.75億/每秒的數(shù)據(jù)掃描性能。 * 針對不同的場景選擇不同算法,例如去重計數(shù)uniqCombined函數(shù),根據(jù)數(shù)據(jù)量的不同會選擇不同的算法。當數(shù)據(jù)量較小的時候,會選擇Array保存;當數(shù)據(jù)量中等時候,則會選擇HashSet;而當數(shù)據(jù)量很大的時候,則使用HyperLogLog算法。

  數(shù)據(jù)存儲和寫入層面:

  列式存儲+有序存儲

  主鍵索引+稀疏索引

  數(shù)據(jù)分片

  數(shù)據(jù)寫入是Batch+Append+后臺線程Merge

tags:
聲明:本站稿件版權均屬千鋒教育所有,未經(jīng)許可不得擅自轉(zhuǎn)載。
10年以上業(yè)內(nèi)強師集結,手把手帶你蛻變精英
請您保持通訊暢通,專屬學習老師24小時內(nèi)將與您1V1溝通
免費領取
今日已有369人領取成功
劉同學 138****2860 剛剛成功領取
王同學 131****2015 剛剛成功領取
張同學 133****4652 剛剛成功領取
李同學 135****8607 剛剛成功領取
楊同學 132****5667 剛剛成功領取
岳同學 134****6652 剛剛成功領取
梁同學 157****2950 剛剛成功領取
劉同學 189****1015 剛剛成功領取
張同學 155****4678 剛剛成功領取
鄒同學 139****2907 剛剛成功領取
董同學 138****2867 剛剛成功領取
周同學 136****3602 剛剛成功領取
相關推薦HOT
大數(shù)據(jù)測試工程師需要具備哪些技能?

一、理解大數(shù)據(jù)概念大數(shù)據(jù)測試工程師需要理解大數(shù)據(jù)的基本概念和原理,如分布式存儲、MapReduce、實時計算等。他們還需要了解如何處理大規(guī)模的...詳情>>

2023-10-14 23:43:03
為什么SpringBoot的 jar 可以直接運行?

一、JAR文件的結構與執(zhí)行方式Spring Boot的JAR包是Java Archive的縮寫,它是一種壓縮文件格式,可以將Java項目的類文件、資源文件以及依賴庫等...詳情>>

2023-10-14 23:01:49
站群服務器是什么?

站群服務器的含義與用途站群服務器主要用于支持站群,即由一組相互鏈接的網(wǎng)站組成的群體。這些網(wǎng)站通常由同一組織或個人擁有,并且經(jīng)常會互相鏈...詳情>>

2023-10-14 22:46:12
自編碼器是什么?

一、自編碼器原理自編碼器的設計靈感源于神經(jīng)科學中關于感知系統(tǒng)的認知原理,它的核心思想是將輸入數(shù)據(jù)經(jīng)過編碼過程,形成一個隱藏層的特征表示...詳情>>

2023-10-14 22:41:10
什么是云網(wǎng)融合?

一、云網(wǎng)融合的定義云網(wǎng)融合是指將云計算與網(wǎng)絡技術相結合,實現(xiàn)資源的共享、業(yè)務的協(xié)同,將網(wǎng)絡與云端服務深度融合,提供更靈活、高效、安全的...詳情>>

2023-10-14 22:31:47