概述
Horizontal Pod Autoscaler(HPA,Pod水平自動(dòng)伸縮),根據(jù)平均 CPU 利用率、平均內(nèi)存利用率或你指定的任何其他自定義指標(biāo)自動(dòng)調(diào)整 Deployment 、ReplicaSet 或 StatefulSet 或其他類似資源,實(shí)現(xiàn)部署的自動(dòng)擴(kuò)展和縮減,讓部署的規(guī)模接近于實(shí)際服務(wù)的負(fù)載。HPA不適用于無法縮放的對(duì)象,例如DaemonSet。
官方文檔:https://kubernetes.io/zh-cn/docs/tasks/run-application/horizontal-pod-autoscale/
實(shí)際生產(chǎn)中,一般使用這四類指標(biāo):
Resource metrics——CPU核 和 內(nèi)存利用率指標(biāo)。
Pod metrics——例如網(wǎng)絡(luò)利用率和流量。
Object metrics——特定對(duì)象的指標(biāo),比如Ingress, 可以按每秒使用請(qǐng)求數(shù)來擴(kuò)展容器。
Custom metrics——自定義監(jiān)控,比如通過定義服務(wù)響應(yīng)時(shí)間,當(dāng)響應(yīng)時(shí)間達(dá)到一定指標(biāo)時(shí)自動(dòng)擴(kuò)容。
安裝 metrics-server
HAP 前提條件
默認(rèn)情況下,Horizontal Pod Autoscaler 控制器會(huì)從一系列的 API 中檢索度量值。集群管理員需要確保下述條件,以保證 HPA 控制器能夠訪問這些 API:
對(duì)于資源指標(biāo),將使用 metrics.k8s.io API,一般由 metrics-server 提供。它可以作為集群插件啟動(dòng)。
對(duì)于自定義指標(biāo),將使用 custom.metrics.k8s.io API。它由其他度量指標(biāo)方案廠商的“適配器(Adapter)” API 服務(wù)器提供。檢查你的指標(biāo)管道以查看是否有可用的 Kubernetes 指標(biāo)適配器。
對(duì)于外部指標(biāo),將使用 external.metrics.k8s.io API??赡苡缮厦娴淖远x指標(biāo)適配器提供。
Kubernetes Metrics Server:
Kubernetes Metrics Server 是 Cluster 的核心監(jiān)控?cái)?shù)據(jù)的聚合器,kubeadm 默認(rèn)是不部署的。
Metrics Server 供 Dashboard 等其他組件使用,是一個(gè)擴(kuò)展的 APIServer,依賴于 API Aggregator。所以,在安裝 Metrics Server 之前需要先在 kube-apiserver 中開啟 API Aggregator。
Metrics API 只可以查詢當(dāng)前的度量數(shù)據(jù),并不保存歷史數(shù)據(jù)。
Metrics API URI 為 /apis/metrics.k8s.io/,在 k8s.io/metrics 下維護(hù)。
必須部署 metrics-server 才能使用該 API,metrics-server 通過調(diào)用 kubelet Summary API 獲取數(shù)據(jù)。
開啟 API Aggregator
開始安裝 metrics-server
下載
修改
解決方法:在metrics-server中添加--kubelet-insecure-tls參數(shù)跳過證書校驗(yàn)
開始安裝
Horizontal Pod Autoscaler 工作原理
原理架構(gòu)圖
自動(dòng)檢測(cè)周期由 kube-controller-manager 的 --horizontal-pod-autoscaler-sync-period 參數(shù)設(shè)置(默認(rèn)間隔為 15 秒)。
metrics-server 提供 metrics.k8s.io API 為pod資源的使用提供支持。
15s/周期 -> 查詢metrics.k8s.io API -> 算法計(jì)算 -> 調(diào)用scale 調(diào)度 -> 特定的擴(kuò)縮容策略執(zhí)行。
HPA擴(kuò)縮容算法
從最基本的角度來看,Pod 水平自動(dòng)擴(kuò)縮控制器根據(jù)當(dāng)前指標(biāo)和期望指標(biāo)來計(jì)算擴(kuò)縮比例。
擴(kuò)容
如果計(jì)算出的擴(kuò)縮比例接近 1.0, 將會(huì)放棄本次擴(kuò)縮, 度量指標(biāo) / 期望指標(biāo)接近1.0。
縮容
冷卻/延遲: 如果延遲(冷卻)時(shí)間設(shè)置的太短,那么副本數(shù)量有可能跟以前一樣出現(xiàn)抖動(dòng)。默認(rèn)值是 5 分鐘(5m0s)--horizontal-pod-autoscaler-downscale-stabilization
特殊處理
丟失度量值:縮小時(shí)假設(shè)這些 Pod 消耗了目標(biāo)值的 100%, 在需要放大時(shí)假設(shè)這些 Pod 消耗了 0% 目標(biāo)值。這可以在一定程度上抑制擴(kuò)縮的幅度。
存在未就緒的pod的時(shí)候:我們保守地假設(shè)尚未就緒的 Pod 消耗了期望指標(biāo)的 0%,從而進(jìn)一步降低了擴(kuò)縮的幅度。
未就緒的 Pod 和缺少指標(biāo)的 Pod 考慮進(jìn)來再次計(jì)算使用率。如果新的比率與擴(kuò)縮方向相反,或者在容忍范圍內(nèi),則跳過擴(kuò)縮。否則,我們使用新的擴(kuò)縮比例。指定了多個(gè)指標(biāo), 那么會(huì)按照每個(gè)指標(biāo)分別計(jì)算擴(kuò)縮副本數(shù),取最大值進(jìn)行擴(kuò)縮。
HPA 對(duì)象定義
HPA對(duì)象默認(rèn)行為
示例演示
編排yaml
主要參數(shù)解釋如下:
scaleTargetRef:目標(biāo)作用對(duì)象,可以是Deployment、ReplicationController或ReplicaSet。
minReplicas和maxReplicas:Pod副本數(shù)量的最小值和最大值,系統(tǒng)將在這個(gè)范圍內(nèi)進(jìn)行自動(dòng)擴(kuò)縮容操作,并維持每個(gè)Pod的內(nèi)存使用率為40%,這個(gè)值就是上面設(shè)置的閾值averageUtilization。
metrics:目標(biāo)指標(biāo)值。在metrics中通過參數(shù)type定義指標(biāo)的類型;通過參數(shù)target定義相應(yīng)的指標(biāo)目標(biāo)值,系統(tǒng)將在指標(biāo)數(shù)據(jù)達(dá)到目標(biāo)值時(shí)(考慮容忍度的區(qū)間,見前面算法部分的說明)觸發(fā)擴(kuò)縮容操作。
對(duì)于CPU使用率,在target參數(shù)中設(shè)置averageUtilization定義目標(biāo)平均CPU使用率。
對(duì)于內(nèi)存資源,在target參數(shù)中設(shè)置AverageValue定義目標(biāo)平均內(nèi)存使用值。
執(zhí)行
使用 ab 工具進(jìn)行壓測(cè)
進(jìn)入apache官網(wǎng) 下載apache即可,或者直接通過yum安裝apache都行,這里選擇最簡(jiǎn)單的方式y(tǒng)um安裝
開始?jí)簻y(cè)
從上圖發(fā)現(xiàn)已經(jīng)實(shí)現(xiàn)了根據(jù)CPU 動(dòng)態(tài)擴(kuò)容了。