久久精品国产亚洲高清|精品日韩中文乱码在线|亚洲va中文字幕无码久|伊人久久综合狼伊人久久|亚洲不卡av不卡一区二区|精品久久久久久久蜜臀AV|国产精品19久久久久久不卡|国产男女猛烈视频在线观看麻豆

千鋒教育-做有情懷、有良心、有品質(zhì)的職業(yè)教育機(jī)構(gòu)

手機(jī)站
千鋒教育

千鋒學(xué)習(xí)站 | 隨時隨地免費學(xué)

千鋒教育

掃一掃進(jìn)入千鋒手機(jī)站

領(lǐng)取全套視頻
千鋒教育

關(guān)注千鋒學(xué)習(xí)站小程序
隨時隨地免費學(xué)習(xí)課程

當(dāng)前位置:首頁  >  技術(shù)干貨  > 使用RocketMQ實現(xiàn)消息順序消費

使用RocketMQ實現(xiàn)消息順序消費

來源:千鋒教育
發(fā)布人:syq
時間: 2022-12-30 10:19:07 1672366747

  消息的順序消費在很多交易型的業(yè)務(wù)場景中都會被要求實現(xiàn),而且,消息隊列的順序消費解決方案在很多互聯(lián)網(wǎng)公司的面試中經(jīng)常會被問到。

  在使用了多個消息隊列后發(fā)現(xiàn),雖然每個消息隊列都有各自的順序消費解決方案,但是RocketMQ經(jīng)過了多年電商的洗禮,其功能性的要求,已經(jīng)設(shè)計的非常全面。這樣的全面可以通過RocketMQ消息模型的架構(gòu)設(shè)計得以體現(xiàn)。我們看看RocketMQ是怎么解決消息的順序消費。

使用RocketMQ

  一、RocketMQ的消息模型

  1.技術(shù)架構(gòu)

32

  RocketMQ架構(gòu)上主要分為四部分,如上圖所示:

  NameServer:NameServer是一個非常簡單的Topic路由注冊中心,其角色類似Dubbo中的zookeeper,支持Broker的動態(tài)注冊與發(fā)現(xiàn)。主要包括兩個功能:Broker管理,NameServer接受Broker集群的注冊信息并且保存下來作為路由信息的基本數(shù)據(jù)。然后提供心跳檢測機(jī)制,檢查Broker是否還存活;路由信息管理,每個NameServer將保存關(guān)于Broker集群的整個路由信息和用于客戶端查詢的隊列信息。然后Producer和Conumser通過NameServer就可以知道整個Broker集群的路由信息,從而進(jìn)行消息的投遞和消費。NameServer通常也是集群的方式部署,各實例間相互不進(jìn)行信息通訊。Broker是向每一臺NameServer注冊自己的路由信息,所以每一個NameServer實例上面都保存一份完整的路由信息。當(dāng)某個NameServer因某種原因下線了,Broker仍然可以向其它NameServer同步其路由信息,Producer,Consumer仍然可以動態(tài)感知Broker的路由的信息。

  Producer:消息的發(fā)布者,支持分布式集群方式部署。消息發(fā)布者通過消息隊列的負(fù)載均衡模塊選擇相應(yīng)的Broker集群進(jìn)行消息投遞,投遞的過程低延遲并且支持快速失敗。

  Consumer:消息的消費者,支持分布式集群方式部署。RocketMQ同時支持push推和pull拉的兩種消息消費模式。消息消費者也支持集群和廣播兩種消費方式,同時提供了實時消息的訂閱機(jī)制,滿足大多數(shù)用戶的需求。

  BrokerServer:Broker主要負(fù)責(zé)消息的存儲、投遞和查詢以及服務(wù)高可用保證,為了實現(xiàn)這些功能,Broker包含了以下幾個重要子模塊。

  Remoting Module:整個Broker的實體,負(fù)責(zé)處理來自clients端的請求。

  Client Manager:負(fù)責(zé)管理客戶端(Producer/Consumer)和維護(hù)Consumer的Topic訂閱信息。

  Store Service:提供方便簡單的API接口處理消息存儲到物理硬盤和查詢功能。

  HA Service:高可用服務(wù),提供Master Broker 和 Slave Broker之間的數(shù)據(jù)同步功能。

  Index Service:根據(jù)特定的Message key對投遞到Broker的消息進(jìn)行索引服務(wù),以提供消息的快速查詢。

32.2

  2. 部署架構(gòu)

33

  RocketMQ 網(wǎng)絡(luò)部署特點

  NameServer是一個幾乎無狀態(tài)節(jié)點,可集群部署,節(jié)點之間無任何信息同步。

  Broker部署相對復(fù)雜,Broker分為Master與Slave,一個Master可以對應(yīng)多個Slave,但是一個Slave只能對應(yīng)一個Master,Master與Slave 的對應(yīng)關(guān)系通過指定相同的BrokerName,不同的BrokerId 來定義,BrokerId為0表示Master,非0表示Slave。Master也可以部署多個。每個Broker與NameServer集群中的所有節(jié)點建立長連接,定時注冊Topic信息到所有NameServer。注意:當(dāng)前RocketMQ版本在部署架構(gòu)上支持一Master多Slave,但只有BrokerId=1的從服務(wù)器才會參與消息的讀負(fù)載。

  Producer與NameServer集群中的其中一個節(jié)點(隨機(jī)選擇)建立長連接,定期從NameServer獲取Topic路由信息,并向提供Topic 服務(wù)的Master建立長連接,且定時向Master發(fā)送信息。Producer完全無狀態(tài),可集群部署。

  Consumer與NameServer集群中的其中一個節(jié)點(隨機(jī)選擇)建立長連接,定期從NameServer獲取Topic路由信息,并向提供Topic服務(wù)的Master、Slave建立長連接,且定時向Master、Slave發(fā)送信息。Consumer既可以從Master訂閱消息,也可以從Slave訂閱消息,消費者在向Master拉取消息時,Master服務(wù)器會根據(jù)拉取偏移量與最大偏移量的距離(判斷是否讀老消息,產(chǎn)生讀I/O),以及從服務(wù)器是否可讀等因素建議下一次是從Master還是Slave拉取。

  結(jié)合部署架構(gòu)圖,描述集群工作流程:

  啟動NameServer,NameServer起來后監(jiān)聽端口,等待Broker、Producer、Consumer連上來,相當(dāng)于一個路由控制中心。

  Broker啟動,跟所有的NameServer保持長連接,定時發(fā)送心跳包。心跳包中包含當(dāng)前Broker信息(IP+端口等)以及存儲所有Topic信息。注冊成功后,NameServer集群中就有Topic跟Broker的映射關(guān)系。

  收發(fā)消息前,先創(chuàng)建Topic,創(chuàng)建Topic時需要指定該Topic要存儲在哪些Broker上,也可以在發(fā)送消息時自動創(chuàng)建Topic。

  Producer發(fā)送消息,啟動時先跟NameServer集群中的其中一臺建立長連接,并從NameServer中獲取當(dāng)前發(fā)送的Topic存在哪些Broker上,輪詢從隊列列表中選擇一個隊列,然后與隊列所在的Broker建立長連接從而向Broker發(fā)消息。

  Consumer跟Producer類似,跟其中一臺NameServer建立長連接,獲取當(dāng)前訂閱Topic存在哪些Broker上,然后直接跟Broker建立連接通道,開始消費消息。

  二、順序消息的應(yīng)用場景

  順序消費的應(yīng)用場景有很多,無論是在面試,或是實際生產(chǎn)環(huán)境中要解決順序消費問題,都需要對消息隊列的應(yīng)用場景有一定的理解。

  1.AIOT中消息的順序消費

  比如有這么一個物聯(lián)網(wǎng)的應(yīng)用場景,IOT中的設(shè)備在初始化時需要按順序接收這樣的消息:

  操作1:設(shè)置設(shè)備名稱

  操作2:設(shè)置設(shè)備的網(wǎng)絡(luò)

  操作3:重啟設(shè)備使配置生效

  如果這個順序顛倒了,可能就沒有辦法讓設(shè)備的配置生效,因為只有重啟設(shè)備才能讓配置生效,但重啟的消息卻在設(shè)置設(shè)備消息之前被消費。

  2.用戶服務(wù)中的順序消費

  應(yīng)用為了提高用戶粘合度,往往通過積分制度提供用戶活躍度。比如接下來有這一系列的場景:

  操作1:新注冊用戶,將用戶積分設(shè)置為10分。

  操作2:獎勵行為,比如用戶完善了個人信息,則積分+5分。

  操作3:懲罰行為,比如用戶發(fā)表違規(guī)言論,則積分-3分。

  如果上述的操作是順序進(jìn)行的,則用戶積分為12分。如果上述操作的步驟順序發(fā)生了變化,比如消費者先消費了操作2的消息,再消費操作1和3的消息,則分?jǐn)?shù)變?yōu)?分,此時就出現(xiàn)了因為亂序消費導(dǎo)致的錯誤結(jié)果。

  三、如何實現(xiàn)順序消息

  順序消息要求消費者消費消息的順序按照發(fā)送者發(fā)送消息的順序執(zhí)行。RocketMQ中實現(xiàn)的消息順序有兩個維度,分別是局部有序和全局有序。

  1.局部有序

34

  局部消息指的是消費者消費某個topic的某個隊列中的消息是順序的。在圖上的八個隊列中,消費者可以隨機(jī)的消費這8個隊列,也就是說消費者不能保證消費隊列的順序。但是消費者在消費某一個隊列的時候,一定可以進(jìn)行順序消費。也就是說,在消費者兩次訪問一個隊列中的消息時,一定是按照從左到右的順序依次消費消息。所以針對于某一個隊列來講,消費是順序的。但如果把問題定位在整個隊列中時,不同的消息在不同的隊列中,又不能保證消息的有序性,不如消息A到了隊列2,消息B到了隊列1,消費者先消費了隊列1再消費隊列2,就不能保證有序性。但如果消息C隨著消息B進(jìn)入隊列1,那么消息C一定是在消息B之后被消費。

  消費者使用MessageListenerOrderly類做消息監(jiān)聽,實現(xiàn)局部順序。

35

  2.全局有序

  消費者消費全部消息都是順序的,只能通過一個某個topic只有一個隊列才能實現(xiàn),這種應(yīng)用場景較少,且性能較差。

36

  3.亂序消費

  消費者消費消息不需要關(guān)注消息的順序。消費者使用MessageListenerConcurrently類做消息監(jiān)聽。

37

tags:
聲明:本站稿件版權(quán)均屬千鋒教育所有,未經(jīng)許可不得擅自轉(zhuǎn)載。
10年以上業(yè)內(nèi)強(qiáng)師集結(jié),手把手帶你蛻變精英
請您保持通訊暢通,專屬學(xué)習(xí)老師24小時內(nèi)將與您1V1溝通
免費領(lǐng)取
今日已有369人領(lǐng)取成功
劉同學(xué) 138****2860 剛剛成功領(lǐng)取
王同學(xué) 131****2015 剛剛成功領(lǐng)取
張同學(xué) 133****4652 剛剛成功領(lǐng)取
李同學(xué) 135****8607 剛剛成功領(lǐng)取
楊同學(xué) 132****5667 剛剛成功領(lǐng)取
岳同學(xué) 134****6652 剛剛成功領(lǐng)取
梁同學(xué) 157****2950 剛剛成功領(lǐng)取
劉同學(xué) 189****1015 剛剛成功領(lǐng)取
張同學(xué) 155****4678 剛剛成功領(lǐng)取
鄒同學(xué) 139****2907 剛剛成功領(lǐng)取
董同學(xué) 138****2867 剛剛成功領(lǐng)取
周同學(xué) 136****3602 剛剛成功領(lǐng)取
相關(guān)推薦HOT
為什么SpringBoot的 jar 可以直接運(yùn)行?

一、JAR文件的結(jié)構(gòu)與執(zhí)行方式Spring Boot的JAR包是Java Archive的縮寫,它是一種壓縮文件格式,可以將Java項目的類文件、資源文件以及依賴庫等...詳情>>

2023-10-14 23:01:49
站群服務(wù)器是什么?

站群服務(wù)器的含義與用途站群服務(wù)器主要用于支持站群,即由一組相互鏈接的網(wǎng)站組成的群體。這些網(wǎng)站通常由同一組織或個人擁有,并且經(jīng)常會互相鏈...詳情>>

2023-10-14 22:46:12
自編碼器是什么?

一、自編碼器原理自編碼器的設(shè)計靈感源于神經(jīng)科學(xué)中關(guān)于感知系統(tǒng)的認(rèn)知原理,它的核心思想是將輸入數(shù)據(jù)經(jīng)過編碼過程,形成一個隱藏層的特征表示...詳情>>

2023-10-14 22:41:10
什么是云網(wǎng)融合?

一、云網(wǎng)融合的定義云網(wǎng)融合是指將云計算與網(wǎng)絡(luò)技術(shù)相結(jié)合,實現(xiàn)資源的共享、業(yè)務(wù)的協(xié)同,將網(wǎng)絡(luò)與云端服務(wù)深度融合,提供更靈活、高效、安全的...詳情>>

2023-10-14 22:31:47
什么是setnx、Redlock、Redisson?

一、setnxsetnx是Redis中的一個命令,用于將鍵值對(key-value)設(shè)置到Redis數(shù)據(jù)庫中。其中,setnx表示”Set if Not Exists”,即當(dāng)...詳情>>

2023-10-14 22:22:53