国产xxxx99真实实拍_久久不雅视频_高清韩国a级特黄毛片_嗯老师别我我受不了了小说

資訊專欄INFORMATION COLUMN

關(guān)于MQ的幾件小事（五）如何保證消息按順序執(zhí)行

h9911 / 2432人閱讀

摘要：一個對應(yīng)一個，但是里面進行了多線程消費，這樣也會造成消息消費順序錯誤。保證消息的消費順序拆分多個，每個一個，就是多一些而已，確實是麻煩點這樣也會造成吞吐量下降，可以在消費者內(nèi)部采用多線程的方式取消費。

1.為什么要保證順序

消息隊列中的若干消息如果是對同一個數(shù)據(jù)進行操作，這些操作具有前后的關(guān)系，必須要按前后的順序執(zhí)行，否則就會造成數(shù)據(jù)異常。舉例： 比如通過mysql binlog進行兩個數(shù)據(jù)庫的數(shù)據(jù)同步，由于對數(shù)據(jù)庫的數(shù)據(jù)操作是具有順序性的，如果操作順序搞反，就會造成不可估量的錯誤。比如數(shù)據(jù)庫對一條數(shù)據(jù)依次進行了 插入->更新->刪除操作，這個順序必須是這樣，如果在同步過程中，消息的順序變成了 刪除->插入->更新，那么原本應(yīng)該被刪除的數(shù)據(jù)，就沒有被刪除，造成數(shù)據(jù)的不一致問題。

2.出現(xiàn)順序錯亂的場景

（1）rabbitmq
①一個queue，有多個consumer去消費，這樣就會造成順序的錯誤，consumer從MQ里面讀取數(shù)據(jù)是有序的，但是每個consumer的執(zhí)行時間是不固定的，無法保證先讀到消息的consumer一定先完成操作，這樣就會出現(xiàn)消息并沒有按照順序執(zhí)行，造成數(shù)據(jù)順序錯誤。

②一個queue對應(yīng)一個consumer，但是consumer里面進行了多線程消費，這樣也會造成消息消費順序錯誤。

（2）kafka
①kafka一個topic，一個partition，一個consumer，但是consumer內(nèi)部進行多線程消費，這樣數(shù)據(jù)也會出現(xiàn)順序錯亂問題。

②具有順序的數(shù)據(jù)寫入到了不同的partition里面，不同的消費者去消費，但是每個consumer的執(zhí)行時間是不固定的，無法保證先讀到消息的consumer一定先完成操作，這樣就會出現(xiàn)消息并沒有按照順序執(zhí)行，造成數(shù)據(jù)順序錯誤。

3.保證消息的消費順序

（1）rabbitmq
①拆分多個queue，每個queue一個consumer，就是多一些queue而已，確實是麻煩點；這樣也會造成吞吐量下降，可以在消費者內(nèi)部采用多線程的方式取消費。

②或者就一個queue但是對應(yīng)一個consumer，然后這個consumer內(nèi)部用內(nèi)存隊列做排隊，然后分發(fā)給底層不同的worker來處理

（2）kafka
①確保同一個消息發(fā)送到同一個partition，一個topic，一個partition，一個consumer，內(nèi)部單線程消費。

②寫N個內(nèi)存queue，然后N個線程分別消費一個內(nèi)存queue即可

上一篇《如何防止數(shù)據(jù)隊列數(shù)據(jù)丟失》
下一篇《消息積壓在消息隊列里怎么辦》

文章版權(quán)歸作者所有，未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。

轉(zhuǎn)載請注明本文地址：http://m.specialneedsforspecialkids.com/yun/7262.html

相關(guān)文章

  • 關(guān)于MQ的幾件小事（七）如果讓你設(shè)計一個MQ，你怎么設(shè)計

    摘要：能不能支持數(shù)據(jù)丟失啊可以的，參考我們之前說的那個數(shù)據(jù)零丟失方案其實一個肯定是很復(fù)雜的，其實這是個開放題，就是看看你有沒有從架構(gòu)角度整體構(gòu)思和設(shè)計的思維以及能力。其實回答這類問題，說白了，起碼不求你看過那技術(shù)的源碼，起碼你大概知道那個技術(shù)的基本原理，核心組成部分，基本架構(gòu)構(gòu)成，然后參照一些開源的技術(shù)把一個系統(tǒng)設(shè)計出來的思路說一下就好 比如說這個消息隊列系統(tǒng)，我們來從以下幾個角度來考慮一下 （1...

    Vixb 評論0 收藏0

  • 關(guān)于MQ的幾件小事（六）消息積壓在消息隊列里怎么辦

    摘要：緊接著征用倍的機器來部署，每一批消費一個臨時的消息。這種做法相當于臨時將資源和資源擴大倍，以正常速度的倍來消費消息。解決方案這種情況下，實際上沒有什么消息擠壓，而是丟了大量的消息。 1.大量消息在mq里積壓了幾個小時了還沒解決 場景： 幾千萬條數(shù)據(jù)在MQ里積壓了七八個小時，從下午4點多，積壓到了晚上很晚，10點多，11點多。線上故障了，這個時候要不然就是修復(fù)consumer的問題，讓他恢復(fù)消...

    SwordFly 評論0 收藏0

  • 關(guān)于MQ的幾件小事（四）如何保證消息不丟失

    摘要：消費端弄丟了數(shù)據(jù)關(guān)閉自動提交，在自己處理完畢之后手動提交，這樣就不會丟失數(shù)據(jù)。弄丟了數(shù)據(jù)一般要求設(shè)置個參數(shù)來保證消息不丟失給設(shè)置參數(shù)這個值必須大于，表示要求每個必須至少有個副本。上一篇如何保證消息不重復(fù)消費下一篇如何保證消息按順序執(zhí)行 1.mq原則 數(shù)據(jù)不能多，也不能少，不能多是說消息不能重復(fù)消費，這個我們上一節(jié)已解決；不能少，就是說不能丟失數(shù)據(jù)。如果mq傳遞的是非常核心的消息，支撐核心的業(yè)...

    stackvoid 評論0 收藏0

  • 關(guān)于MQ的幾件小事（一）消息隊列的用途、優(yōu)缺點、技術(shù)選型

    摘要：數(shù)量對吞吐量的影響可以達到幾百幾千個的級別，吞吐量會有小幅度的下降。這是的一大優(yōu)勢，可在同等數(shù)量機器下支撐大量的從幾十個到幾百個的時候，吞吐量會大幅下降。下一篇如何保證消息隊列的高可用 1.為什么使用消息隊列？ （1）解耦：可以在多個系統(tǒng)之間進行解耦，將原本通過網(wǎng)絡(luò)之間的調(diào)用的方式改為使用MQ進行消息的異步通訊，只要該操作不是需要同步的，就可以改為使用MQ進行不同系統(tǒng)之間的聯(lián)系，這樣項目之間...

    xialong 評論0 收藏0

  • 關(guān)于redis的幾件小事(四)redis的過期策略以及內(nèi)存淘汰機制

    摘要：的過期策略是什么樣的采用了定期刪除惰性刪除的過期策略。定期刪除原理定期刪除指的是默認每隔就隨機抽取一些設(shè)置了過期時間的，檢測這些是否過期，如果過期了就將其刪掉。所有只會抽取一部分而不會全部檢查。 1.數(shù)據(jù)為什么會過期？ 首先，要明白redis是用來做數(shù)據(jù)緩存的，不是用來做數(shù)據(jù)存儲的(當然也可以當數(shù)據(jù)庫用)，所以數(shù)據(jù)時候過期的，過期的數(shù)據(jù)就不見了，過期主要有兩種情況， ①在設(shè)置緩存數(shù)據(jù)時制定了...

    AbnerMing 評論0 收藏0

發(fā)表評論

0條評論

最新活動
閱讀需要支付1元查看
<