中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

mysql怎么保證消息的順序性

發布時間:2022-04-28 15:51:26 來源:億速云 閱讀:161 作者:iii 欄目:大數據

本篇內容介紹了“mysql怎么保證消息的順序性”的有關知識,在實際案例的操作過程中,不少人都會遇到這樣的困境,接下來就讓小編帶領大家學習一下如何處理這些情況吧!希望大家仔細閱讀,能夠學有所成!

我舉個例子,我們以前做過一個 mysql binlog 同步的系統,壓力還是非常大的,日同步數據要達到上億,就是說數據從一個 mysql 庫原封不動地同步到另一個 mysql 庫里面去(mysql -> mysql)。常見的一點在于說比如大數據 team,就需要同步一個 mysql 庫過來,對公司的業務系統的數據做各種復雜的操作。

你在 mysql 里增刪改一條數據,對應出來了增刪改 3 條 binlog 日志,接著這三條 binlog 發送到 MQ 里面,再消費出來依次執行,起碼得保證人家是按照順序來的吧?不然本來是:增加、修改、刪除;你楞是換了順序給執行成刪除、修改、增加,不全錯了么。

本來這個數據同步過來,應該最后這個數據被刪除了;結果你搞錯了這個順序,最后這個數據保留下來了,數據同步就出錯了。

先看看順序會錯亂的倆場景:

  • RabbitMQ:一個 queue,多個 consumer。比如,生產者向 RabbitMQ 里發送了三條數據,順序依次是 data1/data2/data3,壓入的是 RabbitMQ 的一個內存隊列。有三個消費者分別從 MQ 中消費這三條數據中的一條,結果消費者2先執行完操作,把 data2 存入數據庫,然后是 data1/data3。這不明顯亂了。

mysql怎么保證消息的順序性

  • Kafka:比如說我們建了一個 topic,有三個 partition。生產者在寫的時候,其實可以指定一個 key,比如說我們指定了某個訂單 id 作為 key,那么這個訂單相關的數據,一定會被分發到同一個 partition 中去,而且這個 partition 中的數據一定是有順序的。
    消費者從 partition 中取出來數據的時候,也一定是有順序的。到這里,順序還是 ok 的,沒有錯亂。接著,我們在消費者里可能會搞多個線程來并發處理消息。因為如果消費者是單線程消費處理,而處理比較耗時的話,比如處理一條消息耗時幾十 ms,那么 1 秒鐘只能處理幾十條消息,這吞吐量太低了。而多個線程并發跑的話,順序可能就亂掉了。

mysql怎么保證消息的順序性

解決方案  

RabbitMQ
 

拆分多個 queue,每個 queue 一個 consumer,就是多一些 queue 而已,確實是麻煩點;或者就一個 queue 但是對應一個 consumer,然后這個 consumer 內部用內存隊列做排隊,然后分發給底層不同的 worker 來處理。 

mysql怎么保證消息的順序性

Kafka  

  • 一個 topic,一個 partition,一個 consumer,內部單線程消費,單線程吞吐量太低,一般不會用這個。

  • 寫 N 個內存 queue,具有相同 key 的數據都到同一個內存 queue;然后對于 N 個線程,每個線程分別消費一個內存 queue 即可,這樣就能保證順序性。

mysql怎么保證消息的順序性

“mysql怎么保證消息的順序性”的內容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業相關的知識可以關注億速云網站,小編將為大家輸出更多高質量的實用文章!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

眉山市| 湘潭市| 绵阳市| 柳河县| 临朐县| 确山县| 汕头市| 潜山县| 闸北区| 墨竹工卡县| 武陟县| 灯塔市| 临武县| 两当县| 望奎县| 加查县| 新巴尔虎左旗| 托克托县| 武夷山市| 山东| 嵊泗县| 驻马店市| 黔西县| 井冈山市| 衡山县| 乐昌市| 福州市| 辰溪县| 上栗县| 临高县| 澄迈县| 嘉鱼县| 青川县| 扶沟县| 南江县| 登封市| 榆树市| 万年县| 兰溪市| 普安县| 达拉特旗|