您好,登錄后才能下訂單哦!
這篇文章主要講解了“RabbitMQ和Kafka有什么不同”,文中的講解內容簡單清晰,易于學習與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學習“RabbitMQ和Kafka有什么不同”吧!
RabbitMQ是一個分布式系統
**broker**:每個節點運行的服務程序,功能為維護該節點的隊列的增刪以及轉發隊列操作請求。
**master queue**:每個隊列都分為一個主隊列和若干個鏡像隊列。
**mirror queue**:鏡像隊列,作為master queue的備份。在master queue所在節點掛掉之后,系統把mirror queue提升為master queue,負責處理客戶端隊列操作請求。注意,mirror queue只做鏡像,設計目的不是為了承擔客戶端讀寫壓力。
如上圖所示,集群中有兩個節點,每個節點上有一個broker,每個broker負責本機上隊列的維護,并且borker之間可以互相通信。集群中有兩個隊列A和B,每個隊列都分為master queue和mirror queue(備份)。那么隊列上的生產消費怎么實現的呢?
如上圖有兩個consumer消費隊列A,這兩個consumer連在了集群的不同機器上。RabbitMQ集群中的任何一個節點都擁有集群上所有隊列的元信息,所以連接到集群中的任何一個節點都可以,主要區別在于有的consumer連在master queue所在節點,有的連在非master queue節點上。 因為mirror queue要和master queue保持一致,故需要同步機制,正因為一致性的限制,導致所有的讀寫操作都必須都操作在master queue上(想想,為啥讀也要從master queue中讀?和數據庫讀寫分離是不一樣的。),然后由master節點同步操作到mirror queue所在的節點。即使consumer連接到了非master queue節點,該consumer的操作也會被路由到master queue所在的節點上,這樣才能進行消費。
原理和消費一樣,如果連接到非 master queue 節點,則路由過去。
**不足** 由于master queue單節點,導致性能瓶頸,吞吐量受限。雖然為了提高性能,內部使用了Erlang這個語言實現,但是終究擺脫不了架構設計上的致命缺陷。
說實話,Kafka我覺得就是看到了RabbitMQ這個缺陷才設計出的一個改進版,改進的點就是:把一個隊列的單一master變成多個master,即一臺機器扛不住qps,那么我就用多臺機器扛qps,把一個隊列的流量均勻分散在多臺機器上不就可以了么?注意,多個master之間的數據沒有交集,即一條消息要么發送到這個master queue,要么發送到另外一個master queue。 這里面的每個master queue 在Kafka中叫做Partition,即一個分片。一個隊列有多個主分片,每個主分片又有若干副分片做備份,同步機制類似于RabbitMQ。
如上圖,我們省略了不同的queue,假設集群上只有一個queue(Kafka中叫Topic)。每個生產者隨機把消息發送到主分片上,之后主分片再同步給副分片。
隊列讀取的時候虛擬出一個Group的概念,一個Topic內部的消息,只會路由到同Group內的一個consumer上,同一個Group中的consumer消費的消息是不一樣的;Group之間共享一個Topic,看起來就是一個隊列的多個拷貝。所以,為了達到多個Group共享一個Topic數據,Kafka并不會像RabbitMQ那樣消息消費完畢立馬刪除,而是必須在后臺配置保存日期,即只保存最近一段時間的消息,超過這個時間的消息就會從磁盤刪除,這樣就保證了在一個時間段內,Topic數據對所有Group可見(這個特性使得Kafka非常適合做一個公司的數據總線)。隊列讀同樣是讀主分片,并且為了優化性能,消費者與主分片有一一的對應關系,如果消費者數目大于分片數,則存在某些消費者得不到消息。 由此可見,Kafka絕對是為了高吞吐量設計的,比如設置分片數為100,那么就有100臺機器去扛一個Topic的流量,當然比RabbitMQ的單機性能好。
感謝各位的閱讀,以上就是“RabbitMQ和Kafka有什么不同”的內容了,經過本文的學習后,相信大家對RabbitMQ和Kafka有什么不同這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是億速云,小編將為大家推送更多相關知識點的文章,歡迎關注!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。