中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

Kafka的消息記錄留存策略及配置是怎樣的

發布時間:2021-12-15 10:47:33 來源:億速云 閱讀:147 作者:柒染 欄目:大數據

本篇文章為大家展示了Kafka的消息記錄留存策略及配置是怎樣的,內容簡明扼要并且容易理解,絕對能使你眼前一亮,通過這篇文章的詳細介紹希望你能有所收獲。

broker中的幾個重要配置項

  • log.retention.check.interval.ms

  • log.retention.hours

  • log.segment.bytes

  • log.roll.hours

消息記錄留存執行基本邏輯

  • kafka的消息存放在segment文件中

  • kafka處理過期數據的操作對象是segment,處理方式為壓縮或刪除,或壓縮與刪除聯合

  1. 寫入數據

  • 1.1 當前partition收到producer第一條要記錄的消息, 如果沒有segment,則kafka會新建segment

  • 1.2 檢查要寫入的segment最后一條插入數據的時間戳: 如果大小大于log.segment.bytes配置的大小,則不再寫入,并創建新的segment,并將寫入游標指向新建的segment

  • 1.3 檢查要寫入的segment文件的大小: 如果segment的創建時間距當前時間大于log.roll.hours配置的時間,則不再寫入,并創建新的segment,并將寫入游標指向新建的segment

  • 1.4 寫入數據到segment文件

  1. 定時檢查并處理過期segment文件

  • 2.1 kafka根據log.retention.check.interval.ms配置項發起定時任務: 定時檢查所有的segment

  • 2.2 檢查segment是否符合執行過期處理的條件,如果segment最近時間戳距現在時間大于log.retention.hours配置時間,則會刪除該segment文件

上述內容就是Kafka的消息記錄留存策略及配置是怎樣的,你們學到知識或技能了嗎?如果還想學到更多技能或者豐富自己的知識儲備,歡迎關注億速云行業資訊頻道。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

吉隆县| 靖江市| 石屏县| 绵竹市| 随州市| 沙洋县| 乐清市| 玉树县| 韩城市| 石城县| 黄陵县| 铜陵市| 万宁市| 长乐市| 上思县| 锦州市| 平和县| 济源市| 叙永县| 双桥区| 色达县| 仁怀市| 长武县| 伊吾县| 昔阳县| 敦化市| 松溪县| 凉城县| 南开区| 横山县| 毕节市| 内江市| 晋中市| 白水县| 上虞市| 甘德县| 恩施市| 搜索| 谢通门县| 湖南省| 道真|