您好,登錄后才能下訂單哦!
這篇文章主要講解了“Flink入門知識點有哪些”,文中的講解內容簡單清晰,易于學習與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學習“Flink入門知識點有哪些”吧!
在Flink的官網上,可以把官方文檔語言設置為中文,于是我們可以看到官方是這樣介紹的:
基于官網的一句話介紹,我們就可以聯想出很多東西。
這篇文章可以帶你簡單認識一下Flink的一些基礎概念,等你真正用到的時候就可以依據這篇文章來對Flink進行入門,現在Storm都被很多人給拋棄掉了,那么Flink優于Storm的地方有哪些呢?接下來我們一起來看看Flink吧。
Apache Flink 是一個框架和分布式處理引擎,用于在無邊界和有邊界數據流上進行有狀態的計算。
官方其實也有介紹,但對初學者來說不太好理解,我來幼兒園化一下。
大家學到Flink了,消息隊列肯定有用過吧?那你們是怎么用消息隊列的呢?Producer
生產數據,發給Broker
,Consumer
消費,完事。
在消費的時候,我們需要管什么Producer什么時候發消息嗎?不需要吧。反正來一條,我就處理一條,沒毛病吧。
這種沒有做任何處理的消息,默認就是無邊界的。
那有邊界就很好理解了:無邊界的基礎上加上條件,那就是有邊界的。加什么條件呢?比如我要加個時間:我要消費從8月8號到8月9號的數據,那就是有邊界的。
Apache Flink 是一個框架和分布式處理引擎,用于在無邊界和有邊界數據流上進行有狀態的計算。
什么是有狀態,什么是無狀態?
無狀態我們可以簡單認為:每次的執行都不依賴上一次或上N次的執行結果,每次的執行都是獨立的。
有狀態我們可以簡單認為:執行需要依賴上一次或上N次的執行結果,某次的執行需要依賴前面事件的處理結果。
可以簡單的認為:Flink本身就給我們提供了”存儲“的功能,而我們每次執行是可以依賴Flink的”存儲”的,所以它是有狀態的。
以上面的圖為例:Source
數據流有以下數字21,13,8,5,3,2,1,1
,然后在Flink
需要做累加操作(求和)
現在處理完2,1,1
了,所以累加的值是4
,現在Flink
把累積后的狀態4
已經存儲起來了(認為前面2,1,1
這幾個數字已經完全處理過了)。
程序一直往下走,處理了5,3
,現在累加的值是12
,但現在Flink
還沒來得及把12
存儲到最終的介質,此時系統掛掉了。
Flink重啟后會重新把系統恢復到累加的值是4
的狀態,所以5,3
得繼續計算一遍,程序繼續往下走。
看文章有的同學可能會認為:精確一次性指的不是某一段代碼只會執行一次,不會執行多次或不執行。這5
和3
這兩個數,你不是重復計算了嗎?怎么就精確一次了?
顯然,代碼只執行一次肯定是不可能的嘛。我們無法控制系統在哪一行代碼掛掉的,你要是在掛的時候,當前方法還沒執行完,你還是得重新執行該方法的。
所以,狀態只持久化一次到最終的存儲介質中(本地數據庫/HDFS),在Flink下就叫做exactly once
(計算的數據可能會重復(無法避免),但狀態在存儲介質上只會存儲一次)。
那么Flink
是在多長時間存儲一次的呢?這個是我們自己手動配置的。
我們是做完了業務規則才將offset
進行commit
的,checkponit
其實也是一樣的(等拉下來該條數據所有的流程走完,才進行真正的checkponit
)。
問題又來了,那checkpoint
是怎么知道拉下來的數據已經走完了呢?Flink
在流處理過程中插入了barrier
,每個環節處理到barrier
都會上報,等到sink
都上報了barrier
就說明這次checkpoint
已經走完了。
感謝各位的閱讀,以上就是“Flink入門知識點有哪些”的內容了,經過本文的學習后,相信大家對Flink入門知識點有哪些這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是億速云,小編將為大家推送更多相關知識點的文章,歡迎關注!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。