中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

Flink入門知識點有哪些

發布時間:2021-12-31 13:57:37 來源:億速云 閱讀:180 作者:iii 欄目:大數據

這篇文章主要講解了“Flink入門知識點有哪些”,文中的講解內容簡單清晰,易于學習與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學習“Flink入門知識點有哪些”吧!

什么是Flink?

在Flink的官網上,可以把官方文檔語言設置為中文,于是我們可以看到官方是這樣介紹的:

Flink入門知識點有哪些

基于官網的一句話介紹,我們就可以聯想出很多東西

這篇文章可以帶你簡單認識一下Flink的一些基礎概念,等你真正用到的時候就可以依據這篇文章來對Flink進行入門,現在Storm都被很多人給拋棄掉了,那么Flink優于Storm的地方有哪些呢?接下來我們一起來看看Flink吧。

什么是有邊界和無邊界?

Apache Flink 是一個框架和分布式處理引擎,用于在無邊界和有邊界數據流上進行有狀態的計算。

官方其實也有介紹,但對初學者來說不太好理解,我來幼兒園化一下。

大家學到Flink了,消息隊列肯定有用過吧?那你們是怎么用消息隊列的呢?Producer生產數據,發給BrokerConsumer消費,完事。

在消費的時候,我們需要管什么Producer什么時候發消息嗎?不需要吧。反正來一條,我就處理一條,沒毛病吧。

這種沒有做任何處理的消息,默認就是無邊界的。

那有邊界就很好理解了:無邊界的基礎上加上條件,那就是有邊界的。加什么條件呢?比如我要加個時間:我要消費從8月8號到8月9號的數據,那就是有邊界的。

Flink入門知識點有哪些

什么叫做有狀態?

Apache Flink 是一個框架和分布式處理引擎,用于在無邊界和有邊界數據流上進行有狀態的計算。

什么是有狀態,什么是無狀態?

無狀態我們可以簡單認為:每次的執行都不依賴上一次或上N次的執行結果,每次的執行都是獨立的。

有狀態我們可以簡單認為:執行需要依賴上一次或上N次的執行結果,某次的執行需要依賴前面事件的處理結果。

Flink入門知識點有哪些

可以簡單的認為:Flink本身就給我們提供了”存儲“的功能,而我們每次執行是可以依賴Flink的”存儲”的,所以它是有狀態的。

Flink入門知識點有哪些

Flink入門知識點有哪些

以上面的圖為例:Source數據流有以下數字21,13,8,5,3,2,1,1,然后在Flink需要做累加操作(求和)

現在處理完2,1,1了,所以累加的值是4,現在Flink把累積后的狀態4已經存儲起來了(認為前面2,1,1這幾個數字已經完全處理過了)。

程序一直往下走,處理了5,3,現在累加的值是12,但現在Flink還沒來得及把12存儲到最終的介質,此時系統掛掉了。

Flink重啟后會重新把系統恢復到累加的值是4的狀態,所以5,3得繼續計算一遍,程序繼續往下走。

看文章有的同學可能會認為:精確一次性指的不是某一段代碼只會執行一次,不會執行多次或不執行。這53這兩個數,你不是重復計算了嗎?怎么就精確一次了?

顯然,代碼只執行一次肯定是不可能的嘛。我們無法控制系統在哪一行代碼掛掉的,你要是在掛的時候,當前方法還沒執行完,你還是得重新執行該方法的。

所以,狀態只持久化一次最終的存儲介質中(本地數據庫/HDFS),在Flink下就叫做exactly once(計算的數據可能會重復(無法避免),但狀態在存儲介質上只會存儲一次)。

那么Flink是在多長時間存儲一次的呢?這個是我們自己手動配置的。

Flink入門知識點有哪些

我們是做完了業務規則才將offset進行commit的,checkponit其實也是一樣的(等拉下來該條數據所有的流程走完,才進行真正的checkponit)。

問題又來了,那checkpoint是怎么知道拉下來的數據已經走完了呢?Flink在流處理過程中插入了barrier,每個環節處理到barrier都會上報,等到sink都上報了barrier就說明這次checkpoint已經走完了。

Flink入門知識點有哪些

感謝各位的閱讀,以上就是“Flink入門知識點有哪些”的內容了,經過本文的學習后,相信大家對Flink入門知識點有哪些這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是億速云,小編將為大家推送更多相關知識點的文章,歡迎關注!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

高唐县| 仙居县| 元谋县| 秭归县| 乌拉特中旗| 察雅县| 沁阳市| 米泉市| 嵊州市| 社旗县| 嘉峪关市| 松阳县| 黔江区| 仁化县| 竹溪县| 梓潼县| 江津市| 沙坪坝区| 屯昌县| 锦屏县| 闽清县| 嵊州市| 栾城县| 灵台县| 雅江县| 宁安市| 尖扎县| 都昌县| 旅游| 马山县| 新乐市| 五指山市| 平湖市| 凤山县| 敦化市| 青川县| 青海省| 晋州市| 德惠市| 名山县| 吉隆县|