最美情侣中文字幕电影,在线麻豆精品传媒,在线网站高清黄,久久黄色视频

歡迎光臨散文網(wǎng) 會員登陸 & 注冊

Flink 時間窗口全解析?。ńㄗh收藏)

2023-07-27 10:36 作者:ingemar-  | 我要投稿

我們拋開計數(shù)窗口,先看時間窗口

對于時間窗口最主要的就是時間,比如1分鐘的窗口長度,那么這個1分鐘是如何定義呢?

Flink中針對時間有3種類型

  • EventTime[事件時間]

事件發(fā)生的時間,例如:點擊網(wǎng)站上的某個鏈接的時間

  • IngestionTime[攝入時間]

某個Flink節(jié)點的source operator接收到數(shù)據(jù)的時間,例如:某個source消費到kafka中的數(shù)據(jù)

  • ProcessingTime[處理時間]

某個Flink節(jié)點執(zhí)行某個operation的時間,例如:timeWindow接收到數(shù)據(jù)的時間


  • 事件時間 event time

事件真實發(fā)生的時間。Flink1.12版本起默認事件時間

  • 處理時間 process time

Flink處理start-log中這條數(shù)據(jù)時的設(shè)備時間。Flink1.12之前默認處理時間。

Flink1.12版本之前,如何指定為事件時間呢?


EventTime

在大數(shù)據(jù)領(lǐng)域,日志服務(wù)器生成的一條數(shù)據(jù)也可以稱為一個事件。EventTime是指在數(shù)據(jù)產(chǎn)生時該設(shè)備上對應(yīng)的時間,這個時間在進入Flink之前已經(jīng)存在于數(shù)據(jù)記錄中了。

以后數(shù)據(jù)被Flink處理數(shù)據(jù),如果使用EventTime作為時間標準,那么數(shù)據(jù)并不是按照EventTime的先后順序被處理的,由于數(shù)據(jù)可能產(chǎn)生在多個不同的日志服務(wù)器,然后通常是再將數(shù)據(jù)寫入到分布性消息中間件,然后被被Flink拉取進行處理時,處理的實際時間相對于數(shù)據(jù)產(chǎn)生的實際肯定有一定的延遲,并且EventTime可能也是亂序的。

那么為什么還要使用EventTime呢?

是因為使用EventTime時,F(xiàn)link程序可以處理亂序事件和延遲數(shù)據(jù)。并且最重要的功能就是可以統(tǒng)計在數(shù)據(jù)產(chǎn)生時,對應(yīng)時間的數(shù)據(jù)指標。

總之,使用EventTime的優(yōu)勢是結(jié)果的可預測性,缺點是緩存較大,增加了延遲,且調(diào)試和定位問題更復雜。


ProcessingTime


ProcessingTime是指事件數(shù)據(jù)被Operator處理時所在機器的系統(tǒng)時間,它提供了最好的性能和最低的延遲。

但是,F(xiàn)link是一個在分布式的計算框架,數(shù)據(jù)從產(chǎn)生到被處理會有一定的延遲(例如從消息隊列拉取數(shù)據(jù)到Source,Source再到處理的Operator會有一定的延遲),所以ProcessingTime無法精準的體現(xiàn)出數(shù)據(jù)在產(chǎn)生的那個時刻的變化情況。


IngestionTime


IngestionTime指的是事件數(shù)據(jù)進入到Flink的時間。每條數(shù)據(jù)的IngestionTime就是進入到SourceOperator時所在機器的系統(tǒng)時間。比如Flink從Kafka消息中間件消費數(shù)據(jù),每一條數(shù)據(jù)的IngestionTime就是FlinkKafkaConsumer拉取數(shù)據(jù)進入到TaskManager對應(yīng)的時間。

IngestionTime介于EventTime和ProcessingTime之間,與EventTime相比,IngestionTime程序無法處理任何無序事件或延遲數(shù)據(jù),并且程序不必指定如何生成水,F(xiàn)link會自動分配時間戳和自動生成水位線。


Flink 時間窗口全解析?。ńㄗh收藏)的評論 (共 條)

分享到微博請遵守國家法律
南漳县| 普格县| 富蕴县| 板桥市| 嵊州市| 保德县| 沾化县| 汝州市| 岚皋县| 从江县| 若尔盖县| 绥宁县| 南城县| 乐至县| 封开县| 平阴县| 罗田县| 长丰县| 巩义市| 黑龙江省| 睢宁县| 池州市| 安庆市| 霍山县| 湖口县| 彰化市| 望城县| 滦平县| 临沂市| 栾城县| 紫金县| 右玉县| 成都市| 海林市| 昌平区| 潍坊市| 辽阳市| 桃源县| 资溪县| 泽普县| 红原县|