最美情侣中文字幕电影,在线麻豆精品传媒,在线网站高清黄,久久黄色视频

歡迎光臨散文網(wǎng) 會員登陸 & 注冊

基于SQL和DSL的WordCount經(jīng)典案例編程實戰(zhàn)(附代碼)

2023-03-15 16:03 作者:ingemar-  | 我要投稿

SparkSQL WordCount 基于DSL編程步驟

使用SparkSession加載文本數(shù)據(jù),封裝到Dataset/DataFrame中,調(diào)用API函數(shù)處理分析數(shù)據(jù)(類似RDD中API函數(shù),如flatMap、map、filter等),編程步驟:

第一步、構(gòu)建SparkSession實例對象,設(shè)置應(yīng)用名稱和運行本地模式;

第二步、讀取HDFS上文本文件數(shù)據(jù);

第三步、使用explode將單列擴展成多行,比如select explode(subordinates) from employees;

SparkSQL WordCount 基于SQL編程編程步驟

也可以實現(xiàn)類似HiveQL方式進行詞頻統(tǒng)計,直接對單詞分組group by,再進行count即可,步驟如下:

第一步、構(gòu)建SparkSession對象,加載文件數(shù)據(jù),分割每行數(shù)據(jù)為單詞;

第二步、將DataFrame/Dataset注冊為臨時視圖(Spark 1.x中為臨時表);

第三步、編寫SQL語句,使用SparkSession執(zhí)行獲取結(jié)果;

第四步、控制臺打印結(jié)果數(shù)據(jù)和關(guān)閉SparkSession;


完整代碼


代碼實現(xiàn):通過RDD轉(zhuǎn)換為DF,通過SQL和DSL分別實現(xiàn)WordCount

代碼實現(xiàn):通過explode函數(shù)完成統(tǒng)計操作:?DSL? ?SQL? 以及?DSL+SQL混用




基于SQL和DSL的WordCount經(jīng)典案例編程實戰(zhàn)(附代碼)的評論 (共 條)

分享到微博請遵守國家法律
昌平区| 彝良县| 云浮市| 潜江市| 鲁山县| 荔波县| 孟村| 溧水县| 舞钢市| 文安县| 峨眉山市| 保德县| 于田县| 五大连池市| 通道| 富阳市| 灵宝市| 华坪县| 建瓯市| 都匀市| 桂阳县| 洱源县| 阿拉善盟| 崇州市| 施甸县| 南阳市| 关岭| 楚雄市| 大安市| 青阳县| 湖北省| 建德市| 达日县| 松桃| 敦煌市| 海原县| 和平县| 张家港市| 当涂县| 新邵县| 灵石县|