用Partition函數怎么實現Hive動態分區

這篇文章主要講解了“用Partition函數怎么實現Hive動態分區”，文中的講解內容簡單清晰，易于學習與理解，下面請大家跟著小編的思路慢慢深入，一起來研究和學習“用Partition函數怎么實現Hive動態分區”吧！

一、前段時間因為導表需求（從一張表中查找出數據，按日期分區overwrite 到指定分區表中），在Hive里面研究了一下自動分區。

步驟：

         1、建好所需分區表

         2、設置分區參數

set hive.exec.dynamic.partition=true;(可通過這個語句查看：set hive.exec.dynamic.partition;) 
set hive.exec.dynamic.partition.mode=nonstrict; 
SET hive.exec.max.dynamic.partitions=100000;(如果自動分區數大于這個參數，將會報錯)
SET hive.exec.max.dynamic.partitions.pernode=100000;

         3、書寫代碼（特別注意：日期字段一定要放在末尾），例如：

INSERT OVERWRITE TABLE dw_stage.ds_info_msg partition(cal_dt)
select id        
       ,...
       ,pv
       ,0  uv
       ,cal_dt
from   dw_stage.tiny_info_msg

二、如果要在partition字段用函數處理也可通過通過這種方式實現；例如：

set hive.exec.dynamic.partition=true;
set hive.exec.dynamic.partition.mode=nostrick;
INSERT OVERWRITE TABLE dw_stage.ds_info_msg partition(cal_dt)
SELECT id    
       ,...
       ,pv
       ,date_sub('2014-03-23',7) cal_dt
FROM   dw_stage.tiny_info_msg07;

感謝各位的閱讀，以上就是“用Partition函數怎么實現Hive動態分區”的內容了，經過本文的學習后，相信大家對用Partition函數怎么實現Hive動態分區這一問題有了更深刻的體會，具體使用情況還需要大家實踐驗證。這里是億速云，小編將為大家推送更多相關知識點的文章，歡迎關注！