Kettle：Oracle多表格批量同步數據=》mysql

Oracle 多表格批量同步數據=》MYSQL

場景

多張Oracle表格，通過輪詢自動同步數據到mysql。

避免每個Oracle表格數據=》mysql都做一個轉換，產生大量轉換，難以管理和調整。

主要通過kettle變量，循環，字段名自動匹配，以及Oracle、mysql數據字典來實現。

初步完成Oracle表格=》mysql的初始化同步，后續增加增量同步，DDL同步，異常處理操作。

基本步驟

1. 在mysql里查找test庫下有哪些表格，輸出到結果記錄

2. 從結果記錄里面每次取一行，設置變量

3. 針對每次使用的變量值，去oracle數據源里生成對應的表輸入（通過變量生成）

4. 把變量賦給表輸出組件的表名

5. 表輸出其他內容不做制定，因為表名和字段都和源端oracle是一樣的

6. 針對每個“輸出到結果記錄”做循環，插入每個oracle表格數據到mysql

總體流程

步驟1：Tables in mysql（Job）

步驟2：insert into mysql（Job）

步驟2.1 set tablename（tranfomation）

步驟2.2：insert data into mysql（tranfomation）

后續問題：

l    如何做增量的數據遷移

1.        針對oracle這端有時間字段的表格

2.        記錄每次遷移的系統時間

3.        增量時間是》上次系統時間 and 《本次系統時間

每張表格時間字段名字可能不一樣

所以要維護一張表格時間字段記錄（表名，時間字段名）

4.        每次生成表輸入時，也參照生成表名變量的方式，獲取時間字段名，用在表輸入的sql里

5.        表輸出這端，會復雜一些，包括刪除、插入、更新等等操作

l    無時間字段或流水號的表格同步

l   如何做DDL同步：

1.       獲取Oracle和mysql的數據字典

2.       比較表名和字段名

3.       比較字段數據類型

4.       注意數據類型映射（如oracle的varchar2《=》MySQL的varchar，oracle的data《=》MySQL的timestamp）

5.       Mysql端的表格和字段同步