MysqlのLoad Data INFILEで、不要なデータを除外したいと考えています。
そもそもLOAD DATA INFILE内でのWhere区で出来るような処理は可能なのでしょうか。
不可である場合の良い手法があれば、ご教授ください。
前提:
該当テーブルは、ユーザが参照するテーブル(selectのみ)
テーブルへの更新は、外部からの日次1回IFされ、追加更新を行っていく。(削除なし)
Load Data内で除外できない場合は、手法的には以下3つを考えてます。
1.中間テーブルに読み込ませ、削除後に本テーブルに入れる
2.本テーブルに入れ、Delete
3.本テーブルにLoadする時に、意図的にキー重複状態にし、上書き更新をさせる。
※ゴミデータが1行残るが、ユーザからは参照されない。
なお、削除件数が多量にあるため、(連携データの5割以上は削除対象となりえるデータ)
analyze もしくはoptimize が自動動作もしくは、必要になりそうな処理は
極力避けたほうが良いのかなと思ってます。
そのため、2は当然、3もreplace構文を利用しているため、1が影響的には低めなのかなと思ってます。
根本解決としては、IFの大本から直してもらうのが筋なのですが、
しばらく修正されないようなので、対応を試みています。
Mysqlのバージョンは、5.7.22です。
Load方法は以下のような形です。
SQL
1LOAD DATA INFILE '/tmp/read.csv' REPLACE INTO TABLE abc 2 FIELDS TERMINATED BY ',' ENCLOSED BY '"' LINES TERMINATED BY '\r\n' IGNORE 1 LINES 3(@pri_cd,@eigyo_ymd,@from_hm,@to_hm) 4SET 5 pri_cd = @pri_cd, 6 eigyo_ymd = if(@eigyo_ymd ='',0,@eigyo_ymd), 7 from_hm= if(@from_hm='',0,@from_hm), 8 to_hm= if(@to_hm='',0,@to_hm);
回答1件
あなたの回答
tips
プレビュー