前提・実現したいこと
他社製の監視ソフトが吐き出すCSVを監視してサーバーに送るプログラムを作ったのですが、もっとリアルタイム性を上げてほしいという要望に対応するための改修方法を検討しています。
監視ソフトの仕様が
- CSVのファイル名は作成日
- 日付が変わると新しいファイルが作られる(日単位のファイルになる)
- 計測対象が変わると保存するフォルダが変わる
- 計測対象の情報はCSV内には含まれない
- 計測周期は計測対象で変わる(大体4~30秒ぐらい)
となっています。
改修後は対象のフォルダを監視して、
- ファイルの更新を検知してサーバーにアップロードする
- せめて現在計測中(現在監視ソフトが更新中)のファイルだけでも特定する
というのが目的です。
とくに後者について、今は対象のフォルダ(カテゴリ―等で分かれて最大3階層)内を全部捜索して、更新日付が一番新しいものを特定しています。
当日中に複数回計測対象が変わるとフォルダ違いで同日のファイルが存在している場合もあるため、サーバーにファイルを送る処理のたびにこの処理を行っています。
どんどんファイルが増えていくとこの処理の速度が不安なので、最低限ここだけでもクリアしたいと思っています。
それでNode.jsモジュールのchokidarを使ってファイルの更新・追加が監視可能か、下記のようなサンプルを作ってみました。
手でファイルを更新・追加した時は即座に反応してログが出るのですが、監視ソフトが更新した場合はたまにしか反応しません。
テストした時の計測周期(CSVファイルが更新される周期)は12秒周期でしたが、chokidarが反応してログが出るのは2~4分に1回ぐらいの不定期ペースでした。
設定値を変える等して色々挑戦しているのですが解消せず、エラーが出ているわけではないので調べるのにも行き詰っている状態です。
監視ソフトがファイルを更新した場合にも反応するように変更することはできるでしょうか?
何かご存知の方がいらっしゃいましたら助けてください!
発生している問題・エラーメッセージ
フォルダ内のCSVファイルの監視が、
手動でファイルを更新・追加すると反応するのに、監視ソフトが更新した場合は2~4分に1回程度のペースでしか反応しない。
該当のソースコード
javascript
1const chokidar = require('chokidar'); 2var watcher = chokidar.watch((フォルダパス), {ignored: /[/\]./}); 3watcher.on('ready', ()=>{ 4 watcher.on('add', (path, stats) => { 5 console.log(path, stats); 6 }).on('change', (p, stats) => { 7 console.log(p, stats); 8 }).on('error', (error)=>{ 9 console.log("error=========================="); 10 console.log(error); // エラーログは全く出ていない 11 }) 12})
試したこと
該当のファイルは本当に更新されいてるか
監視ソフト側で測定通知があるたびにファイルを開いて確認しましたが、ちゃんとデータが入っていました。
プロパティから確認すると更新日時も変わっていました。
手でファイルを追加・更新したら反応するか
即座に反応しました。
ファイルが読めない可能性?
監視ソフトが編集権を握っているようですが、読取り専用では開けました。
実は発生しているイベントがchangeじゃないとか・・・
javascript
1// watcher.on('change', (path, stats) => { 2watcher.on('all', (stats, path) => {
でやってみましたが状況は変わりませんでした。
ポーリングをtrueにしたらどうなるか
javascript
1var watcher = chokidar.watch((フォルダパス), { 2 ignored: /[/\]./, 3 usePolling: true, 4 interval: 1000, 5 binaryInterval: 1000, 6});
計測周期は対象によって変わりますが4~30秒程度なので、1秒の設定で実験しました。
微妙なズレは発生しましたが、大体イメージ通りの挙動になりました。
ただREADME.mdに
On other platforms, the fs.watch-based implementation is the default, which avoids polling and keeps CPU usage down. Be advised that chokidar will initiate watchers recursively for everything within scope of the paths that have been specified, so be judicious about not wasting system resources by watching much more than needed.
と書いてあり、ポーリングを回避することでCPU使用率が下がるという事は、usePolling:true
にすると負荷が上がるのかなぁと思い、できればfalse
の状態で動く方法がないか模索しています。
(実際にusePolling:true
で動かすとCPU使用率は30%前後なのですが、全部の端末にアクセスできる環境ではなく、テストしたものよりもファイル数が多く古い端末もあるので警戒しています)
fs.watchを使ったらどうなるか(19/8/1追記)
上記で自分が引用した部分に
On other platforms, the fs.watch-based implementation is the default,
とあったのを完全に見落としてたので意味ない実験な気がしますが、chokidarを使わずfs.watch
を使ったらどうなるのかやってみました。
javascript
1var fs = require('fs'); 2var fsw = fs.watch('(パス)',{ 3 recursive: true 4}, function(type, filename){ 5 console.log(type + ' ' + filename); 6});
結果は
・更新されているファイルは2~4分に1回しかログがでない
・手動で更新したファイルのログは即座にでる
・たまーーーに(1時間に1回ぐらい)何にも変わってないフォルダのchangeログがでる
という結果でした。
補足情報(FW/ツールのバージョンなど)
Windows 7 または Windows10
Node.js 10.15.1
chokidar 3.0.2

バッドをするには、ログインかつ
こちらの条件を満たす必要があります。
2019/07/31 08:26