質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.30%
Node.js

Node.jsとはGoogleのV8 JavaScriptエンジンを使用しているサーバーサイドのイベント駆動型プログラムです。

Q&A

1回答

2403閲覧

chokidarでフォルダ内のファイル更新を監視したい

SystemAjisai

総合スコア174

Node.js

Node.jsとはGoogleのV8 JavaScriptエンジンを使用しているサーバーサイドのイベント駆動型プログラムです。

1グッド

1クリップ

投稿2019/07/31 07:00

編集2019/08/01 09:12

前提・実現したいこと

他社製の監視ソフトが吐き出すCSVを監視してサーバーに送るプログラムを作ったのですが、もっとリアルタイム性を上げてほしいという要望に対応するための改修方法を検討しています。

監視ソフトの仕様が

  • CSVのファイル名は作成日
  • 日付が変わると新しいファイルが作られる(日単位のファイルになる)
  • 計測対象が変わると保存するフォルダが変わる
  • 計測対象の情報はCSV内には含まれない
  • 計測周期は計測対象で変わる(大体4~30秒ぐらい)

となっています。

改修後は対象のフォルダを監視して、

  • ファイルの更新を検知してサーバーにアップロードする
  • せめて現在計測中(現在監視ソフトが更新中)のファイルだけでも特定する

というのが目的です。
とくに後者について、今は対象のフォルダ(カテゴリ―等で分かれて最大3階層)内を全部捜索して、更新日付が一番新しいものを特定しています。
当日中に複数回計測対象が変わるとフォルダ違いで同日のファイルが存在している場合もあるため、サーバーにファイルを送る処理のたびにこの処理を行っています。
どんどんファイルが増えていくとこの処理の速度が不安なので、最低限ここだけでもクリアしたいと思っています。

それでNode.jsモジュールのchokidarを使ってファイルの更新・追加が監視可能か、下記のようなサンプルを作ってみました。
手でファイルを更新・追加した時は即座に反応してログが出るのですが、監視ソフトが更新した場合はたまにしか反応しません。
テストした時の計測周期(CSVファイルが更新される周期)は12秒周期でしたが、chokidarが反応してログが出るのは2~4分に1回ぐらいの不定期ペースでした。

設定値を変える等して色々挑戦しているのですが解消せず、エラーが出ているわけではないので調べるのにも行き詰っている状態です。
監視ソフトがファイルを更新した場合にも反応するように変更することはできるでしょうか?
何かご存知の方がいらっしゃいましたら助けてください!

発生している問題・エラーメッセージ

フォルダ内のCSVファイルの監視が、
手動でファイルを更新・追加すると反応するのに、監視ソフトが更新した場合は2~4分に1回程度のペースでしか反応しない。

該当のソースコード

javascript

1const chokidar = require('chokidar'); 2var watcher = chokidar.watch((フォルダパス), {ignored: /[/\]./}); 3watcher.on('ready', ()=>{ 4 watcher.on('add', (path, stats) => { 5 console.log(path, stats); 6 }).on('change', (p, stats) => { 7 console.log(p, stats); 8 }).on('error', (error)=>{ 9 console.log("error=========================="); 10 console.log(error); // エラーログは全く出ていない 11 }) 12})

試したこと

該当のファイルは本当に更新されいてるか
監視ソフト側で測定通知があるたびにファイルを開いて確認しましたが、ちゃんとデータが入っていました。
プロパティから確認すると更新日時も変わっていました。

手でファイルを追加・更新したら反応するか
即座に反応しました。

ファイルが読めない可能性?
監視ソフトが編集権を握っているようですが、読取り専用では開けました。

実は発生しているイベントがchangeじゃないとか・・・

javascript

1// watcher.on('change', (path, stats) => { 2watcher.on('all', (stats, path) => {

でやってみましたが状況は変わりませんでした。

ポーリングをtrueにしたらどうなるか

javascript

1var watcher = chokidar.watch((フォルダパス), { 2 ignored: /[/\]./, 3 usePolling: true, 4 interval: 1000, 5 binaryInterval: 1000, 6});

計測周期は対象によって変わりますが4~30秒程度なので、1秒の設定で実験しました。
微妙なズレは発生しましたが、大体イメージ通りの挙動になりました。
ただREADME.mdに

On other platforms, the fs.watch-based implementation is the default, which avoids polling and keeps CPU usage down. Be advised that chokidar will initiate watchers recursively for everything within scope of the paths that have been specified, so be judicious about not wasting system resources by watching much more than needed.

と書いてあり、ポーリングを回避することでCPU使用率が下がるという事は、usePolling:trueにすると負荷が上がるのかなぁと思い、できればfalseの状態で動く方法がないか模索しています。
(実際にusePolling:trueで動かすとCPU使用率は30%前後なのですが、全部の端末にアクセスできる環境ではなく、テストしたものよりもファイル数が多く古い端末もあるので警戒しています)

fs.watchを使ったらどうなるか(19/8/1追記)
上記で自分が引用した部分に

On other platforms, the fs.watch-based implementation is the default,

とあったのを完全に見落としてたので意味ない実験な気がしますが、chokidarを使わずfs.watchを使ったらどうなるのかやってみました。

javascript

1var fs = require('fs'); 2var fsw = fs.watch('(パス)',{ 3 recursive: true 4}, function(type, filename){ 5 console.log(type + ' ' + filename); 6});

結果は
・更新されているファイルは2~4分に1回しかログがでない
・手動で更新したファイルのログは即座にでる
・たまーーーに(1時間に1回ぐらい)何にも変わってないフォルダのchangeログがでる
という結果でした。

補足情報(FW/ツールのバージョンなど)

Windows 7 または Windows10
Node.js 10.15.1
chokidar 3.0.2

退会済みユーザー👍を押しています

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

https://github.com/nodejs/node/issues/5039

このissueによると、

If the file gets deleted and immediately recreated, fs.watch loses it.
One workaround for this is to watch the parent directory of the file.
Something like this:

ファイルを変更ではなく再作成すると、監視状態を失ってしまうということが書いてあるように読めます。
そういったことに該当している可能性はないでしょうか?

投稿2019/07/31 07:51

退会済みユーザー

退会済みユーザー

総合スコア0

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

SystemAjisai

2019/07/31 08:26

回答ありがとうございます。 CSVを作っている監視ソフトはシステム開発会社さんに発注して作ったものなので詳しいことはわからないのですが、ファイルを右クリックしてプロパティを選択するとファイルの作成日時が当日の0時0分になっているので、恐らく再作成はされていないと思います。 念のため「atomic」というパラメータで、同じファイルの削除と新規作成をファイルの内容の変更とみなすかどうか、みなす場合は削除と新規作成の最大間隔を設定できるようでしたので、計測間隔の12秒(12000ms)を設定してみましたが状況は変わりませんでした。。。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだベストアンサーが選ばれていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.30%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問