質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Java

Javaは、1995年にサン・マイクロシステムズが開発したプログラミング言語です。表記法はC言語に似ていますが、既存のプログラミング言語の短所を踏まえていちから設計されており、最初からオブジェクト指向性を備えてデザインされています。セキュリティ面が強力であることや、ネットワーク環境での利用に向いていることが特徴です。Javaで作られたソフトウェアは基本的にいかなるプラットフォームでも作動します。

Q&A

解決済

2回答

3951閲覧

大量の画像ファイルの移動について

Begi

総合スコア56

Java

Javaは、1995年にサン・マイクロシステムズが開発したプログラミング言語です。表記法はC言語に似ていますが、既存のプログラミング言語の短所を踏まえていちから設計されており、最初からオブジェクト指向性を備えてデザインされています。セキュリティ面が強力であることや、ネットワーク環境での利用に向いていることが特徴です。Javaで作られたソフトウェアは基本的にいかなるプラットフォームでも作動します。

0グッド

0クリップ

投稿2017/06/19 00:31

お世話になります。

とあるディレクトリ(以下A)に保存された画像ファイルを全て他のディレクトリ(以下B)に移動させるという処理を行おうとしています。

A内に保存されている画像ファイルの情報になります。

ファイル形式:jpeg
1枚当たりのサイズ:約250kB
枚数:約30000枚
総サイズ:30000枚*250kB = 約7.5GB

以下、使用を考えているソースです。

moveFile

1File srcDir = new File("Aのパス"); 2ArrayList<File> fileList = new ArrayList<File>(); 3for (File imgFile : srcDir.listFiles()) { 4 fileList.add(imgFile); 5} 6//ファイル移動(org.apache.commons.io.FileUtilsライブラリ使用) 7for (File file : fileList) { 8 FileUtils.moveFileToDirectory(file, "Bのパス", false); 9}

上記処理だと、総サイズが100MBなど少ない場合は問題ありませんが、一気に数GBのファイルを処理しようとするとOutOfMemoryが発生するのではと懸念しています。

そこで、どのように実装すればメモリ不足エラーの発生リスクを最小限に抑えられるかご教授いただけませんでしょうか。

どうぞよろしくお願い致します。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

m.ts10806

2017/06/19 00:35

移動先ディレクトリにはもともと他のファイルなども入っているのでしょうか?
Begi

2017/06/19 00:54

投稿ありがとうございます。はい、他のファイルが入っている可能性もある想定です。
guest

回答2

0

ベストアンサー

Fileクラスは、

ファイルおよびディレクトリのパス名の抽象表現です。

とある通り、あくまでパス(つまり場所)を表現するものにすぎません。ファイルに限らず、ディレクトリ(フォルダ)を指す場合もあります。
ファイルなどの実体をそのまま持つわけではないので、極端な話対象のファイルが1TBあろうと、その1TBのデータがメモリに展開されるということはないはずです。

質問には関係ないですが、これわざわざList化する必要ありますか?
直にこれでいいと思うのですが。

java

1File srcDir = new File("Aのパス"); 2//ファイル移動(org.apache.commons.io.FileUtilsライブラリ使用) 3for (File file : srcDir.listFiles()) { // listFiles()はFileの配列を返すため、直接拡張for文に使える 4 FileUtils.moveFileToDirectory(file, "Bのパス", false); 5}

投稿2017/06/19 01:16

編集2017/06/19 01:52
swordone

総合スコア20649

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

Begi

2017/06/19 01:25

投稿ありがとうございます。 http://www.symmetric.co.jp/blog/archives/54 の「(A)大量データでOutOfMemoryError - サイズオーバー型」 の記述を見てメモリ不足エラーを懸念していたのですが、このサイトではCSV(String型)だったため問題が発生するリスクがある、ということでしょうか。
swordone

2017/06/19 01:33

そうです。ここで使っているStringBuilderは当然ですがメモリ上で文字列を連結しています。 次々文字列を読み込んでStringBuilderが肥大化していき、メモリを圧迫しているということです。
Begi

2017/06/19 01:48

かしこまりました。 的確なご回答いただきありがとうございます。メモリ管理への理解が少し深まった気がします。また機会がありましたらよろしくお願いします。
Begi

2017/06/19 02:07

質問の編集、確認させていただきました。 listFiles()で取得したファイルを順に回している中で、このファイルだったら別の処理を挟む、ということをしているのですが…たしかに実ソースを見るとListに格納する必要はないかもしれません。検討してみます。ご指摘ありがとうございます。
guest

0

org.apache.commons.io.FileUtils#moveFileToDirectory()のソースコードを見ると、(1)ファイルの読み込み(2)新しいファイルの書き出し(3)既存ファイルの削除の順に処理をしているように思われます。(参考:FileUtilsのソース
java.io.File#renameTo()だと、nativeの処理を利用してファイルの移動をやっているので、こちらの方がメモリには優しいのでは?

投稿2017/06/19 00:52

tkturbo

総合スコア5572

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

Begi

2017/06/19 00:58

投稿ありがとうございます。 moveFileToDirectory() 内でも最終的にはjava.io.File.renameTo() を実行しているため、そこは変更せずとも問題ないかと思っています。 自分が懸念しているのは ArrayList<File>に大量にリソースを持たせることによりメモリ不足が生じるのでは…というところです。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問