機械学習モデルの永続化？の必要性について

いつもお世話になっております。

早速本題に入らせていただきます。

現在、doc2vec を使用してモデルを作成しております。

下記が作成したモデルのサンプルです。

python
1model = Doc2Vec(documents=train, vector_size=100, window=10, min_count=1, epochs=25)
2model.save('test.model')

モデルは完成したのですが、色々調べていると　永続化　というワードが出てきました。

学習済みモデルを pickle を使用して保存しているものが多々あったのですが、

pickleで保存する意味がよくわかりませんでした。

「.model」ファイルが出来たのなら、それをそのまま使いまわせば良いと思っていたのですが...

拡張子が .model のファイルを使いまわすよりも pickle のファイルを使いまわした方が高速なのでしょうか？

お時間ある方で永続化について知識をお持ちの方いらっしゃいましたらご助力頂けますと幸いです...

quickquip

2020/05/15 06:19

> 学習済みモデルを pickle を使用して保存しているものが多々あったこういうのは具体的に挙げてほしいです。

quickquip

2020/05/15 06:22

クラスDoc2Vecはgensimの実装でしょうか。

hoshi-takanori

2020/05/15 09:23

永続化というのはメモリ上のデータをファイルやデータベースなどに保存してあとで再利用できるようにすることで、pickle は python 専用のファイル形式で、手軽に使えることから、「ゼロから作る Deep Learning」のような「機械学習の仕組みを学ぶために、自分で一から実装しよう」というノリの本で使われているんだと思います。一方、pickle は python 専用であることや、関数が保存できないなどの制約があるため、実用上は専用のファイル形式を使った方がいいのではないかと思います。(python や機械学習は自分も勉強中なので、間違ってたらごめんなさい。) https://docs.python.org/ja/3/library/pickle.html#what-can-be-pickled-and-unpickled

行動規範の内容に同意します

回答1件

ベストアンサー

学習済みモデルを pickle を使用して保存しているものが多々あったのですが、
pickleで保存する意味がよくわかりませんでした。

TensorFlow や Pytorch は独自の保存形式が用意されているので、pickle ではなく、ライブラリが提供している機能でモデルを保存すればよいです。
例えば、機械学習で有名なライブラリ scikit-learn は、モデルのパラメータを保存する機能は用意されていないので、そういう場合はモデルのオブジェクトごと pickle で保存するということはします。

投稿2020/05/15 11:19