質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Ubuntu

Ubuntuは、Debian GNU/Linuxを基盤としたフリーのオペレーティングシステムです。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

自然言語処理

自然言語処理は、日常的に使用される自然言語をコンピューターに処理させる技術やソフトウェアの総称です。

Q&A

解決済

1回答

3295閲覧

Word2VecとgensimをUbuntuで使用するときのエラー

退会済みユーザー

退会済みユーザー

総合スコア0

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Ubuntu

Ubuntuは、Debian GNU/Linuxを基盤としたフリーのオペレーティングシステムです。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

自然言語処理

自然言語処理は、日常的に使用される自然言語をコンピューターに処理させる技術やソフトウェアの総称です。

0グッド

0クリップ

投稿2018/07/23 00:59

編集2018/07/28 03:14

前提・実現したいこと

以下のページを参考に、Word2Vecとgensimを使って、
単語の類似度とコーパスにある類似した単語を出力しようとしています。

Word2Vecを使った文章間の類似度算出(簡易版)
word2vecでベクトルから単語を出力する

発生している問題・エラーメッセージ

ローカル環境(MacOS High Sierra)では、
実行可能で出力も出たのですが、Ubuntu16.04.4では以下のエラーが出てしまい、
どのようにデバッグすればいいか、わからない状態です。
メモリエラーというのもよくわからず、原因と解決方法について教えていただきたいです。

Traceback (most recent call last): File "<stdin>", line 1, in <module> File "/usr/local/lib/python3.6/dist-packages/gensim/models/keyedvectors.py", line 508, in most_similar self.init_sims() File "/usr/local/lib/python3.6/dist-packages/gensim/models/keyedvectors.py", line 1364, in init_sims self.vectors_norm = (self.vectors / sqrt((self.vectors ** 2).sum(-1))[..., newaxis]).astype(REAL) MemoryError Error in sys.excepthook: Traceback (most recent call last): File "/usr/lib/python3/dist-packages/apport_python_hook.py", line 63, in apport_excepthook from apport.fileutils import likely_packaged, get_recent_crashes File "/usr/lib/python3/dist-packages/apport/__init__.py", line 5, in <module> from apport.report import Report File "/usr/lib/python3/dist-packages/apport/report.py", line 30, in <module> import apport.fileutils File "/usr/lib/python3/dist-packages/apport/fileutils.py", line 23, in <module> from apport.packaging_impl import impl as packaging File "/usr/lib/python3/dist-packages/apport/packaging_impl.py", line 23, in <module> import apt File "/usr/lib/python3/dist-packages/apt/__init__.py", line 23, in <module> import apt_pkg ModuleNotFoundError: No module named 'apt_pkg' Original exception was: Traceback (most recent call last): File "<stdin>", line 1, in <module> File "/usr/local/lib/python3.6/dist-packages/gensim/models/keyedvectors.py", line 508, in most_similar self.init_sims() File "/usr/local/lib/python3.6/dist-packages/gensim/models/keyedvectors.py", line 1364, in init_sims self.vectors_norm = (self.vectors / sqrt((self.vectors ** 2).sum(-1))[..., newaxis]).astype(REAL) MemoryError

該当のソースコード

Python

1import gensim 2word2vec_model = gensim.models.KeyedVectors.load_word2vec_format('wiki-news-300d-1M.vec', binary=False) 3>>> simwords= word2vec_model.most_similar(positive=['dog'])

試したこと

word2vecとgensimのバージョン確認を以下のコマンドで行いました。
word2vecの方はレスポンスがなかったのですが、
Ubuntu環境にインストールする必要があるのでしょうか。
検索しましたが、word2vecの方はUbuntuでのインストール方法が
わかりませんでした。

% pip list | grep word2vec % pip list | grep gensim gensim 3.5.0

ご回答を受けて追記

% free total used free shared buff/cache available Mem: 4045580 1722240 1317824 36076 1005516 1977800 Swap: 0 0 0

補足情報(FW/ツールのバージョンなど)

Python 3.6
Ubuntu VERSION="16.04.4 LTS (Xenial Xerus)"
使用している学習済みモデル
wiki-news-300d-1M.vec

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

MemoryErrorはいわゆるメモリ不足ですが、どれくらい載せていますか?

投稿2018/07/24 09:46

hayataka2049

総合スコア30933

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

退会済みユーザー

退会済みユーザー

2018/07/28 03:15

追記に明記させていただきました。よろしくお願いいたします。
hayataka2049

2018/07/30 14:05 編集

4GBということですか? ナチュラルにメモリが足りない可能性があるので、小さめのモデルを使うか、可能なら増設・割当を増やす等してみてください
退会済みユーザー

退会済みユーザー

2018/07/30 21:30 編集

ご回答いただきましてありがとうございます。やってみます。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問