質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
Keras

Kerasは、TheanoやTensorFlow/CNTK対応のラッパーライブラリです。DeepLearningの数学的部分を短いコードでネットワークとして表現することが可能。DeepLearningの最新手法を迅速に試すことができます。

深層学習

深層学習は、多数のレイヤのニューラルネットワークによる機械学習手法。人工知能研究の一つでディープラーニングとも呼ばれています。コンピューター自体がデータの潜在的な特徴を汲み取り、効率的で的確な判断を実現することができます。

Google Colaboratory

Google Colaboratoryとは、無償のJupyterノートブック環境。教育や研究機関の機械学習の普及のためのGoogleの研究プロジェクトです。PythonやNumpyといった機械学習で要する大方の環境がすでに構築されており、コードの記述・実行、解析の保存・共有などが可能です。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

解決済

ColabでGPUが使えていないように思えます。

omiteratail
omiteratail

総合スコア19

Keras

Kerasは、TheanoやTensorFlow/CNTK対応のラッパーライブラリです。DeepLearningの数学的部分を短いコードでネットワークとして表現することが可能。DeepLearningの最新手法を迅速に試すことができます。

深層学習

深層学習は、多数のレイヤのニューラルネットワークによる機械学習手法。人工知能研究の一つでディープラーニングとも呼ばれています。コンピューター自体がデータの潜在的な特徴を汲み取り、効率的で的確な判断を実現することができます。

Google Colaboratory

Google Colaboratoryとは、無償のJupyterノートブック環境。教育や研究機関の機械学習の普及のためのGoogleの研究プロジェクトです。PythonやNumpyといった機械学習で要する大方の環境がすでに構築されており、コードの記述・実行、解析の保存・共有などが可能です。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

1回答

0評価

0クリップ

1396閲覧

投稿2019/04/20 14:35

前提・実現したいこと

Colab でGPUを使ってLSTMモデルを学習させたいです。
(ライブラリはKerasをTensorflowバックエンドで使っています。)

発生している問題・エラーメッセージ

ColabのGPUの実行時間がローカル(Macbook Pro, CPU: Core i5)よりも長いため、
うまくColabのGPUが作動していないのではないかと思い色々と試したのですが、
解決策が見つからないため、質問させていただきました。

下がローカルのMacbookのJupyter notebookにてCPU Core i5で動かした際の実行結果です。

CPU

Train on 60000 samples, validate on 10000 samples Epoch 1/3 60000/60000 [==============================] - 148s 2ms/step Epoch 2/3 60000/60000 [==============================] - 151s 3ms/step Epoch 3/3 60000/60000 [==============================] - 160s 3ms/step

下がColabにてGPUで動かした際の実行結果です。

GPU

Train on 60000 samples, validate on 10000 samples Epoch 1/3 60000/60000 [==============================] - 164s 3ms/step Epoch 2/3 60000/60000 [==============================] - 162s 3ms/step Epoch 3/3 60000/60000 [==============================] - 162s 3ms/step

ColabのGPUで動かした方が時間がかかるというあり得ない状況になってしまっています。
ちなみに、ColabのCPUで動かした実行結果が以下です。

CPU

WARNING:tensorflow:From /usr/local/lib/python3.6/dist-packages/tensorflow/python/ops/math_ops.py:3066: to_int32 (from tensorflow.python.ops.math_ops) is deprecated and will be removed in a future version. Instructions for updating: Use tf.cast instead. Train on 60000 samples, validate on 10000 samples Epoch 1/3 60000/60000 [==============================] - 218s 4ms/step Epoch 2/3 60000/60000 [==============================] - 214s 4ms/step Epoch 3/3 60000/60000 [==============================] - 215s 4ms/step

該当のソースコード

MNISTをLSTMモデルにて行なっており、
ひねりなどは全くありません。

Python

###Import library from keras.models import Sequential from keras.layers import Dense, Dropout, LSTM from keras.optimizers import Adam from keras.datasets import mnist ###Load mnist (x_train, y_train), (x_test, y_test) = mnist.load_data() ###Define and compile the model model = Sequential() model.add(LSTM(128, input_shape=x_train.shape[1:], activation='relu', return_sequences=True)) model.add(Dropout(0.2)) model.add(LSTM(128, activation='relu')) model.add(Dropout(0.2)) model.add(Dense(32, activation='relu')) model.add(Dropout(0.2)) model.add(Dense(10, activation='softmax')) model.compile(optimizer=Adam(lr=1e-3, decay=1e-5), loss='sparse_categorical_crossentropy', metrics=['acc']) ###Regularize data x_train =x_train/ 255.0 x_test =x_test / 255.0 ###Train the model history = model.fit(x_train,y_train, epochs=3, validation_data=(x_test, y_test))

試したこと

ColabにてGPUを選択し保存を押したのち、
上記コードを実行する前に

Python

import torch torch.cuda.get_device_name(0) #Return: 'Tesla T4' import tensorflow as tf tf.test.gpu_device_name() #Return: '/device:GPU:0'

を実行し、それぞれコメントアウトの結果が得られました。
Tesla T4を使っており、しっかりGPUを使っていることがわかります。
それにもかかわらず、実行時間が遅すぎます。
このコードのみならず、GRUモデルを用いた天気予報のコードにてもローカルのCPUよりもColabのGPUが遅いという現象が起きております。
このコードではタスクが軽すぎるやそもそもKerasでColabのGPUは使えないなどの理由で
ColabのGPUとローカルのCPUの実行時間に差ががでないのでしょうか。(というより、GPUの方が遅い。)
その場合、具体的にどのようなコードだとColabのGPUの速度を体感できるでしょうか。

お手数をおかけしますが、解決策や提言などお待ちしております。
よろしくお願いします。

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

Keras

Kerasは、TheanoやTensorFlow/CNTK対応のラッパーライブラリです。DeepLearningの数学的部分を短いコードでネットワークとして表現することが可能。DeepLearningの最新手法を迅速に試すことができます。

深層学習

深層学習は、多数のレイヤのニューラルネットワークによる機械学習手法。人工知能研究の一つでディープラーニングとも呼ばれています。コンピューター自体がデータの潜在的な特徴を汲み取り、効率的で的確な判断を実現することができます。

Google Colaboratory

Google Colaboratoryとは、無償のJupyterノートブック環境。教育や研究機関の機械学習の普及のためのGoogleの研究プロジェクトです。PythonやNumpyといった機械学習で要する大方の環境がすでに構築されており、コードの記述・実行、解析の保存・共有などが可能です。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。