GoogleColaboratoryにおけるtopコマンドの出力について

Question

Google Colaboratoryにおけるtopコマンドの出力がおかしいです。

Colaboratoryにて、実行したいノートブックとtopコマンドで確認する用のノートブックの2つを動かしました。上側の出力がtop、下側がnvidia-smiの出力結果です。

VIRTが巨大化しているにもかかわらず、%CPUや%MEMは低いままです。VIRTは仮想メモリの使用量という認識なのですが、このような出力は問題ですよね？
また、nvidia-smiに、何一つとしてプロセスが表示されないことも疑問です。
この場合だと、python3と表示されるのではないのでしょうか？

=Hmtop - 05:37:36 up 49 min,  0 users,  load average: 0.00, 0.01, 0.03
Tasks:  10 mtotal,   1 mrunning,   9 msleeping,   0 mstopped,   0 mzombie
%Cpu(s):  4.6 mus,  2.8 msy,  0.0 mni, 90.8 mid,  1.7 mwa,  0.0 mhi,  0.1 msi,  0.0 mst
KiB Mem : 13335192 mtotal,   181996 mfree,  1706156 mused, 11447040 mbuff/cache
KiB Swap:        0 mtotal,        0 mfree,        0 mused. 11043976 mavail Mem 

  PID USER      PR  NI    VIRT    RES    SHR S  %CPU %MEM     TIME+ COMMAND     
m    1 root      20   0   39148   6448   5048 S   0.0  0.0   0:00.10 run.sh      
m   62 root      20   0  677836  42560  25432 S   0.0  0.3   0:00.92 node        
m   72 root      20   0  682736  53372  25980 S   0.0  0.4   0:02.33 node        
m   78 root      20   0  182144  56572  12348 S   0.0  0.4   0:03.63 jupyter-no+ 
m   86 root      20   0 38.453g 927520 444764 S   0.0  7.0   0:11.70 python3     
m  110 root      20   0 38.574g 994.8m 302728 S   0.0  7.6   0:45.80 python3     
m  769 root      20   0  127784   6528   4336 S   0.0  0.0   0:00.03 dirmngr     
m 1240 root      20   0  192396  36624   9812 S   0.0  0.3   0:00.45 google-dri+ 
m 1279 root      20   0   33960   4740   3636 S   0.0  0.0   0:00.98 sh          
 1280 root      20   0   65356   7028   5276 R   0.0  0.1   0:00.00 top 

Sun Aug 12 05:37:21 2018       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 384.111                Driver Version: 384.111                   |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  Tesla K80           Off  | 00000000:00:04.0 Off |                    0 |
| N/A   46C    P0    59W / 149W |  11214MiB / 11439MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID   Type   Process name                             Usage      |
|=============================================================================|
+-----------------------------------------------------------------------------+

VIRTの巨大化を防ごうと以下のコードを実行しましたが、何の変化も得られませんでした。メモリ使用量を抑えるにはどうしたらよろしいでしょうか？

import tensorflow as tf
from tensorflow.python.keras import backend as K

# GPU接続確認
tf.test.gpu_device_name()

# GPU初期化
K.clear_session()

# メモリ使用量を必要な分だけに制限する
config = tf.ConfigProto(gpu_options=tf.GPUOptions(allow_growth=True))
session = tf.Session(config=config)
K.set_session(session)

Answer 1

TensorFlow をお使いのようですが...

• TensorFlow ドキュメント/応用 – ClassCat® AI Research
• TensorflowでGPUを制限・無効化する
• Python: Keras/TensorFlow で GPU のメモリを必要な分だけ確保する
• KerasでGPUメモリの使用量を抑える方法

などの記事で、GPU版TensorFlow は、デフォルトだとGPUのメモリをほぼ全部使う設定になっているの記載がありますが、このあたりの影響はないでしょうか？

Comments

[退会済みユーザー]

物理メモリを使い果たすような値にはなっていないんですが、それでも仮想メモリまで影響するものなのでしょうか？

また、ほぼすべてを1プロセスで使うことによって、学習スピードが低下するということは考えられますか？

Answer 2

https://qiita.com/k0kubun/items/7368c323d90f24a00c2f

ギガオーダーのメモリを消費しているわけがないという質問でしょうか？

Comments

[mkgrei]

https://stackoverflow.com/questions/11631191/why-does-the-cuda-runtime-reserve-80-gib-virtual-memory-upon-initialization

[退会済みユーザー]

>ギガオーダーのメモリを消費しているわけがないという質問でしょうか？
はい。そのとおりです。
特にこれといった実行すらしていない時点で38gと出てしまいます。

以前、CNNに関するプログラムで画像を読み込んだことが原因でしょうか？
ただ、ジェネレータを使いながら画像を読み込んで処理しているため、ギガオーダーということはないと思います。
仮に、すべてまとめて読み込んだとしても、224*224*3の画像を約10,000枚ですので、38GBということはないと思いますが…。

リンク先読みました。ただ、いまいちよくわからないです。
何より38gの納得がいかないです。