Pythonにおける計算の再現性確保の方法について

Question

質問

Pythonを用いて、Kerasによる機械学習の検証を行っております。
モデルの性能比較等のために計算の再現性を確保したかったため、
ネットで方法を調べ、下記コードを使用しています。
結果として、ある程度の検証結果の再現性を確保できたのですが、
若干のばらつきがあり、モデルのAccuracyが1％程度、
F1値にいたっては数％ずれることがあります。

上記の件を改善したいのですが、Pythonやコンピュータの仕様上、
完全な再現性確保は難しいのでしょうか。
ご教授いただければ幸いです。

現在使用しているコード

import random
import tensorflow as tf

random_state = 42

def seed_everything(seed=random_state):
    random.seed(seed)
    os.environ['PYTHONHASHSEED'] = str(seed)
    np.random.seed(seed)
    tf.random.set_seed(seed)
    session_conf = tf.compat.v1.ConfigProto(
        intra_op_parallelism_threads=1,
        inter_op_parallelism_threads=1
    )
    sess = tf.compat.v1.Session(graph=tf.compat.v1.get_default_graph(), config=session_conf)
    tf.compat.v1.keras.backend.set_session(sess)

seed_everything(random_state)

乱数が適応されている項目

・sklearn.model_selection.train_test_split
・keras.models.Model.fit_generator

Answer 1

解決方法

・CPUを使って演算する

詳細

質問の後にも引き続き調べていたところ、下記の記事を見つけました。

　https://qiita.com/TokyoMickey/items/57eb23e198ea6f29a1e8

TensorFlowとGPUを用いて計算を実行する場合、結果のばらつきを抑えることは、
難しいようです（少なくとも記事投稿時点では）
cuDNNとEigenの仕様が原因である可能性が高そうです。

ちなみにアップデートが終了するChainerの場合は解決方法があるようです。

　https://qiita.com/TokyoMickey/items/cc8cd43545f2656b1cbd