質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
Keras

Kerasは、TheanoやTensorFlow/CNTK対応のラッパーライブラリです。DeepLearningの数学的部分を短いコードでネットワークとして表現することが可能。DeepLearningの最新手法を迅速に試すことができます。

深層学習

深層学習は、多数のレイヤのニューラルネットワークによる機械学習手法。人工知能研究の一つでディープラーニングとも呼ばれています。コンピューター自体がデータの潜在的な特徴を汲み取り、効率的で的確な判断を実現することができます。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

解決済

kerasでROC曲線を取得する

---stax---
---stax---

総合スコア0

Keras

Kerasは、TheanoやTensorFlow/CNTK対応のラッパーライブラリです。DeepLearningの数学的部分を短いコードでネットワークとして表現することが可能。DeepLearningの最新手法を迅速に試すことができます。

深層学習

深層学習は、多数のレイヤのニューラルネットワークによる機械学習手法。人工知能研究の一つでディープラーニングとも呼ばれています。コンピューター自体がデータの潜在的な特徴を汲み取り、効率的で的確な判断を実現することができます。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

1回答

0評価

0クリップ

121閲覧

投稿2019/03/12 07:33

編集2022/01/12 10:58

kerasを用いて画像の2値分類を行っています。
jupyter notebookで開発しています。

モデルの評価指標としてaccuracyだけを見て良いモデルか評価するのは良くないと考え
ROC曲線、ROC AUCなどを取得できるようにしたいです。

kerasにはROC曲線、ROC AUCなどは標準でサポートされている評価指標に含まれていないので自分で作成する必要があるのですが何から手をつけてよいか分からず良き詰まっています。

自分なりに調べてみて以下のリンクを真似て記述してみたのですが
How to compute Receiving Operating Characteristic (ROC) and AUC in keras?
関数aucとroc_aucでは処理は行われるのですが結果が違っており、tensolflowなどの記述も含まれていて今の自分には理解ができないので使ったことのあるscikit-learnを使おうと考えたのですが上手く行きません。

コード内の
model.compile
部分で以下のエラーとなります。
compileは設定だけだと理解しているのですがエラーを見た感じは引数の不備かと思うのですが、まだ学習もさせていないので何が現状渡されようとしているのか分からず、関数auc, roc_aucに関してはなぜ問題ないのか分かりません。

自分の記述している内容はどこが間違っているでしょうか?
また、metricsの中でscikit-learnを使う場合はどのように記述すればよいでしょうか?
フレームワークの挙動もまだ理解できておらず初歩的な質問ですがアドバイス頂きたいです。

以下コードになります。
データのフォルダ分けなどの部分は省略させて頂いています。

python

from keras import layers from keras import models from keras import optimizers model = models.Sequential() #layers.Conv2D(32, (3, 3)) #input_shape = CNNの入力テンソルが(image_height, image_width, image_channels)(バッチ次元を含まない)の形状 model.add(layers.Conv2D(32, (3, 3), activation='relu', input_shape=(300, 300, 3))) model.add(layers.BatchNormalization()) model.add(layers.MaxPooling2D((2, 2))) model.add(layers.Conv2D(64, (3, 3), activation='relu')) model.add(layers.BatchNormalization()) model.add(layers.MaxPooling2D((2, 2))) model.add(layers.Conv2D(128, (3, 3), activation='relu')) model.add(layers.BatchNormalization()) model.add(layers.MaxPooling2D((2, 2))) model.add(layers.Conv2D(128, (3, 3), activation='relu')) model.add(layers.BatchNormalization()) model.add(layers.MaxPooling2D((2, 2))) model.add(layers.Conv2D(128, (3, 3), activation='relu')) model.add(layers.BatchNormalization()) model.add(layers.MaxPooling2D((2, 2))) model.add(layers.Flatten()) model.add(layers.Dense(512, activation='relu')) model.add(layers.BatchNormalization()) model.add(layers.Dense(1, activation='sigmoid')) import keras.backend as K from sklearn.metrics import roc_auc_score import tensorflow as tf from sklearn.metrics import precision_score from sklearn.metrics import roc_curve def auc(y_true, y_pred): auc = tf.metrics.auc(y_true, y_pred)[1] K.get_session().run(tf.local_variables_initializer()) return auc def roc_auc(y_true, y_pred): roc_auc = tf.py_func(roc_auc_score, (y_true, y_pred), tf.double) return roc_auc def roc(y_true, y_pred): fpr, tpr, thresholds = roc_curve(y_true, y_pred) return fpr, tpr, thresholds model.compile(loss='binary_crossentropy', optimizer=optimizers.RMSprop(lr=1e-4), metrics=['acc', auc, roc_auc, roc]) from keras.callbacks import EarlyStopping, ModelCheckpoint, TensorBoard from keras.preprocessing.image import ImageDataGenerator fpath = r'C:\Users\python file\model\DA_BN\{epoch:02d}-{acc:.2f}-{loss:.2f}-{val_acc:.2f}-{val_loss:.2f}.hdf5' check_point = ModelCheckpoint(filepath = fpath, monitor='val_loss', verbose=0, save_best_only=True, mode='min', period=1) train_datagen = ImageDataGenerator( rescale=1./255, brightness_range=[0.4, 1.0], channel_shift_range=3., ) test_datagen = ImageDataGenerator(rescale=1./255) predict_datagen = ImageDataGenerator(rescale=1./255) train_generator = train_datagen.flow_from_directory( train_dir, #ターゲットディレクトリ target_size = (300, 300), #全ての画像サイズを150*150に変更 batch_size = 20, #バッチサイズ class_mode = 'binary', #binary_crossentropyを使用するため2値のラベルが必要, save_to_dir = r'C:\Users\python file\dataAugmentation_DA_BN', save_prefix = 'generated', save_format = 'png') validation_generator = test_datagen.flow_from_directory( val_dir, target_size = (300, 300), batch_size = 20, class_mode = 'binary') predict_generator = predict_datagen.flow_from_directory( test_dir, target_size = (300, 300), batch_size = 20, class_mode = 'binary') history = model.fit_generator(train_generator, steps_per_epoch = 1, epochs = 5, validation_data = validation_generator, validation_steps = 1, callbacks=[check_point])

python

--------------------------------------------------------------------------- ValueError Traceback (most recent call last) <ipython-input-38-b90f05e5f8e8> in <module>() 3 model.compile(loss='binary_crossentropy', 4 optimizer=optimizers.RMSprop(lr=1e-4), ----> 5 metrics=['acc', auc, roc_auc, roc]) ~\AppData\Local\Continuum\anaconda3\lib\site-packages\keras\engine\training.py in compile(self, optimizer, loss, metrics, loss_weights, sample_weight_mode, weighted_metrics, target_tensors, **kwargs) 438 output_metrics = nested_metrics[i] 439 output_weighted_metrics = nested_weighted_metrics[i] --> 440 handle_metrics(output_metrics) 441 handle_metrics(output_weighted_metrics, weights=weights) 442 ~\AppData\Local\Continuum\anaconda3\lib\site-packages\keras\engine\training.py in handle_metrics(metrics, weights) 407 metric_result = weighted_metric_fn(y_true, y_pred, 408 weights=weights, --> 409 mask=masks[i]) 410 411 # Append to self.metrics_names, self.metric_tensors, ~\AppData\Local\Continuum\anaconda3\lib\site-packages\keras\engine\training_utils.py in weighted(y_true, y_pred, weights, mask) 401 """ 402 # score_array has ndim >= 2 --> 403 score_array = fn(y_true, y_pred) 404 if mask is not None: 405 # Cast the mask to floatX to avoid float64 upcasting in Theano <ipython-input-37-3b434b12b89b> in roc(y_true, y_pred) 41 42 def roc(y_true, y_pred): ---> 43 fpr, tpr, thresholds = roc_curve(y_true, y_pred) 44 return fpr, tpr, thresholds ~\AppData\Local\Continuum\anaconda3\lib\site-packages\sklearn\metrics\ranking.py in roc_curve(y_true, y_score, pos_label, sample_weight, drop_intermediate) 532 """ 533 fps, tps, thresholds = _binary_clf_curve( --> 534 y_true, y_score, pos_label=pos_label, sample_weight=sample_weight) 535 536 # Attempt to drop thresholds corresponding to points in between and ~\AppData\Local\Continuum\anaconda3\lib\site-packages\sklearn\metrics\ranking.py in _binary_clf_curve(y_true, y_score, pos_label, sample_weight) 313 """ 314 # Check to make sure y_true is valid --> 315 y_type = type_of_target(y_true) 316 if not (y_type == "binary" or 317 (y_type == "multiclass" and pos_label is not None)): ~\AppData\Local\Continuum\anaconda3\lib\site-packages\sklearn\utils\multiclass.py in type_of_target(y) 242 if not valid: 243 raise ValueError('Expected array-like (array or non-string sequence), ' --> 244 'got %r' % y) 245 246 sparseseries = (y.__class__.__name__ == 'SparseSeries') ValueError: Expected array-like (array or non-string sequence), got <tf.Tensor 'dense_2_target_8:0' shape=(?, ?) dtype=float32>

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

tiitoi
tiitoi

2019/03/12 10:47

リンク先の前者は tensorflow を使わないやり方だと思いますが、なにか問題があったのでしょうか?
---stax---
---stax---

2019/03/14 02:10 編集

質問ありがとうございます。 回答遅くなり大変申し訳ありません。 前者の方はTomという方の回答でしょうか(40の評価が付いているものです) かなり初歩的な部分なのですがリンク先の上記の方が回答されている内容にあります、 model.fit(X_train, y_train, validation_data=(X_test, y_test), callbacks=[roc_callback(training_data=(X_train, y_train),validation_data=(X_test, y_test))]) の部分に関して、引数に指定している訓練データや検証データの作成方法が分かりません・・・。 私のコードで訓練データや検証データはflow_from_directoryを使って作成しています。 flow_from_directoryの戻り値として、タプルの形式で各バッチにおける訓練データとラベルが返ってくると理解しています。(1バッチ10サンプルなら10個のデータとラベル) ジェネレータ型の状態からX_train, y_trainやvalidation_data=(X_test, y_test)の部分の引数に指定している部分にあるような訓練セット全体、検証データ全体をどのように作れば良いか分からなくて使用できませんでした。 ジェネレータ型のデータを例えば、X_train=train_generator[0][0]~train_generator[n][0]のようにバッチサイズ分を1つの変数に入れなおす必要があるのでしょうか? 分かりにくくてすいません・・・。
tiitoi
tiitoi

2019/03/14 08:46 編集

sklearn の関数は、numpy 配列を渡す必要がありますが、一方、自作した custom_func(y_true, y_pred) に渡ってくる y_true、y_pred は tf.Tensor 型なので、sklearn の関数は使用できません。 質問のエラーメッセージはそのことを言っています。 エポックごとではなく、学習が終わってから計算したらどうでしょうか https://www.dlology.com/blog/simple-guide-on-how-to-generate-roc-plot-for-keras-classifier/
tiitoi
tiitoi

2019/03/14 08:48

確かに Stackoverflow の方法だと flow_from_directory の場合はちょっとむずかしいですね。
---stax---
---stax---

2019/03/14 13:21

回答ありがとうございます。 なるほど...tf.Tensorという型になっているのですね。 参考に貼っていただいたようにlossが小さいモデルをまずはスナップショットして、そのモデルに対してのROC AUCを出したほうが実現は可能な気がします。 これに関しても、私の質問文にあります変数predict_generator(テストデータ)は flow_from_directoryで作られたジェネレータ型なので戻り値であるタプルをデータとラベルに分割してnumpy配列に直す処理がないとscikit-learnの関数に渡せないという理解でよろしかったでしょうか? flow_from_directoryはラベルを付けてくれたりすごく便利なのですが理解していないとすごく難しいですね...。
tiitoi
tiitoi

2019/03/14 13:57

> flow_from_directoryで作られたジェネレータ型なので戻り値であるタプルをデータとラベルに分割してnumpy配列に直す処理がないとscikit-learnの関数に渡せないという理解でよろしかったでしょうか? 必要なのは、ジェネレータ型の戻り値のラベル (正解ラベル) と学習したモデルの推論結果 (予測ラベル) の2つですね。 この2つを numpy 配列として得られれば、あとは sklearn の関数にわたすことで各種評価指標の算出が行えます。
---stax---
---stax---

2019/03/14 14:26

回答ありがとうございます。 勘違いしておりました。自分で予測したデータと正解ラベルですね。 数日間この部分で完全にストップしていたので明日は少し前進できそうです。 いつも丁寧に答えていただいて本当にありがとうございます。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

Keras

Kerasは、TheanoやTensorFlow/CNTK対応のラッパーライブラリです。DeepLearningの数学的部分を短いコードでネットワークとして表現することが可能。DeepLearningの最新手法を迅速に試すことができます。

深層学習

深層学習は、多数のレイヤのニューラルネットワークによる機械学習手法。人工知能研究の一つでディープラーニングとも呼ばれています。コンピューター自体がデータの潜在的な特徴を汲み取り、効率的で的確な判断を実現することができます。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。