質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
深層学習

深層学習は、多数のレイヤのニューラルネットワークによる機械学習手法。人工知能研究の一つでディープラーニングとも呼ばれています。コンピューター自体がデータの潜在的な特徴を汲み取り、効率的で的確な判断を実現することができます。

PyTorch

PyTorchは、オープンソースのPython向けの機械学習ライブラリ。Facebookの人工知能研究グループが開発を主導しています。強力なGPUサポートを備えたテンソル計算、テープベースの自動微分による柔軟なニューラルネットワークの記述が可能です。

NumPy

NumPyはPythonのプログラミング言語の科学的と数学的なコンピューティングに関する拡張モジュールです。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

解決済

Tensorflow: カスタムレイヤー内で別のレイヤーの重みを取得したい

aiueo12345
aiueo12345

総合スコア32

深層学習

深層学習は、多数のレイヤのニューラルネットワークによる機械学習手法。人工知能研究の一つでディープラーニングとも呼ばれています。コンピューター自体がデータの潜在的な特徴を汲み取り、効率的で的確な判断を実現することができます。

PyTorch

PyTorchは、オープンソースのPython向けの機械学習ライブラリ。Facebookの人工知能研究グループが開発を主導しています。強力なGPUサポートを備えたテンソル計算、テープベースの自動微分による柔軟なニューラルネットワークの記述が可能です。

NumPy

NumPyはPythonのプログラミング言語の科学的と数学的なコンピューティングに関する拡張モジュールです。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

1回答

1評価

0クリップ

196閲覧

投稿2022/06/11 16:41

実現したいこと

Tensorflow で、あるレイヤーの学習対象の重みを用いて計算した値を損失に加えたいと考えています。

損失に値を加える点は、カスタムレイヤー内でself.add_loss()という関数を用いることで実現できるようです。
あとはカスタムレイヤーで、対象の重みを受け取って損失を計算することができれば実現できそうです。
しかしながら、カスタムレイヤー内で他のレイヤーの重みにアクセスする方法がわからず困っています。

※最終的には、同じ構造の二つのレイヤーの重みを取得して、これらの差を正則化項として損失に加えたいと考えています。
そのため、通常のL2ノルム等ではなく、self.add_loss()を用いる方法を考えています。

試したこと

重みをレイヤーの出力・入力として受け渡すことを試みましたがうまくいきませんでした。
おそらく、レイヤーの重みはtf.keras.Input()で生成した値ではないため上手くいかないのではないかと思います。

試したコードとエラーメッセージを以下に示します。

python

import tensorflow as tf import numpy as np class my_layer(tf.keras.layers.Layer): def __init__(self, units, **kwargs): super().__init__(**kwargs) self.units = units def build(self, input_shape): self.w = self.add_weight(shape=(input_shape[-1], self.units), initializer='random_normal', trainable=True) def call(self, inputs): return tf.matmul(inputs, self.w), self.w # 重みを送り出す class AddLossLayer(tf.keras.layers.Layer): def call(self, inputs, weights): # 重みを受け取る self.add_loss(0.001 * np.sum(weights)) # ここでは例として重みの和に0.001を掛けた値を損失に足している return inputs inputs = tf.keras.Input((4,)) x, weights = my_layer(1)(inputs) outputs = AddLossLayer()(x, weights) model = tf.keras.Model(inputs=inputs, outputs=outputs)

↓エラーメッセージ

Traceback (most recent call last): File "C:\Users\user\Desktop\sample.py", line 27, in <module> outputs = AddLossLayer()(x, weights) File "C:\Users\user\anaconda3\envs\tf_tutorial\lib\site-packages\tensorflow_core\python\keras\engine\base_layer.py", line 773, in __call__ outputs = call_fn(cast_inputs, *args, **kwargs) File "C:\Users\user\anaconda3\envs\tf_tutorial\lib\site-packages\tensorflow_core\python\autograph\impl\api.py", line 237, in wrapper raise e.ag_error_metadata.to_exception(e) NotImplementedError: in converted code: C:\Users\user\Desktop\sample.py:21 call * self.add_loss(0.001 * np.sum(weights)) # 0.001 * np.sum(weights) <__array_function__ internals>:6 sum C:\Users\user\anaconda3\envs\tf_tutorial\lib\site-packages\numpy\core\fromnumeric.py:2242 sum initial=initial, where=where) C:\Users\user\anaconda3\envs\tf_tutorial\lib\site-packages\numpy\core\fromnumeric.py:87 _wrapreduction return ufunc.reduce(obj, axis, dtype, out, **passkwargs) C:\Users\user\anaconda3\envs\tf_tutorial\lib\site-packages\tensorflow_core\python\framework\ops.py:728 __array__ " array.".format(self.name)) NotImplementedError: Cannot convert a symbolic Tensor (my_layer/Identity_1:0) to a numpy array. 2022-06-12 01:26:48.038504: I tensorflow/core/platform/cpu_feature_guard.cc:142] Your CPU supports instructions that this TensorFlow binary was not compiled to use: AVX AVX2

最後に

不足している情報等ございましたら、お知らせ頂けますと助かります。
ご回答よろしくお願いします。

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

fourteenlength

2022/06/11 21:43

> NotImplementedError: Cannot convert a symbolic Tensor (my_layer/Identity_1:0) to a numpy array. TFではTFの行列を扱いたいのに、Numpyの行列じゃあ使えないよ、とブツブツ言っているようです。 具体的には、「 self.add_loss(0.001 * np.sum(weights))」に問題があるように思います。 https://runebook.dev/ja/docs/tensorflow/math/reduce_sum np.sumの部分をtf.reduce_sumに置き換えて様子を見てください。
aiueo12345

2022/06/12 01:37

コメントありがとうございます。 ご指摘いただいた点を修正した結果上手くいきました。 エラー文をもう少し読んでおくべきでした。 最終的な回答は「解決方法」として投稿させていただきます。 改めまして、本当にありがとうございました。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

深層学習

深層学習は、多数のレイヤのニューラルネットワークによる機械学習手法。人工知能研究の一つでディープラーニングとも呼ばれています。コンピューター自体がデータの潜在的な特徴を汲み取り、効率的で的確な判断を実現することができます。

PyTorch

PyTorchは、オープンソースのPython向けの機械学習ライブラリ。Facebookの人工知能研究グループが開発を主導しています。強力なGPUサポートを備えたテンソル計算、テープベースの自動微分による柔軟なニューラルネットワークの記述が可能です。

NumPy

NumPyはPythonのプログラミング言語の科学的と数学的なコンピューティングに関する拡張モジュールです。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。