pythonのoptimizerの変更について

Question

簡単なニューラルネットワークをpythonで構築して、中身のoptimizerを
変更したいのですが、できなかったため質問させていただきます。

やりたいこととしては、コード内のoptimizerの部分をAdaBoundというものに
変更したいと考えています。
AdaBoundはclassとしており、
ニューラルネットワークと同じpyファイルには無く、別のpyファイルにあります。
そのため実行する際はimportしてAdaBoundを呼び出すようにしています。

こちらが現在使っているニューラルネットワークのソース(sample.py)となります。

import keras
from keras.datasets import boston_housing
from keras.models import Sequential
from keras.layers import Dense
import AdaBound
from torch.optim import Optimizer

(X_train, y_train), (X_test, y_test) = boston_housing.load_data()

AdaBound_class = AdaBound.AdaBound()


#トレーニングデータの正規化                                                                          
X_train_mean = X_train.mean(axis=0)
X_train_std = X_train.std(axis=0)
X_train -= X_train_mean
X_train /= X_train_std

y_train_mean = y_train.mean()
y_train_std = y_train.std()
y_train -= y_train_mean
y_train /= y_train_std

#テストデータの正規化                                                                                
X_test -= X_train_mean
X_test /= X_train_std
y_test -= y_train_mean
y_test /= y_train_std

model = Sequential()
model.add(Dense(64, activation='relu', input_shape=(X_train.shape[1],)))
model.add(Dense(64, activation='relu'))
model.add(Dense(1))

model.compile(optimizer= AdaBound_class,loss='mse',metrics=['mae'])
#model.compile(optimizer='Adam',loss='mse',metrics=['mae'])                                          

history = model.fit(X_train, y_train, batch_size=5, epochs=5, verbose=1, validation_data=(X_test, y_\
test))
print(X_test)
print(y_test)
print(X_train)

こちらがAdaBoundのソース(AdaBound.py)になります。

import math
import torch
from torch.optim import Optimizer

class AdaBound(Optimizer):


    def __init__(self, params, lr=1e-3, betas=(0.9, 0.999), final_lr=0.1,
                 gamma=1e-3,eps=1e-8, weight_decay=0, amsbound=False):
        if not 0.0 <= lr:
            raise ValueError("Invalid learning rate: {}".format(lr))
        if not 0.0 <= eps:
            raise ValueError("Invalid epsilon value: {}".format(eps))
        if not 0.0 <= betas[0] < 1.0:
            raise ValueError("Invalid beta parameter at index 0: {}".format(betas[0]))
        if not 0.0 <= betas[1] < 1.0:
            raise ValueError("Invalid beta parameter at index 1: {}".format(betas[1]))
        if not 0.0 <= final_lr:
            raise ValueError("Invalid final learning rate: {}".format(final_lr))
        if not 0.0 <= gamma < 1.0:
            raise ValueError("Invalid gamma parameter: {}".format(gamma))
        defaults = dict(lr=lr, betas=betas, final_lr=final_lr, gamma=gamma,
                        eps=eps,weight_decay=weight_decay, amsbound=amsbound)
        super(AdaBound, self).__init__(params, defaults)

        self.base_lrs = list(map(lambda group: group['lr'], self.param_groups))

    def __setstate__(self, state):
        super(AdaBound, self).__setstate__(state)
        for group in self.param_groups:
            group.setdefault('amsbound', False)

    def step(self, closure=None):
        """Performs a single optimization step.                                                      
        Arguments:                                                                                   
            closure (callable, optional): A closure that reevaluates the model                       
                and returns the loss.                                                                
        """
        loss = None
        if closure is not None:
            loss = closure()

        for group, base_lr in zip(self.param_groups, self.base_lrs):
            for p in group['params']:
                if p.grad is None:
                    continue
                grad = p.grad.data
                if grad.is_sparse:
                    raise RuntimeError(
                        'Adam does not support sparse gradients, please consider SparseAdam instead'\
)
                amsbound = group['amsbound']

                state = self.state[p]
                
                # State initialization                                                               
                if len(state) == 0:
                    state['step'] = 0
                    # Exponential moving average of gradient values                                  
                    state['exp_avg'] = torch.zeros_like(p.data)
                    # Exponential moving average of squared gradient values                          
                    state['exp_avg_sq'] = torch.zeros_like(p.data)
                    if amsbound:
                        # Maintains max of all exp. moving avg. of sq. grad. values                  
                        state['max_exp_avg_sq'] = torch.zeros_like(p.data)

                exp_avg, exp_avg_sq = state['exp_avg'], state['exp_avg_sq']
                if amsbound:
                    max_exp_avg_sq = state['max_exp_avg_sq']
                beta1, beta2 = group['betas']

                state['step'] += 1

                if group['weight_decay'] != 0:
                    grad = grad.add(group['weight_decay'], p.data)

                # Decay the first and second moment running average coefficient                      
                exp_avg.mul_(beta1).add_(1 - beta1, grad)
                exp_avg_sq.mul_(beta2).addcmul_(1 - beta2, grad, grad)
                if amsbound:
                    # Maintains the maximum of all 2nd moment running avg. till now                  
                    torch.max(max_exp_avg_sq, exp_avg_sq, out=max_exp_avg_sq)
                    # Use the max. for normalizing running avg. of gradient                          
                    denom = max_exp_avg_sq.sqrt().add_(group['eps'])
                else:
                    denom = exp_avg_sq.sqrt().add_(group['eps'])
                bias_correction1 = 1 - beta1 ** state['step']
                bias_correction2 = 1 - beta2 ** state['step']
                step_size = group['lr'] * math.sqrt(bias_correction2) / bias_correction1

                # Applies bounds on actual learning rate                                             
                # lr_scheduler cannot affect final_lr, this is a workaround to apply lr decay        
                final_lr = group['final_lr'] * group['lr'] / base_lr
                lower_bound = final_lr * (1 - 1 / (group['gamma'] * state['step'] + 1))
                upper_bound = final_lr * (1 + 1 / (group['gamma'] * state['step']))
                step_size = torch.full_like(denom, step_size)
                step_size.div_(denom).clamp_(lower_bound, upper_bound).mul_(exp_avg)

                p.data.add_(-step_size)
        return loss

現在出ているエラー内容がこちらになります。

Traceback (most recent call last):
  File "sample.py", line 10, in <module>
    AdaBound_class = AdaBound.AdaBound()
TypeError: __init__() missing 1 required positional argument: 'params'

こちらの__init__()なのですが、使っていないのに出ているのがよくわかりません。
分かる方がいましたら、回答いただけると助かります。

※ご回答いただいた内容に質問させていただくこともあるかと思いますので、
※よろしければご返信いただければと思います。

Answer 1

そもそも、pytorchとkerasって併用できましたっけ？
仮に併用できるとしても、kerasを使うのであればkerasのOptimizerを継承して作るのが普通だと思います。
（私はやったことないので詳しいことは分かりませんが）

また、自前で実装せずとも、「AdaBound Keras」で調べれば、使えそうなものがいくつか出てくるのですが、そちらでは駄目なのでしょうか。

Comments

[yone_yone]

回答ありがとうございます。
知識不足で申し訳ありません。併用できるものだと思っていました。

kerasのドキュメントの方に載っていなかったので、てっきり自前しかないものだと思っていました。
私の調査不足でした。参考にさせていただきます。

Answer 2

https://github.com/taki0112/AdaBound-Tensorflow

Tensorflow用のものを使ってみてください

Comments

[yone_yone]

回答ありがとうございます。
tensorflow用があることに気づいていませんでした。
参考にさせていただきます。

[yone_yone]

度々すみません。
使ってみたのですが、
```FailedPreconditionError (see above for traceback): Attempting to use uninitialized value Variable/AdaBound
[[Node: Variable/AdaBound/read = Identity[T=DT_FLOAT, _class=["loc:@AdaBound/Assign_2"], _device="/job:localhost/replica:0/task:0/device:GPU:0"](Variable/AdaBound)]]```
とエラーが出てしまいました。
おそらく、
```update_weights=AdaBoundOptimizer(learning_rate=0.01,final_lr=0.1,beta1=0.9,beta2=0.999, amsbound=False).minimize(loss)```
の部分が悪いのかと思うのですが、全く改善できなかったため質問させていただきました。
個人宛に質問する形となり申し訳ありません。
分かるようでしたら、回答いただけると助かります。

[mkgrei]

http://mosapro.hatenablog.com/entry/2017/05/17/094606
#定義した全ての変数を初期化
init = tf.initialize_all_variables()

上のリンクを参照してみてください

[yone_yone]

ありがとうございます。
なんとかエラーを解決することができました。