chainer.optimizer.
GradientNoise
(eta, noise_func=<function
exponential_decay_noise>)[source]¶
勾配ノイズを加えるOptimizer/UpdateRuleフック関数。
このフック関数は単純に、noise_func
によって生成したノイズを勾配へ加えます。デフォルトで、 訓練ステップごとに勾配へtime-dependent annealed Gaussian noise (時間依存のアニール・ガウシアン・ノイズ)を加えます。
gt←gt+N(0,σt)2
ここで
σt2 =η / (1+t)γ
ηは{0.01, 0.3, 1.0} から選択、γ=0.55とする。
Parameters: |
|
---|
Methods
Attributes
call_for_each_param
= True¶
name
= 'GradientNoise'¶