Optimizers
| chainer.optimizers.AdaDelta | Matthew D. Zeiler's ADADELTA. |
| chainer.optimizers.AdaGrad | AdaGrad optimizer. |
| chainer.optimizers.Adam | Adam optimizer. |
| chainer.optimizers.MomentumSGD | Momentum SGD optimizer. |
| chainer.optimizers.NesterovAG | Nesterov’s Accelerated Gradient. |
| chainer.optimizers.RMSprop | RMSprop optimizer. |
| chainer.optimizers.RMSpropGraves | Alex Graves's RMSprop. |
| chainer.optimizers.SGD | Vanilla Stochastic Gradient Descent. |
| chainer.optimizers.SMORMS3 | Simon Funk’s SMORMS3. |