chainer.functions.n_step_lstm

`chainer.functions.n_step_lstm`(n_layers, dropout_ratio, hx, cx, ws, bs, xs)[source]¶

積層型一方向 Long Short-Term Memory 関数。

この関数はシーケンスを伴う積層一方向LSTM を計算します。この関数は隠れ状態の初期値 $h_{0}$ 、セル状態の初期値 $c_{0}$ 、入力シーケンス $x$ , 荷重行列 $W$ 、バイアスベクトル $b$ を取得します。この関数は入力 $x_{t}$ から各時間 $t$ における隠れ状態 $h_{t}$ と $c_{t}$ を計算します。

i t f t o t a t c t h t = σ (W 0 x t + W 4 h t - 1 + b 0 + b 4) = σ (W 1 x t + W 5 h t - 1 + b 1 + b 5) = σ (W 2 x t + W 6 h t - 1 + b 2 + b 6) = tanh (W 3 x t + W 7 h t - 1 + b 3 + b 7) = f t \cdot c t - 1 + i t \cdot a t = o t \cdot tanh (c t)

この関数はシーケンスを受け入れるので、全ての $t$ についての $h_{t}$ を一度の呼び出しで計算します。８つの荷重行列と８つのバイアスベクトルが各層で要求されます。つまり、 $S$ 層が存在する時、 $8 S$ 個の荷重行列と $8 S$ 個のバイアスベクトルを用意する必要があります。

層の数n_layers が $1$ より大きい場合、 k層目の入力は、 k-1層目の隠れ状態h_t です。１層目を除く全ての層の入力値は、１層目と異なるshapeである可能性があることに、注意してください。

Warning

train と use_cudnn 引数はv2以降はサポートされていません。替わりに chainer.using_config('train', train) と chainer.using_config('use_cudnn', use_cudnn) をお使いください。

See chainer.using_config()をお読みください。

Parameters:

Parameters:	n_layers (int) – 層の数。 dropout_ratio (float) – ドロップアウト率。 hx (chainer.Variable) – 積層隠れ状態を保持するVariable。 shape は `(S, B, N)` 、ただし `S` は層の数で`n_layers`に等しく、`B` はミニバッチサイズ、 `N` は隠れユニットの次元。 cx (chainer.Variable) – 積層セル状態を保持するVariable。 `hx`と同じshapeを持つ。 ws (list of list of chainer.Variable) – 荷重行列。 `ws[i]` はi層目の重みを表す。各 `ws[i]` は8つの行列を含むリスト。 `ws[i][j]` は等式中の `W_j` に相当する。`0 <= j < 4` であるところの`ws[0][j]` のみ、入力値を掛けたものであり、shapeが `(I, N)` 。他の行列のshapeはすべて`(N, N)` 。 bs (list of list of chainer.Variable) – バイアスベクトル。`bs[i]` はi層目のバイアスを表す。各 `bs[i]` は8つのベクトルを含むリスト。`bs[i][j]` は等式中の`b_j` に相当する。`N` が隠れユニットの次元であるところの各行列のshapeは `(N,)` 。 xs (list of chainer.Variable) – 入力値を持つ `Variable` のリスト。各要素 `xs[t]` は時刻 `t`の入力値を保持する。その shape は `(B_t, I)`、ただし `B_t` は `t`時点のミニバッチサイズで `I` は入力ユニット。この関数は可変長のシーケンスをサポートしていることを注意すること。シーケンスがそれぞれ異なる長さのとき、シーケンスをその長さにより降順にソートし、ソートされたシーケンスを転置する。`transpose_sequence()` はシーケンスを保持している`Variable()` のリストを転置する。そのため、 `xs` は`xs[t].shape[0] >= xs[t + 1].shape[0]`を満たす必要がある。
Returns:	この関数は３つの要素, `hy`、 `cy` 、 `ys`を結合したタプルを返す。 `hy` は更新された隠れ状態で、shape は`hx`と同じ。 `cy` は更新されたセル状態で、shape は`cx`と同じ。 `ys`は `Variable` のリスト。各要素`ys[t]` は入力`xs[t]`に相当する最後の層の隠れ状態を保持する。 shape は `(B_t, N)` 、ただし`B_t` は `t`時点のミニバッチサイズ、 `N` は隠れユニットのサイズ。 `B_t` は `xs[t]`と同じ値であることに注意。
Return type:	tuple

n_layers (int) – 層の数。
dropout_ratio (float) – ドロップアウト率。
hx (chainer.Variable) – 積層隠れ状態を保持するVariable。 shape は (S, B, N) 、ただし S は層の数でn_layersに等しく、B はミニバッチサイズ、 N は隠れユニットの次元。
cx (chainer.Variable) – 積層セル状態を保持するVariable。 hxと同じshapeを持つ。
ws (list of list of chainer.Variable) – 荷重行列。 ws[i] はi層目の重みを表す。各 ws[i] は8つの行列を含むリスト。 ws[i][j] は等式中の W_j に相当する。0 <= j < 4 であるところのws[0][j] のみ、入力値を掛けたものであり、shapeが (I, N) 。他の行列のshapeはすべて(N, N) 。
bs (list of list of chainer.Variable) – バイアスベクトル。bs[i] はi層目のバイアスを表す。各 bs[i] は8つのベクトルを含むリスト。bs[i][j] は等式中のb_j に相当する。N が隠れユニットの次元であるところの各行列のshapeは (N,) 。
xs (list of chainer.Variable) – 入力値を持つ Variable のリスト。各要素 xs[t] は時刻 tの入力値を保持する。その shape は (B_t, I)、ただし B_t は t時点のミニバッチサイズで I は入力ユニット。この関数は可変長のシーケンスをサポートしていることを注意すること。シーケンスがそれぞれ異なる長さのとき、シーケンスをその長さにより降順にソートし、ソートされたシーケンスを転置する。transpose_sequence() はシーケンスを保持しているVariable() のリストを転置する。そのため、 xs はxs[t].shape[0] >= xs[t + 1].shape[0]を満たす必要がある。

Returns:

この関数は３つの要素, hy、 cy 、 ysを結合したタプルを返す。

hy は更新された隠れ状態で、shape はhxと同じ。
cy は更新されたセル状態で、shape はcxと同じ。
ysは Variable のリスト。各要素ys[t] は入力xs[t]に相当する最後の層の隠れ状態を保持する。 shape は (B_t, N) 、ただしB_t は t時点のミニバッチサイズ、 N は隠れユニットのサイズ。 B_t は xs[t]と同じ値であることに注意。

Return type:

tuple

See also: chainer.functions.lstm()

chainer.functions.n_step_lstm(n_layers, dropout_ratio, hx, cx, ws, bs, xs)[source]¶

`chainer.functions.n_step_lstm`(n_layers, dropout_ratio, hx, cx, ws, bs, xs)[source]¶