t_wの輪郭
フォローする
このサイトについて
9/6/2023, 1:59:00 AM

誤差逆伝播法の導出

合っているかは保証しない。ちょっと自信がない。

前置き

ニューラルネットワークの構成

変数の整理

入力層の出力を\(z_i\), 中間層の出力を\(y_j\), 出力層の出力を\(o_k\)と置く。
入力層から中間層への重みを\( v_{ji} \), 中間層から出力層への重みを\( w_{kj} \)と置く。
\(f\)をsigmoidなどの活性化関数と置く。

ニューロンの出力の計算

$$y_j = f({\sum_{i=1}^{I} v_{ji} z_i})$$
$$o_k = f({\sum_{j=1}^{J} w_{kj} y_j})$$

微分の伝播

損失関数を出力層の出力\(o_k\)で微分

読み込み中...
Amazonで検索：誤差逆伝播法の導出
Invalid Date

Amazonで検索：
Invalid Date

Amazonで検索：
Invalid Date

Amazonで検索：
Invalid Date

Amazonで検索：
9/6/2023, 2:09:00 AM

Cartesian Genetic Programmingにおける誤差逆伝播法の導出

まだ導出途中

Cartesian Genetic Programmingの模式図

準備

記号の準備

入力層の出力：\( x_i \)
中間層の出力：\( y_j = f_j(x_{o(j)}, x_{p(j)}, a_j) \)
出力層の出力：\( z_k = g_k(y_{m(k)}, y_{n(k)}, b_k) \)

\(z_k\)の入力1：\(y_{m(k)}\)
\(z_k\)の入力2：\(y_{n(k)}\)

\(y_j\)の入力1：\(x_{o(j)}\)
\(y_j\)の入力2：\(x_{p(j)}\)

読み込み中...
Amazonで検索：Cartesian Genetic Programmingにおける誤差逆伝播法の導出
8/20/2023, 10:42:00 PM

あれ

誤差逆伝播法の導出を書くにあたって、理解を容易ならしめるために作図してウェイウェイしたいけど、作図してウェイウェイできる手段をどうしよう。

手書きで見苦しくなるけど、TwEgakuが最適か。

ちょっとやってみたけど、手書きめんどいな。SVGのホスティング機能を備えたまともな作図サービスが要るな。
TwEgakuを拡張するのが良さそうな予感だけど、なんかあれなんだよな。

Amazonで検索：あれ