パーセプトロンの行列表現とバッチ処理
パーセプトロンの入出力を行列で表現する考え方と、バッチ処理の考え方についてのメモです。
目次
パーセプトロンを行列にする
入力の要素数がiで、出力数がjのパーセプトロンを考えます。重みはw、バイアスをbとします。
各出力aの計算式はそれぞれ次のようになります。
同じ形の数式が並びますね。これを行列に変換します。
簡単に書くとこうなります。
バッチ処理の考え方
上の式では 1xi の行列と ixj の行列の積を求めて 1xj の行列を加えています。その結果は 1xj の行列になります。
k個のデータをまとめて計算したいと考えた場合に、入力を kxi にすると行列の積の計算が一度で行えます。
式を見ると、入力 X と出力 A の行数が等しくなっています。これは、計算を繰り返しても（層を重ねても）入出力の行数は変化しないということです。列数は W の列数（出力の数）によって変化します。
このデータの束をバッチと呼び、このようにまとめて処理することをバッチ処理と呼びます。
公開日
広告