パーセプトロンの行列表現とバッチ処理

パーセプトロンの入出力を行列で表現する考え方と、バッチ処理の考え方についてのメモです。

目次

  1. パーセプトロンを行列にする
  2. バッチ処理の考え方

パーセプトロンを行列にする

入力の要素数がiで、出力数がjのパーセプトロンを考えます。重みはw、バイアスをbとします。

パーセプトロンの図

各出力aの計算式はそれぞれ次のようになります。

数式で表現

同じ形の数式が並びますね。これを行列に変換します。

行列で表現

簡単に書くとこうなります。

行列の式

バッチ処理の考え方

上の式では 1xi の行列と ixj の行列の積を求めて 1xj の行列を加えています。その結果は 1xj の行列になります。

k個のデータをまとめて計算したいと考えた場合に、入力を kxi にすると行列の積の計算が一度で行えます。

バッチ処理の式

式を見ると、入力 X と出力 A の行数が等しくなっています。これは、計算を繰り返しても(層を重ねても)入出力の行数は変化しないということです。列数は W の列数(出力の数)によって変化します。

このデータの束をバッチと呼び、このようにまとめて処理することをバッチ処理と呼びます。

広告

機械学習カテゴリの投稿