434 バッチ勾配法(勾配降下法)

訓練データを全て学習に使った上で重みを1回更新する学習方法(つまリイテレーションとエポックが同数)。

バッチ勾配降下法では、全データを使って関数の最小値を探索します。
つまり全てのデータの平均のデータに対して勾配降下法を使うイメージになります。

【メリット】

  • 全てのデータを使うので、結果が安定する
  • 解への到達が早いことが多い

【デメリット】

  • 計算量が多くなる(計算に時間がかかる)
  • メモリの消費量が多い
  • 局所解にハマりやすい