435 ミニバッチ勾配法

いくつかの訓練データからランダムにサンプリングしたミニバッチと呼ばれるデータの集まりを用 意し、ミニバッチごとに重みを1 回更新する学習方法。

ミニバッチ勾配降下法 は、SGDとバッチ勾配降下法の間をとった方法になります。 データの一部を利用 して、関数の最小値を探索します。 特徴としては、SGDとバッチ勾配降下法のハイブリッドであるので、それぞれの良い点と悪い点の両方を持っています。 そのため、バランスの良い手法と言えます。 バッチ勾配降下法とSGDのそれぞれのメリットがある