みにばっちがくしゅう
ミニバッチ学習
データを一定の小さな集団に分け、その単位ごとに勾配を計算してパラメータを更新する手法です。バッチ学習の安定性と確率的勾配降下法の効率を両立し、学習において最も一般的です。
詳しい説明
データを一定の小さなサイズ(ミニバッチ)に分割し、その単位ごとに勾配を計算してパラメータを更新する手法です。バッチ学習の安定性と確率的勾配降下法の高速さを兼ね備えており、現代のディープラーニング学習において最も一般的に使われる方式です。バッチサイズはハイパーパラメータとして設定されます。
試験で問われること
G検定(ジェネラリスト検定)
- 現代のディープラーニング学習において最も一般的に使われます。
- バッチサイズがハイパーパラメータとして設定されます。
- メモリ効率と収束速度のバランスが優れています。