正しい選択肢は:
① リカレントニューラルネットワーク (RNN) で用いられる誤差逆伝播法である。
解説:
BPTT(Backpropagation Through Time)は、リカレントニューラルネットワーク(RNN)の学習に使用される誤差逆伝播法です。 RNNでは、時系列データやシーケンスデータを処理するために、時間方向に再帰的な構造が取り入れられています。
BPTTは、この構造における誤差を過去の時間ステップに遡って伝播させ、重みを更新します。
BPTTの特徴:
1.時間方向への逆伝播:
・時系列データの各時間ステップで発生する誤差を計算し、過去の時間ステップに遡って誤差を伝播します。
2.勾配消失問題:
・長いシーケンスを扱う場合、BPTTは勾配消失問題(または勾配爆発問題)に直面することがあります。
この問題を緩和するために、LSTMやGRUといった特殊なRNNアーキテクチャが利用されます。
他の選択肢の説明:
②ネットワークの入力層に近い層から順に学習する時に用いられる誤差逆伝播法である
誤差逆伝播法(Backpropagation)は通常、出力層から入力層方向に誤差を伝播します。この説明は誤りです。
③深いネットワークでは,誤差が最後まで正しく反映されなくなる問題を解消した誤差逆伝播法である
これはBPTTではなく、例えばResNet(Residual Networks)や正則化手法の効果に関連した説明です。
④畳み込みニューラルネットワーク(CNN)で用いられる誤差逆伝播法である
CNNで使用される誤差逆伝播は、通常のバックプロパゲーションであり、時間方向の考慮が必要なBPTTとは異なります。

