G検定模擬問題(4) 問53 解答

正しい選択肢は:
④ スキップ結合

解説:
2015年に発表されたResNet(Residual Network)の大きな革新点は、スキップ結合(Skip Connection)(またはResidual Connection)を導入したことです。 スキップ結合の概要:
◼ スキップ結合では、層を飛び越えて入力をそのまま後続の層に加える仕組みを取り入れています。
◼ 数式で表すと、出力は次のように計算されます:

スキップ結合のメリット:
◼ 勾配消失問題の緩和:
 ・ 非線形層を通過した後も、入力情報が直接伝播されるため、深いネットワークでも勾配が保たれます。
◼ 学習効率の向上:
 ・ 学習初期段階での収束が速くなり、高いパフォーマンスを発揮します。

他の選択肢の説明:
1.プーリング層
 ・プーリング層(Pooling Layer)は画像データの特徴を縮小するための一般的な層ですが、ResNet独自のモジュールではありません。
2.Attention
 ・ Attentionは主にTransformerや関連モデルで使用される技術で、ResNetの構造には含まれていません。
3.グローバルアベレージプーリング(GAP)
 ・ ResNetの最後の層に用いられる場合もありますが、ネットワーク全体の特長ではなく、特に革新的な要素とは言えません。

問題