検定模擬問題(3) 問191 解答

解答:

③ VGGNetでは層を深くしすぎると勾配が消失または爆発し、性能が落ちるという問題があったが、ResNetではそれを「スキップ構造」によって解決し、性能を上げながら152層もの深さを実現した。

理由:

  • VGGNetでは層を深くすることで性能が向上するが、あまりにも層が深くなると勾配消失や勾配爆発の問題が発生しやすくなります。一方、ResNetでは「スキップ構造」(または「残差接続」)を導入することで、勾配消失や勾配爆発の問題を回避し、非常に深いネットワーク(152層以上)でも安定して学習できるようにしました。

問題