158 L1正則化

一部のパラメータの値をゼロにすることで、特徴選択を行うことができる。

・L1正則化の特徴 :   変数選択(スパース性)と(回帰係数の)推定を同時に行える

つまり、特徴選択を行っていることになり、スパースモデルになる。0 が多いと疎行列で表現でき、高速に計算できる。しかし、L1 ノルムは評価関数に絶対値を含むため、非連続で微分不可能な点が存在する。勾配法を利用した最適化問題のアルゴリズムによっては変更が必要な場合がある。