４３６　損失関数

機械学習において学習をする際、正解と予測の誤差が少なくなるように虚さやバイアスといったパラメータを変更する関数。

機械学習における損失関数（Loss function）とは、「正解値」と、モデルによる出力された「予測値」とのズレの大きさ（これを「Loss：損失」と呼ぶ）を計算するための関数である。この損失の値を最小化／最大化することで、機械学習モデルを最適化する。
例えば機械学習の一手法であるニューラルネットワークでは、損失関数は誤差逆伝播法（バックプロパゲーション：Back-propagation）と呼ばれる最適化の処理で用いられる。ちなみに誤差逆伝播法では、損失関数は誤差関数（Error function）とも呼ばれる。

損失関数にはさまざまなものがあるが、特に平均二乗誤差（MSE：Mean Squared Error）が有名である。他には、平均絶対誤差（MAE）や平均二乗誤差の平方根（RMSE）、平均二乗対数誤差（MSLE）、Huber損失、ポアソン損失、ヒンジ損失、カルバック-ライブラー情報量（KLD）などがある。これらは、モデルの性能を評価するための評価関数として使われることもある。