Skip to content

MSE MAE Loss

1. 均方誤差 (Mean Squared Error, MSE)

均方誤差(MSE)是所有預測誤差的平方的平均值。它的數學公式為:

\[ MSE = \frac{1}{n} \sum_{i=1}^{n} (y_i - \hat{y}_i)^2 \]

其中:

  • \(n\) 是樣本的數量。
  • \(y_i\) 是第 \(i\) 個樣本的真實值(標籤)。
  • \(\hat{y}_i\) 是第 \(i\) 個樣本的預測值。
  • \((y_i - \hat{y}_i)\) 是預測誤差。

運算過程範例

假設有 3 個樣本,真實值 \(y = [3, -0.5, 2]\),預測值 \(\hat{y} = [2.5, 0.0, 2]\),計算 MSE 的步驟如下:

  1. 計算每個樣本的誤差:
  2. 第一個樣本誤差:\(3 - 2.5 = 0.5\)
  3. 第二個樣本誤差:\(-0.5 - 0 = -0.5\)
  4. 第三個樣本誤差:\(2 - 2 = 0\)
  5. 計算每個誤差的平方:
  6. 第一個樣本誤差平方:\((0.5)^2 = 0.25\)
  7. 第二個樣本誤差平方:\((-0.5)^2 = 0.25\)
  8. 第三個樣本誤差平方:\((0)^2 = 0\)
  9. 計算誤差平方的平均值: $$ MSE = \frac{1}{3} \left( 0.25 + 0.25 + 0 \right) = \frac{0.5}{3} = 0.1667 $$

因此,這組數據的 MSE 值為 0.1667

2. 平均絕對誤差 (Mean Absolute Error, MAE)

平均絕對誤差(MAE)是所有預測誤差的絕對值的平均值。它的數學公式為:

\[ MAE = \frac{1}{n} \sum_{i=1}^{n} |y_i - \hat{y}_i| \]

其中:

  • \(n\) 是樣本的數量。
  • \(y_i\) 是第 \(i\) 個樣本的真實值(標籤)。
  • \(\hat{y}_i\) 是第 \(i\) 個樣本的預測值。
  • \(|y_i - \hat{y}_i|\) 是預測誤差的絕對值。

運算過程範例

使用與前面相同的數據:真實值 \(y = [3, -0.5, 2]\),預測值 \(\hat{y} = [2.5, 0.0, 2]\),計算 MAE 的步驟如下:

  1. 計算每個樣本誤差的絕對值:
  2. 第一個樣本誤差:\(|3 - 2.5| = 0.5\)
  3. 第二個樣本誤差:\(|-0.5 - 0| = 0.5\)
  4. 第三個樣本誤差:\(|2 - 2| = 0\)
  5. 計算絕對誤差的平均值: $$ MAE = \frac{1}{3} \left( 0.5 + 0.5 + 0 \right) = \frac{1}{3} = 0.3333 $$

因此,這組數據的 MAE 值為 0.3333

3. 比較 MSE 和 MAE

  • MSE 對大誤差更加敏感,因為誤差被平方了,因此較大的誤差會對 MSE 值產生更大的影響。
  • MAE 則是對所有誤差的平均,對每個誤差的影響程度是一致的,不會像 MSE 那樣對大誤差進行過度放大。

小結

  • MSEMAE 都是衡量預測誤差的指標,但選擇哪一個取決於具體應用場景。如果對大誤差比較敏感,可以選擇 MSE;如果更關心所有誤差的一致性,則 MAE 更為合適。

希望這個詳細的解釋和範例有幫助!