MSE MAE Loss
1. 均方誤差 (Mean Squared Error, MSE)
均方誤差(MSE)是所有預測誤差的平方的平均值。它的數學公式為:
\[
MSE = \frac{1}{n} \sum_{i=1}^{n} (y_i - \hat{y}_i)^2
\]
其中:
- \(n\) 是樣本的數量。
- \(y_i\) 是第 \(i\) 個樣本的真實值(標籤)。
- \(\hat{y}_i\) 是第 \(i\) 個樣本的預測值。
- \((y_i - \hat{y}_i)\) 是預測誤差。
運算過程範例 :
假設有 3 個樣本,真實值 \(y = [3, -0.5, 2]\),預測值 \(\hat{y} = [2.5, 0.0, 2]\),計算 MSE 的步驟如下:
- 計算每個樣本的誤差:
- 第一個樣本誤差:\(3 - 2.5 = 0.5\)
- 第二個樣本誤差:\(-0.5 - 0 = -0.5\)
- 第三個樣本誤差:\(2 - 2 = 0\)
- 計算每個誤差的平方:
- 第一個樣本誤差平方:\((0.5)^2 = 0.25\)
- 第二個樣本誤差平方:\((-0.5)^2 = 0.25\)
- 第三個樣本誤差平方:\((0)^2 = 0\)
- 計算誤差平方的平均值: $$ MSE = \frac{1}{3} \left( 0.25 + 0.25 + 0 \right) = \frac{0.5}{3} = 0.1667 $$
因此,這組數據的 MSE 值為 0.1667 。
2. 平均絕對誤差 (Mean Absolute Error, MAE)
平均絕對誤差(MAE)是所有預測誤差的絕對值的平均值。它的數學公式為:
\[
MAE = \frac{1}{n} \sum_{i=1}^{n} |y_i - \hat{y}_i|
\]
其中:
- \(n\) 是樣本的數量。
- \(y_i\) 是第 \(i\) 個樣本的真實值(標籤)。
- \(\hat{y}_i\) 是第 \(i\) 個樣本的預測值。
- \(|y_i - \hat{y}_i|\) 是預測誤差的絕對值。
運算過程範例 :
使用與前面相同的數據:真實值 \(y = [3, -0.5, 2]\),預測值 \(\hat{y} = [2.5, 0.0, 2]\),計算 MAE 的步驟如下:
- 計算每個樣本誤差的絕對值:
- 第一個樣本誤差:\(|3 - 2.5| = 0.5\)
- 第二個樣本誤差:\(|-0.5 - 0| = 0.5\)
- 第三個樣本誤差:\(|2 - 2| = 0\)
- 計算絕對誤差的平均值: $$ MAE = \frac{1}{3} \left( 0.5 + 0.5 + 0 \right) = \frac{1}{3} = 0.3333 $$
因此,這組數據的 MAE 值為 0.3333 。
3. 比較 MSE 和 MAE
- MSE 對大誤差更加敏感,因為誤差被平方了,因此較大的誤差會對 MSE 值產生更大的影響。
- MAE 則是對所有誤差的平均,對每個誤差的影響程度是一致的,不會像 MSE 那樣對大誤差進行過度放大。
小結
- MSE 和 MAE 都是衡量預測誤差的指標,但選擇哪一個取決於具體應用場景。如果對大誤差比較敏感,可以選擇 MSE;如果更關心所有誤差的一致性,則 MAE 更為合適。
希望這個詳細的解釋和範例有幫助!