均方误差

均方误差

提示:此条目的主题不是均方根误差。

在统计学中,平均平方誤差(mean-square error,MSE[1])或均方误差[2][3],又称均方偏差[4][5](mean-square deviation,MSD)、均方差[6][7],是预测值或估计值与真实值的差异平方的均值。均方误差越小说明模型的预测或者参数的估计精度越准确。

計算公式[编辑]

对于无法观察的参数

θ

{\displaystyle \theta }

的一个估计函数T;其定义为:

MSE

(

T

)

=

E

(

(

T

θ

)

2

)

,

{\displaystyle \operatorname {MSE} (T)=\operatorname {E} ((T-\theta )^{2}),}

即,它是“误差”的平方的期望值。误差就是估计值与被估计量的差。均方误差满足等式

MSE

(

T

)

=

var

(

T

)

+

(

bias

(

T

)

)

2

{\displaystyle \operatorname {MSE} (T)=\operatorname {var} (T)+(\operatorname {bias} (T))^{2}}

其中

bias

(

T

)

=

E

(

T

)

θ

,

{\displaystyle \operatorname {bias} (T)=\operatorname {E} (T)-\theta ,}

也就是说,偏差

bias

(

T

)

{\displaystyle \operatorname {bias} (T)}

是估计函数的期望值与那个无法观察的参数的差。

下边是一个具体例子。假设

X

1

,

,

X

n

N

(

μ

,

σ

2

)

,

{\displaystyle X_{1},\dots ,X_{n}\sim \operatorname {N} (\mu ,\sigma ^{2}),}

X

1

,

,

X

n

{\displaystyle X_{1},\dots ,X_{n}}

是一组来自正态分布的样本。常用的两个对σ2估计函数为:

1

n

i

=

1

n

(

X

i

X

¯

)

2

{\displaystyle {\frac {1}{n}}\sum _{i=1}^{n}\left(X_{i}-{\overline {X}}\,\right)^{2}\ }

1

n

1

i

=

1

n

(

X

i

X

¯

)

2

{\displaystyle {\frac {1}{n-1}}\sum _{i=1}^{n}\left(X_{i}-{\overline {X}}\,\right)^{2}}

其中

X

¯

=

(

X

1

+

+

X

n

)

/

n

{\displaystyle {\overline {X}}=(X_{1}+\cdots +X_{n})/n}

为样本均值。

第一个估计函数为最大似然估计,它是有偏的,即偏差不为零,但是它的方差比第二个小。而第二个估计函数是无偏的。较大的方差某种程度上补偿了偏差,因此第二个估计函数的均方误差比第一个要大。

另外,这两个估计函数的均方误差都比下边这个有偏估计函数大:

1

n

+

1

i

=

1

n

(

X

i

X

¯

)

2

{\displaystyle {\frac {1}{n+1}}\sum _{i=1}^{n}\left(X_{i}-{\overline {X}}\,\right)^{2}}

这个估计函数使得形如

c

i

=

1

n

(

X

i

X

¯

)

2

{\displaystyle c\sum _{i=1}^{n}\left(X_{i}-{\overline {X}}\,\right)^{2}}

(其中c是常数)的均方误差最小。

參見[编辑]

圖像壓縮

视频壓縮

平均百分比误差(英语:Mean percentage error)

均方量化误差(英语:Mean square quantization error)

加权均方误差(英语:Mean square weighted deviation)

均方偏移(英语:Mean squared displacement)

均方预测误差(英语:Mean squared prediction error)

最小均方误差

过拟合

峰值信噪比

外部链接[编辑]

测量图像以及视频均方误差的一些工具(页面存档备份,存于互联网档案馆)

这是一篇與統計學相關的小作品。您可以通过编辑或修订扩充其内容。查论编

^ Aapo Hyvärinen; Juha Karhunen, Erkki Oja. Independent Component Analysis. John Wiley & Sons. 2004: 81. ISBN 9780471464198. 引文使用过时参数coauthors (帮助)

^ 均方误差. 《中国大百科全书》第三版.

^ 均方誤差. 樂詞網. 國家教育研究院 (中文(臺灣)).

^ 张鸿林; 葛显良. 英汉数学词汇. 清华大学出版社有限公司. 2005: 433. ISBN 9787302098935. 引文使用过时参数coauthors (帮助)

^ 均方偏差. 樂詞網. 國家教育研究院 (中文(臺灣)).

^ 均方差. 术语在线. 全国科学技术名词审定委员会. (简体中文)

^ 均方差. 樂詞網. 國家教育研究院 (中文(臺灣)).

相关推荐