![](//upload.wikimedia.org/wikipedia/commons/thumb/5/5f/Disambig_gray.svg/25px-Disambig_gray.svg.png)
「
均方差」重定向至此。關於均方誤差(MSE),詳見「
均方誤差」;關於均方根誤差(RMSE),詳見「
均方根誤差」。
图中红蓝两组数据平均值相同,但标准差不同。红色数据的标准差较蓝色数据的标准差要小。
標準差,又稱標準偏差、均方差 (英語:standard deviation,縮寫SD,符號σ),在概率統計中最常使用作為測量一組數值的離散程度之用。標準差定義:為方差開算术平方根,反映组内個體間的離散程度;標準差與期望值之比為標準離差率。測量到分佈程度的結果,原則上具有兩種性質:
- 為非負數值(因為平方後再做平方根);
- 與測量資料具有相同單位(這樣才能比對)。
一個總量的標準差或一個隨機變數的標準差,及一個子集合樣品數的標準差之間,有所差別。其公式如下所列。
標準差的概念由卡爾·皮爾森引入到統計中。
簡單來說,標準差是一組數值自平均值分散開來的程度的一種測量觀念。一個較大的標準差,代表大部分的數值和其平均值之間差異較大;一個較小的標準差,代表這些數值較接近平均值。
例如,兩組數的集合{0, 5, 9, 14}和{5, 6, 8, 9}其平均值都是7,但第二個集合具有較小的標準差。
表述“相差
个标准差”,即在
的样本(sample)范围内考量。
標準差可以當作不確定性的一種測量。例如在物理科學中,做重複性測量時,測量數值集合的標準差代表這些測量的精確度。當要決定測量值是否符合預測值,測量值的標準差佔有決定性重要角色:如果測量平均值與預測值相差太遠(同時與標準差數值做比較),則認為測量值與預測值互相矛盾。這很容易理解,因為如果測量值都落在一定數值範圍之外,可以合理推論預測值是否正確。
標準差應用於投資上,可作為量度回報穩定性的指標。標準差數值越大,代表回報遠離過去平均數值,回報較不穩定故風險越高。相反,標準差數值越小,代表回報較為穩定,風險亦較小。
![{\displaystyle \sigma ={\sqrt {{\frac {1}{N}}\sum _{i=1}^{N}(x_{i}-\mu )^{2}}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/cc45b72e1fd6a3de3ec4977f42367f104f57583f)
为平均值。
上述公式可以如下代換而簡化:
![{\displaystyle {\begin{aligned}\sum _{i=1}^{N}(X_{i}-\mu )^{2}&={}\sum _{i=1}^{N}(X_{i}^{2}-2X_{i}\mu +\mu ^{2})\\&{}=\left(\sum _{i=1}^{N}X_{i}^{2}\right)-\left(2\mu \sum _{i=1}^{N}X_{i}\right)+N\mu ^{2}\\&{}=\left(\sum _{i=1}^{N}X_{i}^{2}\right)-2\mu (N\mu )+N\mu ^{2}\\&{}=\left(\sum _{i=1}^{N}X_{i}^{2}\right)-2N\mu ^{2}+N\mu ^{2}\\&{}=\left(\sum _{i=1}^{N}X_{i}^{2}\right)-N\mu ^{2}\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/cb4f2aa4baf87357ada5b80b8c3ec8550b021ee5)
所以:
![{\displaystyle {\begin{aligned}\sigma &={\sqrt {{\frac {1}{N}}\sum _{i=1}^{N}(X_{i}-\mu )^{2}}}\\&={\sqrt {{\frac {1}{N}}\left(\sum _{i=1}^{N}X_{i}^{2}\right)-{\frac {1}{N}}N\mu ^{2}}}\\&={\sqrt {{\frac {\sum _{i=1}^{N}X_{i}^{2}}{N}}-\mu ^{2}}}\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/3381eac704a473e18a01c4960f2947b4ad74f68c)
根號裡面,亦即變異數(
)的簡易口訣為:「平方的平均」減去「平均的平方」。
一隨機變量
的標準差定義為:
![{\displaystyle \sigma ={\sqrt {\operatorname {E} ((X-\operatorname {E} (X))^{2})}}={\sqrt {\operatorname {E} (X^{2})-(\operatorname {E} (X))^{2}}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/37da271af560b893c0f24ecbfbe4cef7a5e7b972)
須注意並非所有隨機變量都具有標準差,因為有些隨機變量不存在期望值。
如果隨機變量
為
具有相同機率,則可用上述公式計算標準差。
若
是由實數
構成的離散隨機變數(英語:discrete random variable),且每個值的機率相等,則
的標準差定義為:
,其中 ![{\displaystyle \mu ={\frac {1}{N}}(x_{1}+\cdots +x_{N})}](https://wikimedia.org/api/rest_v1/media/math/render/svg/3a08708acf84e2862eb41a7640d4606b2c8faa91)
換成用
來寫,就成為:
,其中 ![{\displaystyle \mu ={\frac {1}{N}}(x_{1}+\cdots +x_{N})}](https://wikimedia.org/api/rest_v1/media/math/render/svg/3a08708acf84e2862eb41a7640d4606b2c8faa91)
目前為止,與母體標準差的基本公式一致。
然而若每個
可以有不同機率
,則
的标准差定義為:
,其中 ![{\displaystyle \mu =\sum _{i=1}^{N}p_{i}x_{i}.}](https://wikimedia.org/api/rest_v1/media/math/render/svg/27f5c06426d81ac551bd4786e729766b90a42bd3)
这里,
为
的数学期望。
若
為概率密度
的连续随机变量(英語:continuous random variable),則
的标准差定義為:
![{\displaystyle \sigma ={\sqrt {\int (x-\mu )^{2}\,f(x)\,dx}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/f7dd0ec14b5679e2656c6b0b008f72e8d5c6292f)
其中
为
的数学期望:
![{\displaystyle \mu =\int x\,f(x)\,dx}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a8a1611bfd61ef0e36a5c03041768c5f20473ca1)
对于常数
和随机变量
和
:
![{\displaystyle \sigma (X+c)=\sigma (X)}](https://wikimedia.org/api/rest_v1/media/math/render/svg/971449634524076173a0ecfc8957c37602d3ef11)
![{\displaystyle \sigma (cX)=c\cdot \sigma (X)}](https://wikimedia.org/api/rest_v1/media/math/render/svg/437ccac637dfd150ac11f786b10705ac8c1a32bd)
- 其中:
表示随机变量
和
的协方差。
表示
,即
(
的變異數),對
亦同。
在真实世界中,找到一个总体的真实的标准差並不實際。大多数情况下,总体标准差是通过随机抽取一定量的样本并计算样本标准差估计的。
從一大組數值
當中取出一樣本數值組合
,常定義其樣本標準差:
![{\displaystyle s={\sqrt {{\frac {1}{n-1}}\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/b237f5364b10cd6b59ea6bc610af25c66aba94e0)
样本方差
是对总体方差
的无偏估计。之所以
中的分母要用
而不是像总体样本差那样用
,是因为
的自由度为
,这是由于存在约束条件
。
這裡示範如何計算一組數的標準差。例如一群孩童年齡的數值為{5, 6, 8, 9}:
- 第一步,計算平均值
︰
![{\displaystyle {\overline {x}}={\frac {1}{N}}\sum _{i=1}^{N}x_{i}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/269c0c2d794f2caa3e7c35c8de0a91d5d555e7c1)
- 當
(因為集合裏有4個數),分別設為:
![{\displaystyle {\begin{aligned}x_{1}&=5,\\x_{2}&=6,\\x_{3}&=8,\\x_{4}&=9,\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/9e2fd6b1c672794267719a4c6a90d2a9740fd989)
則平均值為
![{\displaystyle {\begin{aligned}{\overline {x}}&={\frac {1}{4}}\sum _{i=1}^{4}x_{i}&(N=4)\\&={\frac {1}{4}}\left(x_{1}+x_{2}+x_{3}+x_{4}\right)\\&={\frac {1}{4}}\left(5+6+8+9\right)\\&=7.\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/2d4211e852a46bfaaa4a6d9405b85c58346f81a1)
- 第二步,計算標準差
︰
![{\displaystyle {\begin{aligned}\sigma &={\sqrt {{\frac {1}{N}}\sum _{i=1}^{N}(x_{i}-{\overline {x}})^{2}}}\\&={\sqrt {{\frac {1}{4}}\sum _{i=1}^{4}(x_{i}-{\overline {x}})^{2}}}&(N=4)\\&={\sqrt {{\frac {1}{4}}\sum _{i=1}^{4}(x_{i}-7)^{2}}}&({\overline {x}}=7)\\&={\sqrt {{\frac {1}{4}}\left[(x_{1}-7)^{2}+(x_{2}-7)^{2}+(x_{3}-7)^{2}+(x_{4}-7)^{2}\right]}}\\&={\sqrt {{\frac {1}{4}}\left[(5-7)^{2}+(6-7)^{2}+(8-7)^{2}+(9-7)^{2}\right]}}\\&={\sqrt {{\frac {1}{4}}\left((-2)^{2}+(-1)^{2}+1^{2}+2^{2}\right)}}\\&={\sqrt {{\frac {1}{4}}\left(4+1+1+4\right)}}\\&={\sqrt {\frac {10}{4}}}\\&\approx 1.58114\,.\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/f70d5a82e6a7e5dd0127f7d62f36be9144c94119)
深藍區域是距平均值小於一個標準差之內的數值範圍,在常態分佈中,此範圍所佔比率為全部數值之68%;兩個標準差之內(深藍,藍)的比率合起來為95%;三個標準差之內(深藍,藍,淺藍)的比率合起來為99.7%。
在實際應用上,常考慮一組數據具有近似於常態分佈的機率分佈。若其假設正確,則約68%數值分佈在距離平均值有1個標準差之內的範圍,約95%數值分佈在距離平均值有2個標準差之內的範圍,以及約99.7%數值分佈在距離平均值有3個標準差之內的範圍。稱為「68-95-99.7法則」。
![{\displaystyle f(x;\mu ,\sigma ^{2})={\frac {1}{\sigma {\sqrt {2\pi }}}}e^{-{\frac {1}{2}}\left({\frac {x-\mu }{\sigma }}\right)^{2}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a9e66f831f31efc53adc1663d3fc80f0f6307061)
![{\displaystyle {\text{Proportion}}=\operatorname {erf} \left({\frac {z}{\sqrt {2}}}\right)}](https://wikimedia.org/api/rest_v1/media/math/render/svg/1f147e9e44560be306bf3c3c09f75790b9cc795f)
.[1]
Percentage within(z)
z(Percentage within)
數字比率 標準差值
|
機率
|
包含之外比例
|
百分比
|
百分比
|
比例
|
0.318 639σ
|
25%
|
75%
|
3 / 4
|
6999674490000000000♠0.674490σ
|
7001500000000000000♠50%
|
7001500000000000000♠50%
|
1 / 7000200000000000000♠2
|
6999994458000000000♠0.994458σ
|
68%
|
32%
|
1 / 3.125
|
1σ
|
7001682689492000000♠68.2689492%
|
7001317310508000000♠31.7310508%
|
1 / 7000315148720000000♠3.1514872
|
7000128155200000000♠1.281552σ
|
80%
|
20%
|
1 / 5
|
7000164485400000000♠1.644854σ
|
90%
|
10%
|
1 / 10
|
7000195996400000000♠1.959964σ
|
95%
|
5%
|
1 / 20
|
2σ
|
7001954499736000000♠95.4499736%
|
7000455002640000000♠4.5500264%
|
1 / 7001219778950000000♠21.977895
|
7000257582900000000♠2.575829σ
|
99%
|
1%
|
1 / 100
|
3σ
|
7001997300204000000♠99.7300204%
|
6999269979600000000♠0.2699796%
|
1 / 370.398
|
7000329052700000000♠3.290527σ
|
99.9%
|
0.1%
|
1 / 7003100000000000000♠1000
|
7000389059200000000♠3.890592σ
|
99.99%
|
0.01%
|
1 / 7004100000000000000♠10000
|
4σ
|
7001999936660000000♠99.993666%
|
6997633400000000000♠0.006334%
|
1 / 7004157870000000000♠15787
|
7000441717300000000♠4.417173σ
|
99.999%
|
0.001%
|
1 / 7005100000000000000♠100000
|
7000450000000000000♠4.5σ
|
99.9993204653751%
|
0.0006795346249%
|
1 / 7005147159535800000♠147159.5358 3.4 / 7006100000000000000♠1000000 (每一邊)
|
7000489163800000000♠4.891638σ
|
7001999999000000000♠99.9999%
|
6996100000000000000♠0.0001%
|
1 / 7006100000000000000♠1000000
|
5σ
|
7001999999426697000♠99.9999426697%
|
6995573303000000000♠0.0000573303%
|
1 / 7006174427800000000♠1744278
|
7000532672399999999♠5.326724σ
|
7001999999900000000♠99.99999%
|
6995100000000000000♠0.00001%
|
1 / 7007100000000000000♠10000000
|
7000573072900000000♠5.730729σ
|
7001999999990000000♠99.999999%
|
6994100000000000000♠0.000001%
|
1 / 7008100000000000000♠100000000
|
7000600000000000000♠6σ
|
7001999999998027000♠99.9999998027%
|
6993197300000000000♠0.0000001973%
|
1 / 7008506797346000000♠506797346
|
7000610941000000000♠6.109410σ
|
7001999999999000000♠99.9999999%
|
6993100000000000000♠0.0000001%
|
1 / 7009100000000000000♠1000000000
|
7000646695100000000♠6.466951σ
|
7001999999999900000♠99.99999999%
|
6992100000000000000♠0.00000001%
|
1 / 7010100000000000000♠10000000000
|
7000680650200000000♠6.806502σ
|
7001999999999990000♠99.999999999%
|
6991100000000000000♠0.000000001%
|
1 / 7011100000000000000♠100000000000
|
7σ
|
99.9999999997440%
|
6990256000000000000♠0.000000000256%
|
1 / 7011390682215445000♠390682215445
|
一組數據的平均值及標準差常常同時作為參考的依據。从某种意义上说,如果用平均值來考量數值的中心的话,則標準差也就是对统计的分散度的一个“自然”的测度。因为由平均值所得的标准差要小于到其他任何一个点的标准差。較確切的敘述為:設
為實數,定義函数:
![{\displaystyle \sigma (\mu )={\sqrt {{\frac {1}{N}}\sum _{i=1}^{N}(x_{i}-\mu )^{2}}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/9b69670d2d67aa5818c03f3a520a547a583004fe)
使用微積分或者通过配方法,不難算出
在下面情況下具有唯一最小值:
![{\displaystyle \mu ={\overline {x}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/13fda768bc769b0889b69e157aef738fd5cec0ad)
从几何学的角度出发,标准差可以理解为一个从
维空间的一个点到一条直线的距离的函数。举一个简单的例子,一组数据中有3个值,
。它们可以在3维空间中确定一个点
。想像一条通过原点的直线
。如果这组数据中的3个值都相等,则点
就是直线
上的一个点,
到
的距离为0,所以标准差也为0。若这3个值不都相等,过点
作垂线
垂直于
,
交
于点
,则
的坐标为这3个值的平均数:
![{\displaystyle R=({\overline {x}},{\overline {x}},{\overline {x}})}](https://wikimedia.org/api/rest_v1/media/math/render/svg/6234d424f308b7a1d483fe1aae1d09627614a498)
运用一些代数知识,不难发现点
与点
之间的距离(也就是点
到直线
的距离)是
。在
维空间中,这个规律同样适用,把
换成
就可以了。