柴比雪夫不等式

此條目的主題是機率論的柴比雪夫不等式。關於牽涉到級數的不等式，請見「柴比雪夫總和不等式」。

柴比雪夫不等式（英語：Chebyshev's Inequality），是機率論中的一個不等式，顯示了隨機變數的「幾乎所有」值都會「接近」平均。在20世紀30年代至40年代刊行的書中，其被稱為比奈梅不等式（Bienaymé Inequality）或比奈梅-柴比雪夫不等式（Bienaymé-Chebyshev Inequality）。柴比雪夫不等式對任何分布數據都適用。

柴比雪夫不等式可表示為以下形式：對於任何隨機變數 $X$ 和實數 $b>0$，都有 $P(|X-E(X)|\geq b)\leq {\frac {Var(X)}{b^{2}}}$，其中 $E(X)$ 表示 $X$ 的數學期望值，$Var(X)$ 為 $X$ 的變異數。

概念

這個不等式以數量化這方式來描述，究竟「幾乎所有」是多少，「接近」又有多接近：

• 與平均相差2個標準差以上的值，數目不多於1/4
• 與平均相差3個標準差以上的值，數目不多於1/9
• 與平均相差4個標準差以上的值，數目不多於1/16

……

• 與平均相差k個標準差以上的值，數目不多於1/k²

舉例說，若一班有36個學生，而在一次考試中，平均分是80分，標準差是10分，我們便可得出結論：少於50分或多於110分（與平均相差3個標準差以上）的人，數目不多於4個（=36*1/9）。
公式：$P(\mu -k\sigma <X<\mu +k\sigma )\geq 1-{\frac {1}{k^{2}}}$

推論

測度論說法

設(X,Σ,μ)為一測度空間，f為定義在X上的廣義實值可測函數。對於任意實數t > 0，

$\mu (\{x\in X\,:\,\,|f(x)|\geq t\})\leq {1 \over t^{2}}\int _{X}f^{2}\,d\mu .$

一般而言，若g是非負廣義實值可測函數，在f的定義域非降，則有

$\mu (\{x\in X\,:\,\,f(x)\geq t\})\leq {1 \over g(t)}\int _{X}g\circ f\,d\mu .$

上面的陳述，可透過以|f|取代f，再取如下定義而得：

$g(t)={\begin{cases}t^{2}&{\mbox{if }}t\geq 0\\0&{\mbox{otherwise,}}\end{cases}}$

機率論說法

設$X$為隨機變數，期望值為$\mu$，標準差為$\sigma$。對於任何實數k>0，

$\Pr(\left|X-\mu \right|\geq k\sigma )\leq {\frac {1}{k^{2}}}.$

改進

一般而言，柴比雪夫不等式給出的上界已無法改進。考慮下面例子：

$\Pr(X=1)=\Pr(X=-1)=1/(2k^{2})$

$\Pr(X=0)=1-1/k^{2}$

這個分布的標準差$\sigma =1/k$，$\mu =0$。

對於任意分布形態的數據，根據柴比雪夫不等式，至少有 $1-1/k^{2}$ 的數據落在k個標準差之內。其中k>1，但不一定是整數。

當只求其中一邊的值的時候，有Cantelli不等式：

$\Pr(X-\mu \geq k\sigma )\leq {\frac {1}{1+k^{2}}}.$[1] （頁面存檔備份，存於網際網路檔案館）

證明

定義$~A_{t}:=\{x\in X\mid f(x)\geq t\}$，設$1_{A_{t}}$為集$~A_{t}$的指示函數，有

$0\leq g(t)1_{A_{t}}\leq g\circ f\,1_{A_{t}}\leq g\circ f,$

$g(t)\mu (A_{t})=\int _{X}g(t)1_{A_{t}}\,d\mu \leq \int _{A_{t}}g\circ f\,d\mu \leq \int _{X}g\circ f\,d\mu .$

又可從馬可夫不等式直接證明：馬氏不等式說明對任意隨機變數Y和正數a有$\Pr(|Y|>a)\leq \operatorname {E} (|Y|)/a$。取$Y=(X-\mu )^{2}$及$a=(k\sigma )^{2}$。

亦可從機率論的原理和定義開始證明：

$\Pr(|X-\mu |\geq k\sigma )=\operatorname {E} (I_{|X-\mu |\geq k\sigma })=\operatorname {E} (I_{[(X-\mu )/(k\sigma )]^{2}\geq 1})$

$\leq \operatorname {E} \left(\left({X-\mu \over k\sigma }\right)^{2}\right)={1 \over k^{2}}{\operatorname {E} ((X-\mu )^{2}) \over \sigma ^{2}}={1 \over k^{2}}.$

參見

• 馬可夫不等式
• 弱大數定律
• 大數定律

參考來源

• 《基本統計學 觀念與應用二版》，林惠玲 陳正倉 著
• 《應用統計學 第四版》 修訂版，林惠玲 陳正倉 著