條件獨立

在概率論和統計學中，兩事件R 和B 在給定的另一事件Y 發生時條件獨立，類似於統計獨立性，就是指當事件Y 發生時，R 發生與否和B 發生與否就條件概率分布而言是獨立的。換句話講，R 和B 在給定Y 發生時條件獨立，當且僅當已知Y 發生時，知道R 發生與否無助於知道B 發生與否，同樣知道B 發生與否也無助於知道R 發生與否。

定義

兩個說明條件獨立的例子。每個小方格都表示一種等概率的可能結果。事件R、B、Y分別用紅色、藍色、黃色陰影部分表示。事件R和B的重疊部分用紫色表示。這些事件發生的概率等於相應陰影部分面積和圖形總面積的比值。在這兩個例子中，事件R和B在給定Y時都是條件獨立的，這是因為 $\Pr(R\cap B\mid Y)=\Pr(R\mid Y)\Pr(B\mid Y)\,$
但給定Y不發生時，它們不是條件獨立的，這是因為 : $\Pr(R\cap B\mid {\bar {Y}})\not =\Pr(R\mid {\bar {Y}})\Pr(B\mid {\bar {Y}}).\,$

R和B在給定Y發生時條件獨立，用概率論的標準記號表示為

$\Pr(R\cap B\mid Y)=\Pr(R\mid Y)\Pr(B\mid Y)\,$

也可以等價地表示為

$\Pr(R\mid B\cap Y)=\Pr(R\mid Y).\,$

因為當事件Y發生時，R發生與否和B發生與否就條件概率分布而言是獨立的。

兩個隨機變量X和Y在給定第三個隨機變量Z的情況下條件獨立當且僅當它們在給定Z時的條件概率分布互相獨立，也就是說，給定Z的任一值，X的概率分布和Y的值無關，Y的概率分布也和X的值無關。

法則

從基本定義可導出一套描述條件獨立的重要法則。

因這些推論在任何機率空間中都成立，因此也對所有變量關於另一變量的條件概率分布成立，只需考慮相應子空間即可。譬如說$X\perp \!\!\!\perp Y\Rightarrow Y\perp \!\!\!\perp X$也就意味着$X\perp \!\!\!\perp Y\mid K\Rightarrow Y\perp \!\!\!\perp X\mid K$。

註：位於算式下方的逗號意為「和」。

對稱性

$X\perp \!\!\!\perp Y\quad \Rightarrow \quad Y\perp \!\!\!\perp X$

分解

$X\perp \!\!\!\perp A,B\quad \Rightarrow \quad {\text{ and }}{\begin{cases}X\perp \!\!\!\perp A\\X\perp \!\!\!\perp B\end{cases}}$

證明：

• $p_{X,A,B}(x,a,b)=p_{X}(x)p_{A,B}(a,b)$      ($X\perp \!\!\!\perp A,B$的定義)
• $\int _{B}\!p_{X,A,B}(x,a,b)=\int _{B}\!p_{X}(x)p_{A,B}(a,b)$      (對B積分以消去B)
• $p_{X,A}(x,a)=p_{X}(x)p_{A}(a)$     

同理可證X和B條件獨立。

微弱的聯合

$X\perp \!\!\!\perp A,B\quad \Rightarrow \quad {\text{ and }}{\begin{cases}X\perp \!\!\!\perp A\mid B\\X\perp \!\!\!\perp B\mid A\end{cases}}$

證明：

• 藉由定義$\Pr(X)=\Pr(X\mid A,B)$
• 由於分解的屬性$X\perp \!\!\!\perp B$, $\Pr(X)=\Pr(X\mid B)$
• 結合兩個等式得$\Pr(X\mid B)=\Pr(X\mid A,B)$，其中確認 $X\perp \!\!\!\perp A\mid B$第二個條件可以類似地被證明。

參見

• 條件期望