共變異矩陣之反矩陣－劉應興的部落格

考慮一個隨機向量 Y，其共變異矩陣為 V。將 V 分割成 2×2 區塊矩陣如如下：

V = [ A B ]
[ B' C ]

其中 A, C 為對稱方陣。這代表 Y 被分割為 Y' = [Y1' Y2']，而 A = Cov(Y1), C = Cov(Y2), 故 B = Cov(Y1, Y2)。設其反矩陣亦同樣分割為 2×2 共 4 個部分，

A^{-1} = [ α β ]
[ β' γ ]

則得

α = (A-BC^{-1}B')^{-1}
β = -A^{-1}B(C-B'A^{-1}B)^{-1}' = -(A-BC^{-1}B')^{-1}BC^{-1}
γ = (C-B'A^{-1}B)^{-1}

如果我們建立 Y1 與 Y2 的擬線性關係

Y1 = G'(Y2) + e

則，在最小平方準則下，

G = (Cov(Y2))^{-1}Cov(Y2, Y1)

故其「殘差」e 之共變異矩陣為

Cov(e) = Cov(Y1) - Cov(Y1, Y2) (Cov(Y2))^{-1} Cov(Y2, Y1)
= A - B C^{-1} B' = α^{-1}

如果 A 是 1×1 矩陣（相當於純量），也就是說 Y1 是單變量，Y2 就是 Y 中除 Y1 以外的其他變數，則 α 也是純量，而 1/α 等於 Y1 不能用 Y2 的線形式解釋的變異。所以 V^{-1} 的主對角線元素的倒數，就是 Y 之各成分變數不能被其他變數（之線形式）所解釋的變異。

V 之主對角線元素是 Y 之各成分變數的變異數；

(diag(V^{-1}))^{-1} 之主對角線元素是 Y 之各成分變數被其他變數之線形式解釋後之殘餘的變異數。

若 A 是 2×2 矩陣，α 也是，而且

Cov(e) = Cov(Y1 - B' Y2)
= A - B C^{-1} B' = α^{-1}

假設 Y 之中有 m 個（成分）變數，Y1 是其中兩個，邢 Y2 是其餘 m-2 個。則 2×2 矩陣 α^{-1} 是 Y1 中兩變數分別用 Y2 中 m-2 個變數做（緞形）調整後的殘餘量的共變異矩陣，其主對角線外元素就是 Y1 中兩變數（被 Y2 調整後）的「偏共變異數 (partial covariance)」：

V 的非主對角線元素，是對應兩變數的共變異數；

V^{-1} 的非主對角線元素，連同對應的兩主對角線元素，構成 2×2 對稱方陣，然後取其反矩陣，則（主對角線外）得兩元素被其他元素調整後之偏共變異數 (partial covariance).。

設 V^{-1} = [p(ij)], 當 α 是 2×2 矩陣時，

α^{-1} = [ p(11) p(12) ]^{-1}
[ p(21) p(22) ]

= [ p(22) -p(21) ] 　／
[ -p(12) p(11) ]／ (p(11)p(22)-p(12)p(21))

故 Y 中兩成分 Yi 與 Yj 之偏共變異數為

pCov(Yi, Yj) = -p(ij)/(p(ii)p(jj)-p(ij)^2)

而其偏相關係數為

pCorr(Yi, Yj) = -p(ij)/√(p(ii)p(jj))

即：由 V 之反矩陣，可計算 Y 中任兩成分變數 Yi, Yj 調整其他成分變數後之偏相關係數如上。

設 diag(M) 表示取方陣 M 之主對角線元素構成的對角線矩陣，則

(diag(V^{-1}))^{-1} = diag(1/p(11), 1/p(22), ...)