劉應興的部落格

假設 P{A} 未知，λ = P{B|A}, μ = P{B|A'} 已知，能否由 b = P{B} 推知 P{A}？

設 x = P{A}，則 P{B} = x P{B|A} + (1-x) P{B|A'}，因此可解出 x = P{A} = (b-μ)/(λ-μ)。

如果 P{B} 是估計的，則由 x = b/(λ-μ) - μ/(λ-μ) 得

Var(x) = Var(b)/(λ-μ)^2

現在假設空間被兩種方式分割為 {Ai, i = 1, ..., k} 和 {Bj, j = 1, ..., h}。假設 P{Bj|Ai} 都已知，則

P{Bj} = Σ_i  P{Ai}P{Bj|Ai},  j = 1, ..., h

用矩陣表示，

r = T p

其中 r 是由 P{Bj} 構成的行向量，p 是 P{Ai} 構成的行向量，T(j,i) = P{Bj|Ai} 是 T 矩陣第 j 列第 i 行元素。則依定義，r 是 C(T) 的元素，

T p = T (T'T)^- T' r

式中 T' 是 T 的轉置，上標 "^-" 代表廣義反矩陣，即：M^- 滿足 M M^- M = M。但除非 T 是行滿秩 (full column rank)，否則無法得 p 的解。在 T 是行滿秩的情形，

p = (T'T)^{-1} T' r

若 r 是估計的，且知其共變異矩陣，則亦可得

Cov(p) = (T'T)^{-1} T' Cov(r) T (T'T)^{-1} 

若實際上 r = Tp, 但 T 需用估計或近似 T*，並估計

p* = (T*'T/8)^{-1} T*' p

故

p* - p = [(T*'T*)^{-1}T*' -  (T'T)^{-1} T'] r
       = [(T'T)^{-1}(T'T-T*'T*)(T*'T*)^{-1}T*'r  + (T'T)^{-1}(T*'-T')r

這是假設 r 沒有估計誤差時，並且假設 T* 與 T 的誤差是非隨機性的。若 r 是有估計誤差的，令

A = (T'T)^{-1} T' ;  A* = (T*'T*)^{-1} T*']

則

E[((A*-A)r)((A*-A)r)']  = (A*-A) Cov(r) (A*-A)'

其中

A* - A = [(T'T)^{-1}(T'T-T*'T*)(T*'T*)^{-1}T*' + (T'T)^{-1}(T*'-T')

設 {Ai}, {Bj} 分別以隨機變數 X, Y 代替，也就是我們知道給定 X = x 時 Y = y 的條件機率密度 f(y|x)，並且能估計 Y 的邊際機率密度，是否能估計 X 的邊際分布 g(x)？

h(y) = ∫_R f(y|x) g(x) dx,  求 g(x)

我不知有無這問題的論文，不過倒是可以考慮一個離散化的方法：把 X 的值域分割為 ∪Ai，Y 的值域分割為 ∪Bj，則

P{Bj} = ∫_{y in Bj} ∫_R f(y|x) g(x) dx dy
      = ∫_{y in Bj} Σ_i ∫_{x in Ai} f(y|x) g(x) dx dy
      = Σ_i ∫_{y in Bj} f(y|x_i) ∫_{x in Ai} g(x) dx dy
      = Σ_i P{Y in Bj| X = x_i} P{X in Ai}

式中 x_i 是在 Ai 中的一點，這裡假設我們能引用積分之平均值定理，但我們卻無法確定 x_i 如何在 Ai 中選擇，只能概估。於是，問題成為前面 r = Tp 而 T 用 T* 代替的情形。