實數值隨機變數是定義在樣本空間上的幾乎確定有限實數值函數。具體地說:X 是一個隨機變數,意指
1. X 是定義在樣本空間 Ω 的延伸實數值函數。
2. X 是可測的。
3. X 是幾乎確定有限值的。
因此,所謂隨機變數涉及的不只是樣本空間 Ω,而是一個機率空間 (Ω, F, P);而 X 的對應域不只是實數集 R 而是所謂「延續實數集」R* = R∪{-∞.+∞},並在 R* 上建立了 Borel 集 B, 而 X 是 (F, B)-可測。但 P[X in {-∞,+∞}] = 0 或說 P[|X|<∞] = 1。無論如何,(實數值)隨機變數是定義在某個集合的實數值函數,如同定義在數線 R 或歐氏空間 R^n 的實數值函數一般,兩函數可以其函數值比大小排順序:
若 X(ω) ≦ Y(ω) for all ω in Ω, 則 X ≦ Y,稱 X 小於或等於 Y。
當 X ≦ Y 時,還可考慮是否存在 ω in Ω 使 X(ω) < Y(ω),再者是否 P[X<Y] > 0。若 for all ω in Ω 均得 X(ω) < Y(ω),可寫為 X < Y;或者 P[X<Y] = 1 則是 X < Y a.s.(或 a.c.)。
定義在機率空間 (Ω, F, P) 的隨機變數很可能不計其數,至少其可能定義的隨機變數是無窮無盡不可勝數的,但其中可相互比較排序的可說只是其中極少數。一般而言兩個隨機變數 X, Y 都是:
在某些 ω 處 X(ω) ≦ Y(ω); 在另一些 ω 處則是 X(ω) > Y(ω)。
特別是相互獨立的隨機變數,除非是特殊情形,否則常是上述情形。不過,對隨機變數而言,除前述直接比較其值之外,另有「隨機順序 (stochastic order)」的概念:
隨機變數 X, Y 若滿足 for all t in R, P[X>t] ≦ P[Y>t],則稱 X 隨機地小於 (stochastically less than) Y;若更存在 t 使 P[X>t] < P[Y>t],則稱 X 隨機地嚴格小於 (stochastically strictly less than) Y。
不等式的意思是:就 X, Y 各自的機率分布來看,如果任取一個切割點 t,X 的分布中屬於較大(比 t 大)的比例都不如 Y 或者最多一樣,意謂 Y 傾向於比 X 偏大(X 傾向於比 Y 偏小),則稱 X 隨機地小於 Y(或 Y 隨機地大於 X)。依上列定義,則對於任意實數值隨機變數 X 而言,X 都隨機地小於自身,用符號表示,記為 X ≦st X,這稱為「自反性 (reflexivity)」;再者, ≦st 符合「遞移性 (transitivity)」, 即:若 X ≦st Y 且 Y ≦st Z 則 X ≦st Z;最後,若 X ≦st Y 且 Y ≦st X 則 X =d Y (X 與 Y 有相同分布)。同分布 =d 是隨機變數間的一個等價關係 (equivalence relation),因此 ≦st 是一個機率空間上隨機變數間的一個偏序 (partial order)。但大部分隨機變數之間並不存在 X ≦st Y 或 Y ≦st X,所以它只是一個偏序而非全序 (toral order 或 linear order)。
由於
P[X ≧ t] = P{∩[X > t - 1/n]} = lim P[X > t - 1/n]
前述 X ≦st Y 的定義也可以等價地改成 for all t in R, P[X≧t] ≦ P[Y≧t]。( 反過來說,由後一定義可推出先前的定義式,所以兩種定義方式是等價的。) 對於「X 隨機地嚴格小於 Y」同樣地既可以用 P[X>t] 與 P[Y>t] 比較,也可以用 P[X≧t] 與 P[Y≧t] 比較。因為,如果 P[X>t] ≦ P[Y>t] for all t 並且不存在 t 使 P[X>t] < P[Y>t],代表 X =d Y;類似地,如果 P[X≧t] ≦ P[Y≧t] for all t 並且不存在 t 使 P[X≧t] < P[Y≧t],同樣代表 X =d Y。
隨機變數 X 如果非負,則 X 的期望值 E[X] = ∫_(0,∞) P[X>t] dt。任一個實數值隨機變數 X 都可表示為其正部 X^+ = max{X, 0} 與負部 X^- = max{-X, 0} 的差 X = X^+ - X^-,故 X 的期望值,如果存在的話,等於
E[X] = E[X^+] - E[X^-] = ∫_(0,∞) (1-F(x)) dx - ∫_(-∞,0] F(x) dx
第二項本來應該是 ∫_(-∞,0] P[X < x] dx,但 P[X<x]≠P[X≦x] 只可能發生在可數個點,不影響積分 如果 X <st Y,令 F, G 分別為 X, Y 的分布函數,則
E[X] = ∫_(0,∞) (1-F(x)) dx - ∫_(-∞,0] F(x) dx
≦ ∫_(0,∞) (1-G(x)) dx - ∫_(-∞,0] G(x) dx
= E[Y]
又,若 u(.) 是一個單調遞增或非降函數,則
對於任一個實數 t,對應一個 z 使 {x: u(x) > t} = {x: x > z} 或 {x: x ≧ z}。
故若 X ≦st Y,則 for all real t,
P[u(X) > t] = P[X > or ≧ z] ≦ P[Y > or ≧ z] = P[u(Y) > t]
也就是說 u(X) ≦st u(Y),從而 E[u(X)] ≦ E[u(Y)]。反之,若 E[u(X)] ≦ E[u(Y)] for all non-decreasing u(.),取 u(x) = I_(t,∞)(x),則得
P[X > t] = E[u(X)] ≦ E[u(Y)] = P[Y > t],
式中 t 為任意實蜈,故 X ≦st Y。再者,若 X ≦st Y 且 E[X] = E[Y],則 X =d Y,因為如果在某點 t° 得 P[X > t°] < P[Y > t°],則取 d(n)↓0,
P[X > t°+d(n)] ↑ P[X > r°], P[Y > t°+d(n)] ↑ P[Y > t°]
取 ε ≦ (P[Y > t°] - P[X > t°])/2 > 0,則在 n 大於或等於某個 N 以後
P[X > t°] - ε < P[X > t° + d(n)] ] < P[X > t°]
P[Y > t°] - ε < P[Y > t° + d(n)] ] < P[Y > t°]
或者,存在 δ > 0,當 t° < t < t°+δ 時
P[X > t°] - ε < P[X > t] < P[X > t°]
P[Y > t°] - ε < P[Y > t] < P[Y > t°]
故
P[Y > t] - P[X > t] > P[Y > t°] - P[X > t°] - ε
≧ (P[Y > t°] - P[X > t°])/2
也就是說,t 在 t° 的某鄰域內時均得 P[X > t] < P[Y > t],如此便有 E[X] < E[Y] 與 E[X] = E[Y] 的假設矛盾。
隨機順序是兩面的,X 隨機地小於 Y 也就是 Y 隨機地大於 X,用符號表示,X ≦st Y 等同於 Y ≧st X,X <st Y 等同於 Y >st X。
隨機順序也可用於孺機向量,例如
k 維隨機向量 X 隨機地小於 Y 意指:對任意 t = (t_1, ..., t_k),
P[X > t] ≡ P[X_1 > t_1, ..., X_k > t_k] ≦ P[Y > t]
這是以「右上」為「大」的順序;如果以「左下」為「大」,則
若對任意 t 均得 F_X(t) ≦ F_Y(t) 則稱 X 隨機地小於 Y
但這定義在 k = 1 時與賁數值隨機變蜈的隨機順序相反,若要一致,應定義為
若對任意 t 均得 F_X(t) ≦ F_Y(t) 則稱 X 隨機地大於 Y
注意在 k > 1 時 P[X > t] 與 F_X(t) ≡ P[X ≦ t] 的和不是1,例如在 k = 2 時除了右上、左下,還有左上、右下兩方向;k = 3 時有 8 方向。一般而言,k 維有 2^k 個方向,而上面只定出「右上」和「左下」兩方向。另外,可以用 E[u(X)] ≦ E[u(Y)] for all bounded, increasing function u(.) 來定義 X ≦st Y。不過 "increasing" 在多變量函數並無標準定義,可能定義為「對每一變量都是遞增的」,也可能「右上方向是遞增的」,玟可能如分布函數那樣「右上方向均非負增量」。
隨機變數順序 X < Y 單純看隨機變數(函數)在各點 (ω in Ω) 的值,而隨機變數的隨機(順)序卻只看其機率分布,X ≦st Y 以分布陂數表示為
F_X(t) - F_Y(t) = ∫_(-∞,t) (f_X(s) - f_Y(s)) ds ≧ 0 for all real t
式中 F_X 代表分布函數而 f_X 是密度函數.把這種關係稱為 1 階偏序,我們可以考慮另一種偏序,稱之為第二階偏序
X ≦st(2) Y if ∫_(-∞,t) (F_X(s) - F_Y(s)) ds ≧ 0 for all real t
更可延伸第三階偏序
X ≦st(3) Y if ∫_(-∞,t) ∫_(-∞,r) (F_X(s) - F_Y(s)) ds dr ≧ 0 for all real t
甚至再延伸任意 k 階偏序。又把 X < Y 視為為 0 階偏序,則這些偏序成蘊涵關係
若 X ≦st(k) Y 則 X ≦st(k+1) Y, k = 0, 1, 2, ...
其反方向不成立,即:存在 X ≦st(k+1) Y 但不成立 X ≦st(k) Y 的情形。