6/15/2016

[機率論] 期望值保存遞增函數的遞增性質

令 $X$ 為具有任意分佈 $f_X$ 的隨機變數 且我們將其支撐集 (support set) 記作 $\cal X$,考慮參數 $K \in [0,1]$ 與 函數 $g(X,K)$ 為對參數 $K$ 遞增函數 with probability one,我們想問當我們對該函數取期望值時,是否 $ E[g(X,K)] $是否仍為對 $K$ 遞增?

答案為肯定的,我們將其記錄如下



令 $X$ 為具有任意分佈 $f_X$ 且 其支撐集為 $\cal X$ 隨機變數,考慮參數 $K \in [0,1]$
=====================
Theorem: 函數 $g(X,K)$ 為對參數 $K$ 遞增 with probability one,則 $ E[g(X,K)] $ 仍為對 $K$ 遞增
=====================

Proof:
令 $K_1,K_2 \in [0,1]$ 且 $K_1 \geq K_2$,我們要證明
\[
E[g(X,K_1)] \geq E[g(X,K_2)]
\]現在觀察
\[\left\{ \begin{gathered}
  E[g(X,{K_1})] = \int_{\cal X} g (x,{K_1}){f_X}(x)dx; \hfill \\
  E[g(X,{K_2})] = \int_{\cal X} g (x,{K_2}){f_X}(x)dx \hfill \\
\end{gathered}  \right.\]由於 $g(X,K)$ 為對參數 $K$ 遞增函數 with probability one,故可知對任意實現 $X=x$, $g(x,K_1) \geq g(x, K_2)$,又因為 分佈函數 $f_X$ 的非負性質,不難得知
\[
\int_{\cal X} g(x, K_1)f_X(x)dx \geq  \int_{\cal X} g(x, K_2)f_X(x)dx
\]亦即
\[
E[g(X,K_1)] \geq E[g(X,K_2)]
\]

沒有留言:

張貼留言

[最佳化] C^2 函數一階逼近的餘項積分表示

令 $f: \mathbb{R}^m \to \mathbb{R}$ 為 $C^2$-函數。對 $f$ 在 $y$ 附近使用一階泰勒展開: \[ T_y(x) := f(y) + \nabla f(y)^\top (x - y) \] 則其餘項 $R(x,y)$ 訂為 $$R(...