[隨機分析] Uniqueness and Existence theorem for S.D.E. (3) - An intermediate result (Upper bound) of Picard Iteration

延續前篇。繼續逐步完成 Existence 的證明：
現在我們要證明Picard iteration得到的跌代解的sequence $X_t^{(n)}$確實會收斂。

我們把Picard iteration記在下面：
==============================
Iteration Scheme (Picard Iteration):
給定 $X_t^{(0)}:=x_0$，與下列跌代過程：
\[
X_t^{(n+1)} = x_0 + \int_0^t \mu(s, X_s^{(n)})ds + \int_0^t \sigma(s,X_s^{(n)})dBs \ \ \ \ (*)
\]==============================

那麼我們的第一步是先證明跌代解為Cauchy sequence。接著再透過 $L^2$ space的completeness可推得此Sequence收斂。我們先證明下面的Lemma

===============================
Lemma 
若 $\mu, \sigma$ 滿足Lipschitz condtion：
\[
| \mu(t,x) - \mu(t,y)|^2 + |\sigma(t,x) - \sigma(t,y)|^2 \leq K |x-y|^2
\]則存在一個常數 $C$ 使得 由Picard iteration所定義的隨機過程 $X_t^{(n)}$滿足下列不等式：
\[
E \left[ \displaystyle \sup_{0 \leq s \leq t} |X_s^{(n+1)} - X_s^{(n)}|^2 \right ] \leq C \int_0^t E \left[ | X_s^{(n)} - X_s^{(n-1)}|^2 \right ]
\]===============================

Proof:
我們需要找出一個常數$C$ 使得上述Lemma的不等式成立，故首先觀察不等式左邊：
\[
\begin{array}{l}
E\left[ {\mathop {\sup }\limits_{0 \le s \le t} |X_s^{(n + 1)} - X_s^{(n)}{|^2}} \right]\\
 = E\left[ {\mathop {\sup }\limits_{0 \le s \le t} {{\left| \begin{array}{l}
\int_0^t {\left[ {\mu (s,X_s^{(n)}) - \mu (s,X_s^{(n - 1)})} \right]} ds\\
 + \int_0^t {\left[ {\sigma (s,X_s^{(n)}) - \sigma (s,X_s^{(n - 1)})} \right]} dB_s
\end{array} \right|}^2}} \right]
\end{array}
\]為了符號簡便起見，我們定義
\[\begin{array}{l}
{D_t}: = \int_0^t {\left[ {\mu (s,X_s^{(n)}) - \mu (s,X_s^{(n - 1)})} \right]} ds\\
{M_t}: = \int_0^t {\left[ {\sigma (s,X_s^{(n)}) - \sigma (s,X_s^{(n - 1)})} \right]} d{B_s}
\end{array}
\]由FACT: $(u+v) \leq 2(u^2 + v^2)$我們可知
\[
\begin{array}{l}
|X_s^{(n + 1)} - X_s^{(n)}{|^2} = |D_s^{} + M_s^{}{|^2} \le 2\left( {{D_s}^2 + M_s^2} \right)\\
 \Rightarrow \mathop {\sup }\limits_{0 \le s \le t} {\left| {{D_s} + {M_s}} \right|^2} \le 2\mathop {\sup }\limits_{0 \le s \le t} {D_s}^2 + 2\mathop {\sup }\limits_{0 \le s \le t} M_s^2
\end{array}
\]現在我們分頭估計上式右方兩項：

首先對 $\displaystyle \mathop {\sup }\limits_{0 \le s \le t} {D_s}^2$做估計，透過Cauchy-Swarz inequality，我們可知
\[
\displaystyle \mathop {\sup }\limits_{0 \le s \le t} {D_t}^2 = {\left( {\int_0^t {\left[ {\mu (s,X_s^{(n)}) - \mu (s,X_s^{(n - 1)})} \right]} ds} \right)^2} \\
\ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \le \left( {{{\int_0^t {\left[ {\mu (s,X_s^{(n)}) - \mu (s,X_s^{(n - 1)})} \right]} }^2}ds} \right)\left( {\int_0^t {{1^2}} ds} \right)\\
 \Rightarrow \displaystyle \mathop {\sup }\limits_{0 \le s \le t} {D_t}^2 \le t\left( {{{\int_0^t {\left[ {\mu (s,X_s^{(n)}) - \mu (s,X_s^{(n - 1)})} \right]} }^2}ds} \right)
\]再由Lipschitz condition: $| \mu(t,x) - \mu(t,y)|^2 + |\sigma(t,x) - \sigma(t,y)|^2 \leq K |x-y|^2
$可知
\[ \Rightarrow \displaystyle \mathop {\sup }\limits_{0 \le s \le t} {D_t}^2 \le  Kt\int_0^t {|X_s^{(n)} - X_s^{(n - 1)}{|^2}} ds \\
\Rightarrow \displaystyle \mathop {\sup }\limits_{0 \le s \le t} {D_t}^2 \le  KT\int_0^t {|X_s^{(n)} - X_s^{(n - 1)}{|^2}} ds \ \ \ \ (*)
\]
接著我們估計第二項：$ \displaystyle \mathop {\sup }\limits_{0 \le s \le t} M_s^2 $：

注意到 $M_t$ 項需要Ito Isometry的幫助來計算 $E[ \mathop {\sup }\limits_{0 \le s \le t} M_s^2 ]$，但我們會發現這次會有問題，因為我們會遭遇到 $\sup$ 在期望值裡面，故我們需先處理這個問題。

首先注意到因為$M_t$的積分變數 ${\sigma (s,X_s^{(n)}) - \sigma (s,X_s^{(n - 1)})} \in \mathcal{H}^2$ 故可知$M_t$ 為 Martingale，故我們可以利用Doob's maximal $L^p$ (在此 $p=2$) inequality：
----
\[||\mathop {\sup }\limits_{0 \le s \le t} {M_t}|{|_p} \le \frac{p}{{p - 1}}||{M_t}|{|_p} \\
\Leftrightarrow E\left[ {{{\left( {\mathop {\sup }\limits_{0 \le s \le t} \left| {{M_t}} \right|} \right)}^p}} \right]^{1/p} \leq \frac{p}{{p - 1}}E\left[ {{{\left| {{M_t}} \right|}^p}} \right]^{1/p}
\]---
現在利用 上述的 Doob's $L^2$ maximal inequality，令$p=2$可得到如下估計
\[\begin{array}{l}
E\left[ {\mathop {\sup }\limits_{0 \le s \le t} M_s^2} \right] \le {\left( {\frac{2}{{2 - 1}}} \right)^2}E\left[ {{{\left| {{M_t}} \right|}^2}} \right]\\
 \Rightarrow E\left[ {\mathop {\sup }\limits_{0 \le s \le t} M_s^2} \right] \le 4E\left[ {{{\left| {{M_t}} \right|}^2}} \right]
\end{array}
\]現在我們成功從期望值中拔除了$sup$，故現在可以利用Ito isometry:
\[ \Rightarrow E\left[ {\mathop {\sup }\limits_{0 \le s \le t} M_s^2} \right] \le 4E\left[ {{{\left| {{M_t}} \right|}^2}} \right] = 4E\left[ {\int_0^t {{{\left[ {\sigma (s,X_s^{(n)}) - \sigma (s,X_s^{(n - 1)})} \right]}^2}} ds} \right]
\]再由Lipschitz condtion：$| \mu(t,x) - \mu(t,y)|^2 + |\sigma(t,x) - \sigma(t,y)|^2 \leq K |x-y|^2$，我們可進一步得到如下估計
\[
\Rightarrow E\left[ {\mathop {\sup }\limits_{0 \le s \le t} M_s^2} \right] \le 4KE\left[ {\int_0^t {|X_s^{(n)} - X_s^{(n - 1)}{|^2}} ds} \right] \ \ \ \ (**)
\]現在我們把手邊有的結果整理，合併 $(*)$ 與 $(**)$ 可得
\[
\begin{array}{l}
E\left[ {\mathop {\sup }\limits_{0 \le s \le t} |X_s^{(n + 1)} - X_s^{(n)}{|^2}} \right] = E\left[ {2\mathop {\sup }\limits_{0 \le s \le t} {D_s}^2 + 2\mathop {\sup }\limits_{0 \le s \le t} M_s^2} \right]\\
 \Rightarrow E\left[ {\mathop {\sup }\limits_{0 \le s \le t} |X_s^{(n + 1)} - X_s^{(n)}{|^2}} \right] \le 2E\left[ {\mathop {\sup }\limits_{0 \le s \le t} {D_s}^2} \right] + 2E\left[ {\mathop {\sup }\limits_{0 \le s \le t} M_s^2} \right]\\
 \Rightarrow E\left[ {\mathop {\sup }\limits_{0 \le s \le t} |X_s^{(n + 1)} - X_s^{(n)}{|^2}} \right] \le 2TKE\left[ {\int_0^t {|X_s^{(n)} - X_s^{(n - 1)}{|^2}} ds} \right]\\
 \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ + 2 \cdot 4KE\left[ {\int_0^t {|X_s^{(n)} - X_s^{(n - 1)}{|^2}} ds} \right]\\
 \Rightarrow E\left[ {\mathop {\sup }\limits_{0 \le s \le t} |X_s^{(n + 1)} - X_s^{(n)}{|^2}} \right] \le K\left( {2T + 8} \right)E\left[ {\int_0^t {|X_s^{(n)} - X_s^{(n - 1)}{|^2}} ds} \right]\\
\end{array}
\] 令 $C = K(2T + 8)$，我們得到
\[ \Rightarrow E\left[ {\mathop {\sup }\limits_{0 \le s \le t} |X_s^{(n + 1)} - X_s^{(n)}{|^2}} \right] \le C \cdot E\left[ {\int_0^t {|X_s^{(n)} - X_s^{(n - 1)}{|^2}} ds} \right] \]故此得證 $\square$