跳到主要內容

[隨機分析] How to solve SDE practically (3) - Ornstein-Uhlenbeck process

這次要介紹的是如何直接求解隨機微分方程 (SDE)? 我們這邊將以 Ornstein-Uhlenbeck process 為例:

考慮如下SDE :
令 $\alpha, \sigma >0$,考慮如下 SDE
\[
dX_t = - \alpha X_t dt + \sigma dB_t
\]且給定初始條件 $X_0$ ,此 $X_0$ 與 $B_{\cdot}$ 互相獨立

Comment: 
上述 SDE 稱為 Ornstein-Uhlenbeck process。

Sol:
首先檢驗 Uniqueness 與 Existence :

由 SDE 的 Uniqueness 與 Existence Theorem,
考慮 $t \in [0,T]$,SDE:
\[
dX_t = \mu(t,X_t)dt + \sigma(t,X_t) dB_t, \ X(0)=x_0
\]若其係數 $\mu, \sigma$滿足  Lipschitz condition
\[
|\mu(t,x) - \mu(t,y)|^2 + |\sigma(t,x) - \sigma(t,y)|^2 \leq K |x-y|^2
\]與 Growth condition
\[
|\mu(t,x)|^2 + |\sigma(t,x)|^2 \leq K(1 + |x|^2)
\]則我們的 SDE 解存在且唯一。故此 我們首先檢驗 Lipschitz Condition : 觀察 Ornstein-Uhlenbeck process 可知 $\mu(t, X_t) = - \alpha X_t, \ \sigma(t, X_t) = \sigma$
\[
|(-\alpha x) - (-\alpha y)|^2 + |\sigma - \sigma|^2 =(\alpha)^2 | x - y|^2
\]令 $K \geq \alpha^2$,則我們有如下關係:
\[
|(-\alpha x) - (-\alpha y)|^2 + |\sigma - \sigma|^2 \leq K | x - y|^2
\]亦即滿足 Lipschitz Condition。

接著我們檢驗 Growth Condition:
\[
|-\alpha x|^2 + |\sigma|^2 = \alpha^2 x^2 + \sigma^2
\]令 $K \geq \max\{\alpha^2, \sigma^2\}$ 則我們有
\[{\alpha ^2}{\left| x \right|^2} + {\sigma ^2} \le K\left( {1 + {{\left| x \right|}^2}} \right)
\]亦即滿足 Growth Condition。

由於 Lipschitz 與 Growth Condition皆滿足,故由 SDE 的 Uniqueness 與 Existence Theorem 我們可知 Ornstein-Uhlenbeck Process 解存在且唯一。

故現在開始求解:
由 Ornstein-Uhlenbeck Process 定義
\[
\begin{array}{l}
d{X_t} =  - \alpha {X_t}dt + \sigma d{B_t}\\
 \Rightarrow d{X_t} + \left( {\alpha dt} \right){X_t} = \sigma d{B_t} \ \ \ \ (*)
\end{array}
\]定義積分因子
\[{U_t}: = {e^{\int_0^t {\alpha dt} }} = {e^{\alpha t}}
\]將上式 $(*)$ 兩邊同乘積分因子,並且我們計算 (由 integration by part)
\[
d\left( {{X_t}{U_t}} \right) = {X_t}d{U_t} + {U_t}d{X_t} + d\left\langle {{X_t},{U_t}} \right\rangle \ \ \ \ (\star)
\]其中 $dU_t$ 與 cross variation: $d\left\langle {{X_t},{U_t}} \right\rangle $ 由 box calculation 計算如下:
\[\begin{array}{l}
d{U_t} = \alpha {e^{\alpha t}}dt  = \alpha {U_t}dt\\
d\left\langle {{X_t},{U_t}} \right\rangle  = d{X_t}d{U_t} = \left( { - \alpha {X_t}dt + \sigma d{B_t}} \right)\alpha {e^{\alpha t}}dt = 0
\end{array}
\],將上述結果代回 $(\star)$ 故我們可得
\[\begin{array}{l}
d\left( {{X_t}{U_t}} \right) = {X_t}\alpha {U_t}dt + {U_t}\left( { - \alpha {X_t}dt + \sigma d{B_t}} \right)\\
 \Rightarrow d\left( {{X_t}{U_t}} \right) = {U_t}\sigma d{B_t}
\end{array}
\]現在將上式轉換回積分形式
\[\begin{array}{l}
 \Rightarrow {X_t}{U_t} - {X_0}{U_0} = \sigma \int_0^t {{U_t}d{B_t}}  = \sigma \int_0^t {{e^{\alpha s}}d{B_s}} \\
 \Rightarrow {X_t}{e^{\alpha t}} = {X_0} + \sigma \int_0^t {{e^{\alpha s}}d{B_s}} \\
 \Rightarrow {X_t} = {X_0}{e^{ - \alpha t}} + \sigma {e^{ - \alpha t}}\int_0^t {{e^{\alpha s}}d{B_s}}
\end{array}
\]至此我們找到了一個 Ornstein-Uhlenbeck process 的解,現在我們必須檢驗此解確實滿足 我們的 Ornstein-Uhlenbeck SDE,故我們計算 $dX_t$,步驟如下:
首先改寫\[\begin{array}{l}
{X_t} = {X_0}{e^{ - \alpha t}} + \sigma {e^{ - \alpha t}}\int_0^t {{e^{\alpha s}}d{B_s}} \\
 \Rightarrow {X_t} = {e^{ - \alpha t}}\underbrace {\left[ {{X_0} + \sigma \int_0^t {{e^{\alpha s}}d{B_s}} } \right]}_{: = {V_t}}: = {e^{ - \alpha t}}{V_t}
\end{array}
\]現在 利用 Integration by part,可得
\[d{X_t} = d\left( {{e^{ - \alpha t}}{V_t}} \right) = {e^{ - \alpha t}}d{V_t} + {V_t}d\left( {{e^{ - \alpha t}}} \right) + d\left\langle {{U_t},{V_t}} \right\rangle
\]其中
\[\left\{ \begin{array}{l}
d{V_t} = \sigma {e^{\alpha t}}d{B_t}\\
d\left( {{e^{ - \alpha t}}} \right) =  - \alpha {e^{ - \alpha t}}dt\\
d\left\langle {{U_t},{V_t}} \right\rangle  = d{V_t} \cdot d{U_t} = 0
\end{array} \right.
\]將上述結果帶入 $dX_t$ 中可得
\[\begin{array}{l}
d{X_t} = {e^{ - \alpha t}}d{V_t} + {V_t}d\left( {{e^{ - \alpha t}}} \right) + d\left\langle {{U_t},{V_t}} \right\rangle \\
 \Rightarrow d{X_t} = {e^{ - \alpha t}}\sigma {e^{\alpha t}}d{B_t} - \alpha {V_t}{e^{ - \alpha t}}dt\\
 \Rightarrow d{X_t} = \sigma d{B_t} - \alpha {V_t}{e^{ - \alpha t}}dt
\end{array}
\] 又因為 ${X_t} = {e^{ - \alpha t}}{V_t} \Rightarrow {e^{\alpha t}}{X_t} = {V_t}$,將此代入上式我們得到
\[\begin{array}{l}
d{X_t} = \sigma d{B_t} - \alpha {V_t}{e^{ - \alpha t}}dt\\
 \Rightarrow d{X_t} = \sigma d{B_t} - \alpha {e^{\alpha t}}{X_t}{e^{ - \alpha t}}dt\\
 \Rightarrow d{X_t} = \sigma d{B_t} - \alpha {X_t}dt
\end{array}
\]上式即為 Ornstein-Uhlenbeck process , 亦即 $X_t = {X_0}{e^{ - \alpha t}} + \sigma {e^{ - \alpha t}}\int_0^t {{e^{\alpha s}}d{B_s}} $ 確實為 Ornstein-Uhlenbeck process 的 (唯一)解。 $\square$


Comments:
1. 注意到 Ornstein-Uhlenbeck process 的解:
\[
X_t = {X_0}{e^{ - \alpha t}} + \sigma {e^{ - \alpha t}}\int_0^t {{e^{\alpha s}}d{B_s}}
\] 現在觀察上式的第二項 (Ito integral term),亦即 $\sigma {e^{ - \alpha t}}\int_0^t {{e^{\alpha s}}d{B_s}} $ 此項的 積分變數為 $f(s) := {{e^{\alpha s}}}$ 亦即不是隨機過程 (為確定 (determinstic) 函數)。故由 FACT: 可知 對任意非隨機連續函數 $f(t)$,其 Ito integral 為一個 Gaussian Process with zero mean 且 variance 為 $\int_0^t f(s)^2 ds$。故我們可知此項為 Gaussian Process:亦即
\[\begin{array}{l}
\sigma {e^{ - \alpha t}}\int_0^t {{e^{\alpha s}}d{B_s}} \sim N\left( {0,{\sigma ^2}{e^{ - 2\alpha t}}\left( {\frac{1}{{2\alpha }}\left( {{e^{2\alpha t}} - 1} \right)} \right)} \right)\\
 \Rightarrow \sigma {e^{ - \alpha t}}\int_0^t {{e^{\alpha s}}d{B_s}} \sim N\left( {0,\frac{{{\sigma ^2}}}{{2\alpha }}\left( { 1- {e^{- 2\alpha t}}} \right)} \right)
\end{array}
\]
2. 再者,如果當 $t \rightarrow \infty$,此解
\[{{X_t} = \underbrace {{X_0}{e^{ - \alpha t}}}_{ \to 0} + \underbrace {\sigma {e^{ - \alpha t}}\int_0^t {{e^{\alpha s}}d{B_s}} }_{ \to N\left( {0,\frac{{{\sigma ^2}}}{{2\alpha }}} \right)}}
\]上述極限為 Convergence in distribution。且注意到由於 $X_0$ 與 $B_{\cdot}$ 互相獨立,故兩個獨立的 Gaussian random variable 相加,亦即:
\[
{X_t} \to N\left( {0 + 0,\frac{{{\sigma ^2}}}{{2\alpha }}} \right) = N\left( {0,\frac{{{\sigma ^2}}}{{2\alpha }}} \right)
\] in distribution

留言

這個網誌中的熱門文章

[數學分析] 什麼是若且唯若 "if and only if"

數學上的 if and only if  ( 此文不討論邏輯學中的 if and only if,只討論數學上的 if and only if。) 中文翻譯叫做  若且唯若 (or 當且僅當) , 記得當初剛接觸這個詞彙的時候,我是完全不明白到底是甚麼意思,查了翻譯也是愛莫能助,畢竟有翻跟沒翻一樣,都是有看沒有懂。 在數學上如果看到 if and only if  這類的句子,其實是表示一種 雙條件句 ,通常可以直接將其視為" 定義(Definition)" 待之,今天要分享的是這樣的一個句子如何用比較直觀的方法去看他 假設我們現在有 兩個邏輯陳述句 A 與  B. 注意到,在此我們不必考慮這兩個陳述句到底是什麼,想表達什麼,或者到底是否為真(true),這些都不重要。只要知道是兩個陳述即可。 現在,考慮新的陳述:  "A if and only if B" 好了,現在主角登場,我們可以怎麼看待這個句子呢? 事實上我們可以很直覺的把這句子拆成兩部分看待,也就是 "( A if B ) and ( A only if B )" 那麼先針對第一個部分  A if B  來看, 其實這句就是說  if B then A, 更直白一點就是 "if B is true, then A is also true".  在數學上等價可以寫為 "B implies A" .  或者更常用一個箭頭符號來表示 "B $\Rightarrow$  A"  現在針對第二個部分  A only if B 此句意指  "If B is not true, then A is also not true". 所以如果已知 A is true,  那麼按照上句不難推得 B is also true 也就是說  A only if B  等價為 "If A is true then B is also true". 同樣,也可以寫作   "A implies B"   或者用箭頭表示  "A   $\Rightarrow$     B".

[數學分析] 淺談各種基本範數 (Norm)

這次要介紹的是數學上一個重要的概念: Norm: 一般翻譯成 範數 (在英語中 norm 有規範的意思,比如我們說normalization就是把某種東西/物品/事件 做 正規化,也就是加上規範使其正常化),不過個人認為其實翻譯成 範數 也是看不懂的...這邊建議把 Norm 想成長度就好 (事實上norm是長度的抽象推廣), 也許讀者會認為好端端的長度不用,為何又要發明一個 norm 來自討苦吃?? 既抽象又艱澀。 事實上想法是這樣的: 比如說現在想要比較兩個數字 $3$ , $5$ 之間的大小,則我們可以馬上知道 $ 3 < 5 $;同樣的,如果再考慮小數與無理數如 $1.8753$ 與 $\pi$,我們仍然可以比較大小 $1.8753 < \pi = 3.1415...$ 故可以發現我們有辦法對 "純量" 做明確的比大小,WHY? 因為前述例子中 $3$, $5$, $1.8753$ or $\pi$ 其各自的大小有辦法被 "measure "! 但是如果是現在考慮的是一組數字 我們如何去measure 其大小呢?? 比如說 \[x:=[1, -2, 0.1, 0 ]^T \]上式的大小該是多少? 是 $1$? $-2$? $0.1$??? 再者如果更過分一點,我們考慮一個矩陣 \[A = \left[ {\begin{array}{*{20}{c}} 1&2\\ 3&4 \end{array}} \right] \],想要知道這個矩陣的大小又該怎麼辦?? 是 $1$ ? $2$ 還是 $4$ ?..其實現階段我們說不清楚。 也正是如此,可以發現我們確實需要新的 "長度" 的定義來幫助我們如何去 measure 矩陣/向量/甚至是函數的大小。 故此,我們首先定義甚麼是Norm,(也就是把 "長度" or "大小" 的本質抽離出來) ================== Definition: Norm 考慮 $V$ 為一個向量空間(Vector space),則我們說  Norm 為一個函數 $||\cdot|| : V \rightarrow \mathbb{R}$ 且滿足下列性質