2/28/2017

[分享] 淺論現代投資科學

以下為個人在 University of Wisconsin-Madison 臺灣學生會 2017年 第一場學術沙龍中 分享的簡報檔:

淺論現代投資科學 (2017, 01. 21)

講者:謝宗翰
講題淺論現代投資科學
簡介:此分享將試圖介紹基本現代投資科學的一些實用工具,從簡單的現金流到現代投資理論,主要將注重在退休規劃,風險管理與最佳資產配置。當中將輔以美股市場為例的實際應用。

閱讀更多:
數學能擊敗金融市場嗎?-從控制理論觀點  by 謝宗翰(2016, 02. 16)

關於 UW-Madison 臺灣學生會 連結
https://sites.google.com/site/satuwmadison/

2/24/2017

[凸分析] 常見的凸集性質(1) - 線性矩陣不等式之解 所成的集合 為 凸集

給定 $a \in \mathbb{R}^n$ ,我們定義 線性函數 $f : \mathbb{R}^n \to \mathbb{R}$ 滿足
\[
f(x) := a^T x = a_1 x_1 + ... + a_n x_n
\]
現在我們進一步推廣上述結果:亦即上述的向量 $a = (a_1,...,a_n)$ 可以用 對稱矩陣 $(A_1,...,A_n)$ 替換,且 $ A_i \in S^m$ 為 $\mathbb{R}^{m \times m}$ 對稱矩陣,現在我們模仿上述線性函數 $f$ 定義一個新的函數如下:定義  $F: \mathbb{R}^n \to S^m$ 滿足
\[
F(x) := x_1 A_1 + ... + x_n A_n
\]

Comments:
1. $ F(x) $ 仍為 $\mathbb{R}^{m \times m}$ 的對稱矩陣。
2. 上述提及的 線性函數 $f(x)$  (或者又說標準內積 或者 hyperplane) 可用以形成所謂 convex polyhedra 的集合,在此不贅述。


接著我們想問 對於上述 矩陣等式 $g(x)$ 而言,是否可以定義不等式? 一般而言在線性代數中我們定義 $F(x) \succ 0$ 表示 $F(x)$ 為正定矩陣,亦即 對任意 $z \in \mathbb{R}^n$ 且 $z \neq 0$ 我們有
\[
z^T F(x) z > 0
\] 我們說 $F(x) \succeq 0$ 表示 $F(x)$ 為半正定矩陣,亦即 對任意 $z \in \mathbb{R}^n$
\[
z^T F(x) z \geq 0
\]

FACT:
令 $A,B$ 為 兩實係數 對稱矩陣,若 $A \succeq 0$ 且 $B \succeq 0$ 則
\[
A+B \succeq 0
\]
Proof: omitted (此證明相對容易,在此略過)

========================
Definition: Linear Matrix Inequality (LMI)
我們稱一不等式 為對 $x$ 而言的線性矩陣不等式 (Linear Matrix Inequality in $x$, LMI) 若 前述的矩陣 $F(x)$ 具有下列形式:
\[
F(x) := x_1 A_1 + ... + x_n A_n \preceq B
\] 其中 $x_i \in \mathbb{R}^1$ 且 $B, A_i $ 為 $m \times m$ 對稱矩陣,$i=1,2,...,n$。
========================

Comments:
1. 上述 LMI 要求 $F(x) \preceq B $ 亦即 $B - F(x) \succeq 0$ ,也就是說 $B - F(x) $ 為正定對稱矩陣,由前述定義可知我們要求:對任意 $z \in \mathbb{R}^n$,
\[
z^T (B-F(x))z \geq 0
\]
2. LMI 為 "線性" in $x$
3. LMI 在 強健控制理論中扮演重要的角色,在此不贅述。


以下我們給出主要結果:
========================
FACT:
上述 LMI 之解所成之集合 \[
L:=\{x \in \mathbb{R}^n : F(x) \preceq B\}
\]為凸集。
========================

Proof:
令 $x,y \in L$ 且 $\theta \in [0,1]$ 我們要證明 $ \theta x + (1-\theta)y \in L $ 此等價於證明
\[
F(\theta x + (1-\theta)y) \preceq B
\] 現在觀察
\begin{align*}
  F(\theta x + (1 - \theta )y) &= (\theta {x_1} + (1 - \theta ){y_1}){A_1} + ... + (\theta {x_n} + (1 - \theta ){y_n}){A_n} \hfill \\
   &= \sum\limits_{i = 1}^n {(\theta {x_i} + (1 - \theta ){y_i}){A_i}}  \hfill \\
   &= \theta \sum\limits_{i = 1}^n {{x_i}{A_i}}  + (1 - \theta )\sum\limits_{i = 1}^n {{y_i}{A_i}}  \;\;\;\;\; (*) \hfill \\
\end{align*}
由於  $x,y \in L$ ,故我們有
\begin{align*}
F(x) &:= \sum_{i=1}^n x_i A_i  \preceq B; \\
F(y) &:= \sum_{i=1}^n  y_i A_i \preceq B
\end{align*}故將上述結果帶入 $(*)$ ,由於 $\theta \in [0,1]$ 利用前述 FACT 可得
\[
F(\theta x + (1-\theta)y) \preceq B
\]至此得證。$\square$

2/23/2017

[基礎數學] 有限項次的雙重加總 (Finite Double Sums)

給定一組有限項次之數列 $\{a_k\}_{k=1}^n$ 可以表示為 $$\{a_k\}_{k=1}^n =  (a_1,a_2,...,a_n)$$我們知道  此數列之 加總總和 可以用級數 $\sum$ 符號簡潔的將其表示,比如說
\[
\sum_{k=1}^n a_k
\]但若我們考慮的數列為類似於 矩陣的陣列 (rectangular array),比如說
\[\begin{array}{*{20}{c}}
  {{a_{11}}}&{{a_{12}}}&{...}&{{a_{1n}}} \\
  {{a_{21}}}&{{a_{22}}}&{...}&{{a_{2n}}} \\
   \vdots &{}&{}&{} \\
  {{a_{m1}}}&{{a_{m2}}}&{...}&{{a_{mn}}}
\end{array}\]其中元素一般以 $a_{ij}$ 表示,$1 \leq i \leq m$ 且 $1 \leq j \leq n$。此時我們如何用級數表示此陣列之和?

基本想法:
首先我們可以先將 每一個橫列 之和計算出來:
\[\left( {\sum\limits_{j = 1}^n {{a_{1j}}} ,\sum\limits_{j = 1}^n {{a_{2j}}} ,...,\sum\limits_{j = 1}^n {{a_{mj}}} } \right)\]其中第 $1$個橫列之和為 ${\sum\limits_{k = 1}^n {{a_{1k}}} }$ 接著我們把前述這些橫列之和加總
\[\sum\limits_{j = 1}^n {{a_{1j}}}  + \sum\limits_{j = 1}^n {{a_{2j}}}  + ... + \sum\limits_{j = 1}^n {{a_{mj}}}  = \sum\limits_{i = 1}^m \left( {\sum\limits_{j = 1}^n {{a_{ij}}} } \right) \]當然如果我們把順序調換,先算直行之和在進行加總答案不變 (why?),故我們有
\[\sum\limits_{i = 1}^m {\sum\limits_{j = 1}^n {{a_{ij}}} }  = \sum\limits_{j = 1}^n {\sum\limits_{i = 1}^m {{a_{ij}}} } \]

現在我們來看一個簡單的例子:
============
Example 1:
(a) 試計算 $\sum_{i=1}^3 \sum_{j=1}^4 (i + a j)$ 其中 $a \in \mathbb{R}$。
(b) 試驗證 $ \sum\limits_{j = 1}^4 {\sum\limits_{i = 1}^3 {(i + aj)} }  = \sum\limits_{i = 1}^3 {\sum\limits_{j = 1}^4 {(i + aj)} } $
============

Proof (a):
\begin{align*}
  \sum\limits_{i = 1}^3 {\sum\limits_{j = 1}^4 {(i + aj)} } & = \sum\limits_{i = 1}^3 {\left( {(i + a1) + (i + a2) + (i + a3) + (i + a4)} \right)}  \hfill \\
   &= \sum\limits_{i = 1}^3 {\left( {4i + 10a} \right)}  \hfill \\
   &= \left( {\left( {4 + 10a} \right) + \left( {4\left( 2 \right) + 10a} \right) + \left( {4\left( 3 \right) + 10a} \right)} \right) \hfill \\
   &= 24 + 30a \;\;\;\; \square
\end{align*}

Proof:(b)
觀察
\begin{align*}
  \sum\limits_{j = 1}^4 {\sum\limits_{i = 1}^3 {(i + aj)} }  &= \sum\limits_{j = 1}^4 {\left( {(1 + aj) + (2 + aj) + (3 + aj)} \right)}  \hfill \\
   &= \sum\limits_{j = 1}^4 {\left( {6 + 3aj} \right)}  \hfill \\
   &= \left( {\left( {6 + 3a1} \right) + \left( {6 + 3a\left( 2 \right)} \right) + \left( {6 + 3a\left( 3 \right)} \right) + \left( {6 + 3a\left( 4 \right)} \right)} \right) \hfill \\
   &= 24 + 30a = \sum\limits_{i = 1}^3 {\sum\limits_{j = 1}^4 {(i + aj)} }  \;\;\;\; \square
\end{align*}


下面我們在看個稍微一點點變化的情況,假設今天我們的陣列為所謂三角陣列(triangular array) 如下
\[\begin{array}{*{20}{c}}
  {{a_{11}}}&{}&{}&{}&{} \\
  {{a_{21}}}&{{a_{22}}}&{}&{}&{} \\
  {{a_{31}}}&{{a_{32}}}&{{a_{33}}}&{}&{} \\
   \vdots &{}&{}& \ddots &{} \\
  {{a_{m1}}}&{{a_{m2}}}& \cdots & \cdots &{{a_{mm}}}
\end{array}\] 試證明 triangular table 之和可表為
\[
\sum_{i=1}^m \left ( \sum_{j=1}^i a_{ij} \right) \;\;\; (*)
\]或者
\[
\sum_{j=1}^m \left ( \sum_{i = j}^m a_{ij} \right)\;\;\;\; (\star)
\]Proof:
要證明 $(*)$,我們首先將 triangular array 每個橫列之和求出如下
\[\left( {{a_{11}},{a_{21}} + {a_{22}},...,{a_{m1}} + {a_{m2}}... + {a_{mm}}} \right) = \left( {\sum\limits_{j = 1}^1 {{a_{1j}}} ,\sum\limits_{j = 1}^2 {{a_{2j}}} ,...,\sum\limits_{j = 1}^m {{a_{mj}}} } \right)\]現在令
\[
b_i := \sum_{j=1}^i a_{ij}
\]則所有橫列之和等價為
\[\left( {\sum\limits_{j = 1}^1 {{a_{1j}}} ,\sum\limits_{j = 1}^2 {{a_{2j}}} ,...,\sum\limits_{j = 1}^m {{a_{mj}}} } \right) = \left( {{b_1}\;,{b_2},...,{b_m}} \right)\]則我們可知 $\sum\limits_{i = 1}^m {{b_i}} $即為 triangular array 之和,故現在觀察
\[\sum\limits_{i = 1}^m {{b_i}}  = \sum\limits_{i = 1}^m {\left( {\sum\limits_{j = 1}^i {{a_{ij}}} } \right)} \]此即 $(*)$。

接著我們證明 $(**)$,同前述證明,首先將 triangular array 每個直行之和求出如下
\[\left( {\sum\limits_{i = 1}^m {{a_{i1}}} ,\sum\limits_{i = 2}^m {{a_{i2}}} ,...,\sum\limits_{i = m}^m {{a_{im}}} } \right)\]現在令
\[{c_j}: = \sum\limits_{i = j}^m {{a_{ij}}} \]則所有直行之和等價為
\[\sum\limits_{j = 1}^m {{c_j}} : = \sum\limits_{j = 1}^m {\left( {\sum\limits_{i = j}^m {{a_{ij}}} } \right)} \]此即 $(**)$。 $\square$



FACT:
令 $a_{ij}$ 為 rectangular array
\[\begin{array}{*{20}{c}}
  {{a_{11}}}&{{a_{12}}}&{...}&{{a_{1n}}} \\
  {{a_{21}}}&{{a_{22}}}&{...}&{{a_{2n}}} \\
   \vdots &{}&{}&{} \\
  {{a_{m1}}}&{{a_{m2}}}&{...}&{{a_{mn}}}
\end{array}\]第 $i$ row, 第 $j$ column之元素。現在定義
\[
\bar{a} := \frac{1}{mn} \sum_{r=1}^m \sum_{s=1} a_{rs}, \;\;\; \bar{a}_j := \frac{1}{m} \sum_{r=1}^m a_{rj}
\]試證
\[
\sum_{r = 1}^m \sum_{s=1}^m (a_{rj} - \bar{a})(a_{sj} - \bar{a}) = m^2 (\bar{a}_j - \bar{a})^2
\]
Proof: omitted (easy to check)


2/22/2017

[系統理論] 關於 Fourier Series 係數 之積分範圍的討論

首先回憶給定平滑有界之 週期訊號 $x(t)$ 且假設此訊號具有基本頻率 $f_0$ (亦即此訊號具有基本週期 $T_0 :=1/f_0$ ),那麼在 Fourier analysis 中我們說此訊號可以表示為
\[
x(t) = \sum_{k = -\infty}^\infty a_k e^{j 2 \pi f_0 k t }
\]且其對應的 Fourier Series 可由下列積分求得
\[
a_k := \frac{1}{T_0} \int_0^{T_0} x(t) e^{-j 2 \pi f_0 k t} dt \;\;\;\;\; (*)
\]

但事實上由於 $x(t)$ 為週期訊號,上述積分範圍可以為 任意單位週期長度 而不需拘泥於 $[0,T_0]$,一般而言,最常見到的另一種 Fourier Series coefficient 形式為 : \[{a_k} = \frac{1}{{{T_0}}}\int_{ - {T_0}/2}^{{T_0}/2} {x\left( t \right){e^{ - j{2 \pi  f_0}kt}}dt} \]事實上此式子與 $(*)$ 等價。 我們將此寫作以下 FACT:

===================
FACT:
給定平滑有界 週期訊號 $x(t)$ 表示為
\[
x(t) = \sum_{k = -\infty}^\infty a_k e^{j 2 \pi f_0 k t }
\]則其 Fourier Series 係數亦可表為
\[{a_k} = \frac{1}{{{T_0}}}\int_{ - {T_0}/2}^{{T_0}/2} {x\left( t \right){e^{ - j{2 \pi  f_0}kt}}dt} \]===================

Proof:
我們僅需證明
\[ \frac{1}{{{T_0}}}\int_{ - {T_0}/2}^{{T_0}/2} {x\left( t \right){e^{ - j2\pi {f_0}kt}}dt}  = \frac{1}{{{T_0}}}\int_0^{{T_0}} {x\left( t \right){e^{ - j2\pi {f_0}kt}}dt} \]故現在觀察左式,利用積分的線性性質:
\begin{align*}
  {a_k} &:= \frac{1}{{{T_0}}}\int_{ - {T_0}/2}^{{T_0}/2} {x\left( t \right){e^{ - j{2 \pi  f_0}kt}}dt}\\
&  = \frac{1}{{{T_0}}}\left( {\int_{ - {T_0}/2}^0 {x\left( t \right){e^{ - j{2 \pi  f_0}kt}}dt}  + \int_0^{{T_0}/2} {x\left( t \right){e^{ - j{2 \pi  f_0}kt}}dt} } \right) \;\;\;\; (\star)
\end{align*}現在對第一項積分做變數變換,令 $u : = t + {T_0}$ 其中 $T_0:=1/f_0$ 則前述 $(\star)$ 中的第一項積分可改寫為
\begin{align*}
  {a_k} &= \frac{1}{{{T_0}}}\left( {\int_{ - {T_0}/2}^0 {x\left( t \right){e^{ - j{2 \pi  f_0}kt}}dt}  + \int_0^{{T_0}/2} {x\left( t \right){e^{ - j{2 \pi  f_0}kt}}dt} } \right) \hfill \\
   &= \frac{1}{{{T_0}}}\left( {\int_{{T_0}/2}^{{T_0}} {x\left( {u - {T_0}} \right){e^{ - j{2 \pi  f_0}k\left( {u - {T_0}} \right)}}du}  + \int_0^{{T_0}/2} {x\left( t \right){e^{ - j{2 \pi  f_0}kt}}dt} } \right) \hfill \\
   &= \frac{1}{{{T_0}}}\left( {\int_{{T_0}/2}^{{T_0}} {x\left( u \right){e^{ - j{2 \pi  f_0}k\left( u \right)}}\underbrace {{e^{j{2 \pi  f_0}k\left( {{T_0}} \right)}}}_{ = 1}du}  + \int_0^{{T_0}/2} {x\left( t \right){e^{ - j{2 \pi  f_0}kt}}dt} } \right) \hfill \\
   &= \frac{1}{{{T_0}}}\left( {\int_{{T_0}/2}^{{T_0}} {x\left( u \right){e^{ - j{2 \pi  f_0}k\left( u \right)}}du}  + \int_0^{{T_0}/2} {x\left( t \right){e^{ - j{2 \pi  f_0}kt}}dt} } \right) \hfill \\
   &= \frac{1}{{{T_0}}}\left( {\int_{{T_0}/2}^{{T_0}} {x\left( t \right){e^{ - j{2 \pi  f_0}kt}}dt}  + \int_0^{{T_0}/2} {x\left( t \right){e^{ - j{2 \pi  f_0}kt}}dt} } \right) \hfill \\
   &= \frac{1}{{{T_0}}}\int_0^{{T_0}} {x\left( t \right){e^{ - j{2 \pi  f_0}kt}}dt} .
\end{align*}
讀者可注意到上述第三條等式成立之原因為 $x(t)$ 為週期訊號故 $x(t -T_0) = x(t)$$\square$

2/12/2017

[訊號與系統] 兩週期弦波相加不保證仍為週期訊號

這裡我們討論弦波訊號的相加運算,並指出儘管個別弦波為週期訊號,但是經過相加運算之後週期性質不一定被保證,以下我們給出反例。另外關於週期訊號的定義我們給在下方供讀者參考。

===========
Example:
考慮 $x_1(t):= \cos t$ 與 $x_2(t) := \cos (\sqrt{2}t)$ 現在將此兩弦波訊號相加,記作
\[
x(t) := \cos t + \cos (\sqrt{2}t)
\]
(a) 試證明 $x_1(t)$ 與 $x_2(t)$ 為週期訊號。
(b) 試證明 $x(t)$ 不是週期訊號。
===========

Proof (a): Omitted.
Proof (b): 在此使用反證法,假設 $x(t)$ 是週期訊號。則由週期訊號定義可知:存在週期 $T>0$ 使得對任意 $t \in dom(x) \subset \mathbb{R}$,
\[
x(t+T) = x(t) \;\;\;\ (*)
\]以下我們要證明此假設導致矛盾。

現在取週期 $T>0$ ,則對任意 $t \in dom(x) \subset \mathbb{R}$,上述 $(*)$ 成立。故此,我們知道 式子 $(*)$ 對 $t=0$ 而言必定也成立,因此我們觀察 $t=0$的時候
\begin{align*}
 & {\left. {x(t + T)} \right|_{t = 0}} = {\left. {x\left( t \right)} \right|_{t = 0}} \hfill \\
   &\Rightarrow x(T) = x\left( 0 \right) \hfill \\
  & \Rightarrow \cos T + \cos (\sqrt 2 T) = \cos \left( 0 \right) + \cos (\sqrt 2 \left( 0 \right)) \hfill \\
  & \Rightarrow \cos T + \cos (\sqrt 2 T) = 2 \hfill \\
\end{align*} 注意到最後一條等式要成立,則必須滿足 $T=2 \pi n$ 且 $\sqrt{2}T = 2 \pi k$ 對任意 $n=1,2,...$ 與 $k=1,2,...$ ,此兩個條件可推知
\begin{align*}
  &\left\{ \begin{gathered}
  T = 2\pi n \hfill \\
  \sqrt 2 T = 2\pi k \hfill \\
\end{gathered}  \right. \hfill \\
   &\Rightarrow \sqrt 2 \left( {2\pi n} \right) = 2\pi k \hfill \\
   &\Rightarrow \sqrt 2  = \frac{k}{n} \hfill \\
\end{align*}注意到最後一等式:因為 $k,n \in \mathbb{N}$ 其等式右方比值 $k/n \in \mathbb{Q}$ 但是等式左方 $\sqrt{2} \in \mathbb{R} \setminus \mathbb{Q}$ 故我們得到矛盾。$\square$



===========
Definition: Periodic Signal
我們說訊號 $x(t)$ 為 週期為 $T$ 之週期訊號,若下列條件成立:
存在 $T>0$ 使得
\[
x(t+T) = x(t),\;\;\;\; \forall t \in dom(x)
\]===========



Comments:
讀者也許會問那什麼時候弦波相加才可能仍然保持週期訊號呢?答案是若相加之頻率彼此為 harmonically related,亦即弦波之間必須有共同的基本頻率(fundamental frequency) 則此時弦波相加仍為週期訊號。簡單言之若考慮
\[
x(t) = \sum_{k=1}^N A_k \cos(2 \pi f_k t)
\]則 $x(t)$ 要是弦波信號若且唯若 存在基本頻率 $f_0$ 使得 $f_k = k f_0, \forall k \in \mathbb{N}$ ,或者等價為
\[
f_0 := gcd\{f_1,...,f_N\}
\]其中 $gcd\{\cdot\}$ 表示最大公因數(Greatest Common Divisor, gcd)

[最佳化] C^2 函數一階逼近的餘項積分表示

令 $f: \mathbb{R}^m \to \mathbb{R}$ 為 $C^2$-函數。對 $f$ 在 $y$ 附近使用一階泰勒展開: \[ T_y(x) := f(y) + \nabla f(y)^\top (x - y) \] 則其餘項 $R(x,y)$ 訂為 $$R(...