[測度論] Sigma Algebra 與 Measurable function 簡介

這次要介紹的是 Sigma Algebra 與 可測函數 (Measurable function)。
(在機率論中 隨機變數 (random variable) 即為 可測函數，我們會在本文中稍作介紹 )

在介紹measurable function之前我們需要一些先導概念 (or building block) 來幫助我們。

首先是 空間 (Space) 的概念。
我們說一個 空間 $X$ 其實就是任意(具有某種結構)的集合 (set)。

一般而言牽涉到測度是 因為我們想要在這個空間(集合) 上定義積分，故我們需要加上一些 (額外的) 結構 到這個空間來幫助我們定義積分。也就是所謂的 $\sigma$-algebra 與 測度 (measure)。透過這個結構我們可以來說明什麼是 可測函數。

現在我們先看看空間需要的結構，稱為 sigma-algebra or sigma-field。

以下給出 $\sigma$-algebra的定義：
=============================
首先考慮 空間 $X$ 的子集合(subset)，我們將這些子集合 收集起來形成一個集合；定義做$\mathcal{A}$，我們稱 $\mathcal{A}$為 collection of subsets of $X$

Definition : ( $\sigma$-algebra)
假設 $\mathcal{A}$ 為 collection of subsets of $X$ ，則 $\mathcal{A}$為 $\sigma$-algebra (或稱 $\sigma$-field)如果下列三個條件成立：
1. $X \in \mathcal{A}$ 且 $\emptyset \in \mathcal{A}$ (亦即整個space 與 空集合必須落在 $\mathcal{A}$ 中)
2. $A \in \mathcal{A} \Rightarrow A^c \in \mathcal{A}$ (亦即 補集 必須落在 $\mathcal{A}$ 中)
3. 假設 $\{A_i \}$ 為在 $\mathcal{A}$ 中的 可數 集合序列 (countable set of sequence)，則其聯集 $\cup_i A_i \in \mathcal{A}$
=============================

Comments: 
1. 在機率論中，$X$ 為 sampled space $\Omega$，$\sigma$-algebra 為事件的集合 (事件為$\Omega$的子集)。
2. 注意到上述條件 (3.)，對於不可數集合的聯集並不允許!!，亦即我們無法聯集任意(不可數)多個集合；另外若我們將條件 3 改成只允許 "有限個集合" 聯集，則此時 $\mathcal{A}$ 稱作一個 algebra (NOT $\sigma$-algebra )
4. 對數個 sigma-algebra 取 交集仍為 sigma-algebra。
5. 在機率論中，若樣本空間 $\Omega$ 為可數集合，則我們可以對其上任何子集 $2^{\Omega}$ 皆可 指定對應測度，但若樣本空間為 無窮不可數集合 (uncountable set) ， 則我們很有可能無法對其上所有子集 定義對應的測度，但所幸我們可對 $\sigma$-algebra 所產生之子集定義測度，也就是透過 $\sigma$-algebra 的幫助，可以保證當我們做最大限度的集合的操作 (交集/聯集/差集/...) 之下所產生的 $\sigma$-algebra 的子集皆可被指定測度。


以下我們看幾個 $\sigma$-algebra 的例子
----
Example:
令 $X$ 為任意非空集合
1. 其 power set $\mathcal{P}(X)$ 與 $\{\emptyset, X \}$ 都為 $\sigma$ algebra。

2. 若 $X$ 為 uncountable，則下列集合
\[
 \mathcal{A} := \{E \subset X: \text{$E$ is countable or $E^C$ is countable} \}
\]為 $\sigma$- algebra。

3. 若 $A$ 為 $X$ 中非空子集，則
\[
\mathcal{A} = \{\emptyset, X, A^C, A \}
\]為  $\sigma$- algebra。

4. 若 $X $ 為 可數集合 (e.g., $X = \mathbb{N}$)，則下列集合
\[
 \mathcal{A} := \{E \subset X: \text{$E$ is finite or $E^C$ is finite} \}
\]不為 $\sigma$- algebra。
---

========================
Sigma-algebra generated by a set 
若 $\mathcal{E} \subset \mathcal{P}(X)$，其中 $\mathcal{P}(X)$ 為 $X$ 的 power set (表所有 $X$ 的子集)， 則存在一個 smallest sigma-algebra $\sigma(E)$ 包含 $\mathcal{E}$。亦即 \[
\sigma(\mathcal{E}) = \cap\{ \mathcal{C}: \mathcal{E} \subset \mathcal{C} \text{  and  } \mathcal{C} \text{ is a $\sigma$-algebra}\}
\]========================

Proof
我們要證明 $\sigma(\mathcal{E})$ 為 sigma-algebra。故由 sigma-algebra 定義
首先檢驗 $\emptyset$ 與 $X$ 是否落在  $\sigma(\mathcal{E})$ 中：由於
 \[
\sigma(\mathcal{E}) = \cap\{ \mathcal{C}: \mathcal{E} \subset \mathcal{C} \text{  and  } \mathcal{C} \text{ is a $\sigma$-algebra}\}
\]且在 $\sigma(\mathcal{E})$ 中的每一個元素 $ \mathcal{C}$ 都為 sigma-algebra，由定義可知必定都具有  $\emptyset$ 與 $X$ ，故可推知 $\emptyset \in \sigma(\mathcal{E})$ 與 $X \in \sigma(\mathcal{E})$。

接著我們檢驗 補集性質：我們讓 $A \in \sigma(\mathcal{E})$ ，則 $A \in \mathcal{C}, \; \forall \mathcal{C} \in \sigma(\mathcal{E})$ 又因為 $ \mathcal{C}$ 都為 sigma-algebra，故 $A^C \in \mathcal{C}, \; \forall \mathcal{C} \in \sigma(\mathcal{E})$ 亦即
\[
A^C \in \sigma(\mathcal{E})
\]
最後我們檢驗 可數聯集性質：讓 $\{A_i \}$ 為在 $\sigma(\mathcal{E})$ 中的 可數 集合序列 (countable set of sequence)，則 $A_i \in C,\; \forall C \in \sigma(\mathcal{E})$故我們若取聯集
\[\bigcup\limits_i^{} {{A_i}}  \in \sigma(\mathcal{E}) \ \ \ \ \square
\]



Example: Sigma-algebra generated by a family of open sets
令 $X$ 為 metric space。
若 $\sigma$-algebra 是由一堆  $X$ 中的 open sets 所形成的集合所產生，則我們稱此 $\sigma$-algebra 為 Borel $\sigma$-algebra 記做 $\mathcal{B}_X$。且 $\mathcal{B}_X$ 的元素我們稱為 Borel sets 且由於其為透過 open sets 所產生，故 $\mathcal{B}_X$ 包含 opne sets，closeed sets, 可數多個交集或者連集的open and closed sets。。


令 $X := \mathbb{R}$，則我們可以取 $\mathbb{R}$ 上的 open sets 建構 Borel sigma algebra $\mathcal{B}_{\mathbb{R}}$


有了 sigma-algebra 作為空間的結構，我們便可以定義我們需要 (用作之後定義積分) 的空間，稱為 可測空間 (Measurable Space)

=============================

Definition (Measurable Space 與 Measurable sets)
若 $X$ 為space 且 $\mathcal{A}$ 為 $\sigma$-algebra 滿足上述定義，則我們稱 有序配對  $(X, \mathcal{A})$ 為一個 Measurable Space。

且$\sigma$-algebra  $\mathcal{A}$ 中的元素稱為 Measurable sets。 (亦即 $\sigma$-algebra 為Measurable set)

=============================

有了以上定義我們便可以介紹甚麼是可測函數

現在假設有兩個 Measurable space $(X, \mathcal{A})$ 與 $(Y, \mathcal{B})$，並考慮有一個函數 $f : X \rightarrow Y$，則我們說 $f$ 為對 $\mathcal{A}$的 可測函數 (measruable function) 如果下列條件成立：
若 對所有的 $B \in \mathcal{B}$，其 inverse image 落在$\mathcal{A}$中，亦即
\[
f^{-1}(B)=\{x \in X : f(x) \in B \} = \{ f \in B\} \in \mathcal{A}
\]其中 $\mathcal{B}$ 為 Borel $\sigma$-algebra (亦即 $\mathcal{B}$ 為 最小的 $\sigma$-algebra 且包含 $\mathbb{R}$ 中所有 open subsets )

Comments:
1. 關於甚麼是 Inverse image 請參閱此文： [數學] Image and Preimage

2. 如果考慮機率空間 $(\Omega, \mathcal{F}, P)$ (亦即 sampled space $\Omega$，$\sigma$-algebra $\mathcal{F}$，機率測度 $P$)，關於機率測度有興趣的讀者請參考：[數學]機率公理淺談(Axioms of Probability)

============================
Random Variable as a Measurable Function

則我們可以定義隨機變數 (random variable ) $Z$。事實上 隨機變數 $Z$ 並不是隨機也不是變數，如前所述，本質上 $Z$ 為一個由sampled space $\Omega$ 映射到 實數 $\mathbb{R}$ 的 (可測)函數，亦即
隨機變數 $Z : \Omega \rightarrow \mathbb{R}$ 且滿足下列性質：對所有的 $z \in \mathbb{R}$
\[
\{\omega \in \Omega: Z(\omega) \leq z \} \in \mathcal{F}
\]
為什麼這樣定呢? 因為上述集合 $\{\omega \in \Omega: Z(\omega) \leq z \} \in \mathcal{F}$ ，也就是說是一個事件，既然是事件，我們便可以討論其對應的機率測度 $P(Z \leq z) =?$。

另外如果我們比對前述 可測函數的定義，可發現這樣的函數 $Z$ 為對 $\mathcal{F}$ 的 可測函數，亦即隨機變數為可測函數。

以下我們看一些例子：
Example 1:
設 $(\Omega, \mathcal{F}, P)$ 為一個機率空間，則我們定義函數 $Z: \Omega \rightarrow \mathbb{R}$ 為 $Z(\omega) =c, $ 則此函數 $Z$ 為一個隨機變數。
Proof
由隨機變數定義：給定  $z \in \mathbb{R}$，我們要證明
\[\{ \omega  \in \Omega :Z(\omega ) \le z\}  \in \mathcal{F}
\]現在觀察
\[\{ \omega  \in \Omega :Z(\omega ) \le z\}  = \{ \omega  \in \Omega :c \le z\}  = \left\{ \begin{array}{l}
\Omega ,\begin{array}{*{20}{c}}
{}&{}
\end{array}c \le z\\
\emptyset ,\begin{array}{*{20}{c}}
{}&{}
\end{array}c > z
\end{array} \right.
\]由 Sigma-algebra 定義可知 $\emptyset, \Omega  \in \mathcal{F}$。$\square$

Example 2:
設 $(\Omega, \mathcal{F}, P)$ 為一個機率空間，令 $A \in \mathcal{F}$ 為一事件。 則我們定義函數 $Z: \Omega \rightarrow \mathbb{R}$ 為
\[Z: = {I_A}\left( \omega  \right): = \left\{ \begin{array}{l}
1,\begin{array}{*{20}{c}}
{}&{}
\end{array}\omega  \in A\\
0,\begin{array}{*{20}{c}}
{}&{}
\end{array}\omega  \notin A
\end{array} \right.\]則此函數 $Z$ 為一個可測函數。
Proof
我們這邊利用可測函數的定義：給定  $B \in \mathcal{B}_{\mathbb{R}}$，我們要證明
\[\{ \omega  \in \Omega :Z(\omega ) \in B\}  \in \mathcal{F}
\]現在觀察 $\{ \omega  \in \Omega :Z(\omega ) \in B\}  = \{ \omega  \in \Omega :{I_A}\left( \omega  \right) \in B\}$ 故我們可以用以下幾個情況來判斷：
\[\begin{array}{l}
\text{if } 0 \in B,\;1 \notin B:\\
\begin{array}{*{20}{c}}
{}&{}&{}
\end{array} \Rightarrow \{ \omega  \in \Omega :\omega  \notin A\}  = {A^c} \in {{\cal F}}\\
\text{if }1 \in B,\;0 \notin B:\\
\begin{array}{*{20}{c}}
{}&{}&{}
\end{array} \Rightarrow \{ \omega  \in \Omega :\omega  \in A\}  = A \in {{\cal F}}\\
\text{if } 0,1 \in B:\\
\begin{array}{*{20}{c}}
{}&{}&{}
\end{array} \Rightarrow \{ \omega  \in \Omega :\omega  \in \Omega \}  = \Omega  \in {{\cal F}}\\
\text{if }0,1 \notin B:\\
\begin{array}{*{20}{c}}
{}&{}&{}
\end{array} \Rightarrow \{ \omega  \in \Omega :\omega  \in \emptyset \}  = \emptyset  \in {{\cal F}} \ \ \ \ \square
\end{array}
\]

3. 如果我們考慮的是一組隨機變數，而不是單一個，比如說
 $\{Z_1, Z_2, ..., Z_n \}$ 為一組 collection of random variables。則我們需要考慮的是 smallest $\sigma$-algebra, 計作$\mathcal{G}$  使得
對任意一個隨機變數 $Z_i$ 都是對 $\mathcal{G}$ 可測，亦即

對所有的 $z \in \mathbb{R}$與 $i = 1,...,n$
\[
\{\omega \in \Omega: Z_i(\omega) \leq z \} \in \mathcal{G}
\] 我們稱此 sub-$\sigma$ algebra $\mathcal{G}$ 為 由 $\{Z_1, Z_2, ..., Z_n \}$所產生的 $\sigma$ algebra，計做 $\sigma\{Z_1, Z_2, ..., Z_n \}$

NOTE:注意到因為 $\mathcal{G} = \sigma\{Z_1, Z_2, ..., Z_n \}$ 為最小的$\sigma$-algebra，故其必定為原本 $\sigma$-algebra 的子集合，也就是說 $\mathcal{G} \subset \mathcal{F}$