[數學分析] 逐點收斂與均勻收斂(1)- sequence of functions

這次要介紹的是數學分析中關於函數收斂性 的 兩個非常重要的觀念： Pointwise convergence (逐點收斂) 與 Uniform convergence (均勻收斂) 。

不過在談函數的收斂之前，我們需要先知道到底是誰要收斂？ 在此我們所指的函數的收斂為考慮 函數 sequence  (也就是 函數 所形成的數列) 的收斂 。以下我們稱 $\{f_k \}_{k=1}^{\infty}$ 為一個 函數 sequence，其中 $f_k$ 為該數列中第 $k$ 個元素函數。

有了上述定義，我們便可以引入 這樣的函數到底如何收斂，首先我們介紹 函數 sequence 逐點收斂 的概念：
======================
Definition (Pointwise Convergence)
我們說一個 函數的 sequence $\{ f_k(t)\}_{k=1}^\infty$ 逐點收斂(converges pointwise) 到 某函數 $f(t)$ 若下列條件成立：
對任意 $t \in [t_0, t_1]$
$$\mathop {\lim }\limits_{k \to \infty } {f_k}(t) = f(t)$$ ======================

Comment:
1. 上述定義清楚的說明甚麼是逐點收斂。注意到第一個條件是 對任意 $t \in [t_0, t_1]$；也就是說 如果我們固定 $t$在某個閉區間範圍 $[t_0, t_1]$，在該時刻 $t$，我們的函數sequence $f_k(t) \rightarrow f(t)$ 對每一點時刻都成立。故稱為逐點收斂。

2. $f_k(t) \rightarrow f(t)  \Leftrightarrow \mathop {\lim }\limits_{k \to \infty } {f_k}(t)$ 在數學分析內容中，通常會更精確陳述為：
給定 $t \in [t_0,t_1]$， 對任意 $\varepsilon >0$ 存在一個夠大的 $N>0$ 使得 當 $n \ge N \Rightarrow |f_k(t) - f(t)| < \varepsilon$


下面給個例子說明Pointwise Convergence的概念：

Example (Pointwise Convergence)
考慮 $t \in [0, 1]$且我們的函數sequence
$${f_k}\left( t \right): = \left[ {\begin{array}{*{20}{c}} {{e^{ - tk}}\cos kt + 2}\\ {{e^{ - 2tk}}\cos kt + t} \end{array}} \right]$$
則我們現在固定任意 $t \in [0,1]$ ，並檢驗當 $k \rightarrow \infty$ 的時候會發生甚麼事情?
$$\Rightarrow \mathop {\lim }\limits_{k \to \infty } {f_k}\left( t \right) = \mathop {\lim }\limits_{k \to \infty } \left[ {\begin{array}{*{20}{c}} {{e^{ - tk}}\cos kt + 2}\\ {{e^{ - 2tk}}\cos kt + t} \end{array}} \right] = \left[ {\begin{array}{*{20}{c}} 2\\ t \end{array}} \right]$$ 上式告訴我們對每一個固定的 $t \in [0,1]$ 我們都有
$${f_k}(t) \to \left[ {\begin{array}{*{20}{c}} 2\\ t \end{array}} \right]$$ 亦即 ${f_k}(t)$ 逐點收斂到 $\left[ {\begin{array}{*{20}{c}} 2\\ t \end{array}} \right]$

注意到，儘管convergence pointwise 看起來似乎是很強的收斂條件，但其實我們很難從此種收斂中得出一些我們感興趣的性質 (比如說 此函數sequence原本為連續函數，那麼其對應的極限函數 $f$ 是否仍為連續？ 或者原函數squence 可微(積)分，那麼對應的極限函數 $f$ 是否也可微(積)分？) 事實上並無法被保證。

比如說考慮下圖 (點圖放大)

若以式子描述則為 $${f_k}\left( t \right) = \left\{ {\begin{array}{*{20}{l}} {0,\begin{array}{*{20}{c}} {} \end{array}t \le 0}\\ {kt,\begin{array}{*{20}{c}} {} \end{array}0 < t < \frac{1}{k}}\\ {1,\begin{array}{*{20}{c}} {} \end{array}t \ge \frac{1}{k}} \end{array}} \right.\begin{array}{*{20}{c}} {} \end{array} \to \begin{array}{*{20}{c}} {} \end{array}\mathop {\lim }\limits_{k \to \infty } {f_k}\left( t \right) = f\left( t \right) = \left\{ {\begin{array}{*{20}{l}} {0,\begin{array}{*{20}{c}} {} \end{array}t \le 0}\\ {1,\begin{array}{*{20}{c}} {} \end{array}t > 0} \end{array}} \right.$$ 左圖 $f_k$ 為連續函數。 但現在如果我們固定任意 $t$，並且讓 $k \rightarrow \infty$，我們得到的 $f$ 為一個step function，故連續性再逐點收斂中並沒有被保證。

故我們需要一個比逐點收斂更強的收斂。稱作均勻收斂 (Uniform convergence)

======================
Definition: (Uniform Convergence)
我們說一個 函數的 sequence $\{ f_k\}_{k=1}^\infty$ 均勻收斂(converges uniformly) 到 某函數 $f$ 若下列條件成立：
$$||f_k - f || \rightarrow 0 \ \text{as $k \rightarrow \infty$} \\ \text{or}\\  \ \mathop {\lim }\limits_{k \to \infty } \left\| {{f_k} - f} \right\| = 0$$ ======================

Comments
1. 上述定義不再要求 $t$，亦即與 $t$ 無關 (Uniform means total lack of restriction on $t$)。

2. $||f || := \displaystyle \sup_{t \in [t_0, t_1]} |f(t)|$；亦即我們的函數的norm是取sup norm of function (or so-called uniform norm, or infinity norm)

現在我們看個例子：

Example :
考慮 $f_n: \mathbb{R} \to \mathbb{R}$，且
$$f_n(x):=\frac{x^2+nx}{n}$$ 1. 試求當 $n \to \infty$ 其極限為何?
2. 試判斷是否均勻收斂至其極限?

Solution
1.  $$\mathop {\lim }\limits_{n \to \infty } {f_n}(x) = \mathop {\lim }\limits_{n \to \infty } \frac{{{x^2} + nx}}{n} = x$$
2. 檢驗其是否均勻收斂至 $x$ 我們可檢驗其 supnorm 是否收斂到 $0$
$$\left\| {{f_n} - f} \right\| = \mathop {\sup }\limits_{x \in {\rm{R}}} \left| {\frac{{{x^2} + nx}}{n} - x} \right| = \mathop {\sup }\limits_{x \in {\rm{R}}} \left| {\frac{{{x^2}}}{n}} \right|$$ 注意到若取 $x := \sqrt{n} \in \mathbb{R}$ 其 supnorm $=1$ 故不收斂到 $0$；因此 此例 $f_n(x)$ 並無均勻收斂到 $x$。$\square$


接著我們看個重要的結果，也就是均勻收斂保證 逐點收斂。

==================
FACT: $f_k$ converges uniformly to $f$ $\Rightarrow$ $f_k$ converges pointwise to $f$ 
==================
Proof:
固定 $t \in [t_0, t_1]$，我們要證明 $f_k \rightarrow f$ pointwise，亦即要證明
$$\lim_{k \rightarrow \infty}|f_k(t) - f(t) | =0$$ 故我們觀察
$$|f_k(t) - f(t) | \le \displaystyle \sup_{t \in [t_0, t_1]}|f_k(t) - f(t) | = ||f_k - f ||$$ 又因為 $f_k \rightarrow f$ uniformly，故我們知道
$$||f_k - f || \rightarrow 0$$ 亦即 Uniformly convergence $\Rightarrow$ Pointwise Convergence $\square$。


均勻收斂 保證 連續性。
==================
FACT: 令 $\{f_k\}: X \to \mathbb{R}$ 為 連續函數 sequence；若 $f_n \to f$ 均勻收斂，則 $f$ 為連續函數 (連續性被保持)
==================
(Proof is omitted.)
回頭再檢驗一下我們剛剛的圖

其並非均勻收斂 (WHY??) 由均勻收斂定義，我們計算其sup norm看看發生甚麼事：
$$\left\| {{f_k} - f} \right\| = \sup_t \left| {{f_k}\left( t \right) - f\left( t \right)} \right| = 1 \ne 0$$
WHY supnorm = 1?? 由定義我們是找 "兩者間差異" 取 sup，也就是找 $f_k - f$的差異最大的時候，那麼兩者間最大差異為1 不為0，亦即不均勻收斂。(失去連續性)


==================
FACT: 若 $\{ f_k \}_{k=1}^\infty$ converges uniformly to $f$ 若且唯若 $\{ f_k \}_{k=1}^\infty$  為 Cauchy sequence。亦即；對所有的 $\varepsilon > 0$, 存在一個 $K \in \mathbb{N}$ 使得 對所有的 $j,k \geq K$，我們有 $$||f_j - f_k|| < \varepsilon$$ ==================

接著我們看一個 Uniform Convergence 的結果：如果我們確認某函數 sequence  $\{ f_k \}$ 均勻收斂到 某極限函數 $f$，則 對其取積分再取極限 等價 取極限再取積分。(亦即 積分與極限次序可以互換)!!

==================
Theorem
令 $\{ f_k \}_{k=1}^\infty$ 為在有界 分段連續函數空間 $\cal{B}([t_0, t_1], \mathbb{R}^n)$ 的 sequence，且均勻收斂到 $f$。則
$$\displaystyle \lim_{k \rightarrow \infty} \int_{t_0}^{t_1} f_k(t) dt = \int_{t_0}^{t_1} f(t) dt$$ ==================

Proof
首先計算下列兩積分的差
$$\begin{array}{l} \left\| {\int_{{t_0}}^{{t_1}} {{f_k}} (t)dt - \int_{{t_0}}^{{t_1}} f (t)dt} \right\| = \left\| {\int_{{t_0}}^{{t_1}} {{f_k}} (t) - f(t)dt} \right\|\\ \begin{array}{*{20}{c}} {}&{}&{}&{}&{}&{}&{}&{}&{}&{}&{}&{} \end{array} \le \int_{{t_0}}^{{t_1}} {\left\| {{f_k}(t) - f(t)} \right\|} dt\\ \begin{array}{*{20}{c}} {}&{}&{}&{}&{}&{}&{}&{}&{}&{}&{}&{} \end{array} \le \int_{{t_0}}^{{t_1}} {\sup \left\| {{f_k}(t) - f(t)} \right\|} dt = \int_{{t_0}}^{{t_1}} {\left\| {{f_k} - f} \right\|} dt\\ \begin{array}{*{20}{c}} {}&{}&{}&{}&{}&{}&{}&{}&{}&{}&{}&{} \end{array} = \left\| {{f_k} - f} \right\|\int_{{t_0}}^{{t_1}} 1 dt = \underbrace {\left\| {{f_k} - f} \right\|}_{ \to 0}\left( {{t_1} - {t_0}} \right) \end{array}$$ 故
$$\displaystyle \lim_{k \rightarrow \infty} \int_{t_0}^{t_1} f_k(t) dt = \int_{t_0}^{t_1} f(t) dt. \ \ \ \ \square$$

延伸閱讀
[數學分析] 逐點收斂與均勻收斂(2) - Series version
[數學分析] 逐點收斂與均勻收斂(3) - Differentiation property

[數學分析] 逐點收斂與均勻收斂(4) - Uniform boundedness and Equicontinuity