數學分析上的 Lipschitz condition 與 mean value theorem
有一些有趣的關係:在區間上具有均勻有界導數(uniformly bounded derivative)的可導函數 $f$ 必為 Lipschitz 連續。為此首先回憶基本一維的 mean value
theorem (MVT)
========
Theorem (Mean Value Theorem) 令 $f: [a,b] \to \mathbb{R}$
為連續函數,且在 $(a,b)$ 上可導。則存在 $c \in (a,b)$ 使得 $$ f(b) - f(a) =
f'(c) (b-a). $$
========
Definition (Lipschitz Continuity, Simplest Version) 令 $D \subseteq
\mathbb{R}$。函數 $f: D \to \mathbb{R}$ 為 Lipschitz continuous on $D$
若下列條件成立:
存在常數 $L \geq 0$ 使得對所有 $a,b \in D$,
$$
|f(b) - f(a)| \leq L |b-a|
$$
此時稱 $L$ 為 $f$ 的一個 Lipschitz 常數,且 $f$ 稱為 $L$-Lipschitz。
現在我們觀察:假設 $D$ 為 $\mathbb{R}$ 上任意區間,且 $f: D \to \mathbb{R}$ 在 $D$ 上可導並滿足對所有 $t \in
D$, $$ |f'(t)| \leq L $$
任取 $a, b \in D$。若 $a = b$ 則不等式顯然成立,故不妨設 $a < b$。由於 $D$ 為區間,$[a,b] \subseteq D$;又 $f$ 可導蘊含連續,故 $f$ 在 $[a,b]$ 上連續且在 $(a,b)$ 上可導。由 MVT,存在 $c \in (a,b)$ 使得
\begin{align*}
|f(b) - f(a)|
&= |f'(c) (b-a)|\\
&= |f'(c)|\, |b-a|\\
&\leq L\, |b-a|
\end{align*}
其中最後一步用到 $c \in (a,b) \subseteq D$。由於 $a, b$ 為任意,上述觀察說明:在區間 $D$ 上具有均勻有界導數 (uniformly bounded derivative) 的可導函數 $f$ 為 Lipschitz 連續,且 $L$ 即為其一個 Lipschitz 常數。
事實上,由於 $c \in (a,b)$,上述論證給出更精細的估計
$$
|f(b) - f(a)| \leq \Big( \sup_{t \in [a,b]} |f'(t)| \Big) |b-a| \leq \Big( \sup_{t \in D} |f'(t)| \Big) |b-a|
$$
注意左邊的 $\sup_{t \in [a,b]} |f'(t)|$ 會隨 $a, b$ 改變,因此不能作為 Lipschitz 常數;必須取整個 $D$ 上的上確界,才得到一個與 $a, b$ 無關的常數。
另一方面,設 $f$ 在區間 $D$ 上可導,且 $L$-Lipschitz 。則對任意 $x \in D$ 與 $h\neq 0$ 使得 $x +h \in D$,由 Lipschitz 連續性可知
\[
|f(x+h) - f(x)| \leq L |(x+h) - x| = L |h|
\]
兩邊同除 $|h|$ 得到
\[
\left| \frac{f(x+h) - f(x)}{h} \right| \leq L
\]
令 $h \to 0$ 得到 $|f'(x)| \leq L$。由於 $x$ 為任意,$f'$ 在 $D$ 上有界,且 $\sup_{t \in D} |f'(t)| \leq L$。
綜合以上兩個方向,我們得到以下結果:
Proposition 令 $D$ 為 $\mathbb{R}$ 上的區間,且 $f: D\to \mathbb{R}$ 在 $D$ 上可導。對任意 $L \geq 0$,則 $f$ 為 $L$-Lipschitz 若且唯若 $f'$ 在 $D$ 上有界,且此時 $f$ 的最小 Lipschitz 常數為
$$
L^*= \sup_{t \in D} |f'(t)|
$$
Remark. 注意到前述第一部分的論證取 $L = L^*$ 即說明 $L^*$ 本身是一個 Lipschitz 常數;第二部分則說明任何 Lipschitz 常數 $L$ 皆滿足 $L \geq L^*$。故 $L^*$ 為最小者。