[數學分析] 多變數函數的偏導數

令 $E\subset \mathbb{R}^n$ 為 open set。
考慮函數 ${\bf f}: E \subset \mathbb{R}^n \to \mathbb{R}^m$ 。令 $\{{\bf e}_1,...,{\bf e}_n\}$ 與 $\{{\bf u}_1,...,{\bf u}_m\}$ 各為 $\mathbb{R}^n$ 與 $\mathbb{R}^m$ 的 standard bases。則我們可以將 $\bf f$ 以分量(components)形式 $f_i$ 表示：對任意 ${\bf x} \in E$，
\[
{\bf f}({\bf x}) := \sum_{i=1}^m f_i ({\bf x}){\bf u}_i =f_1 {\bf u}_1 + ... + f_m {\bf u}_m
\]或者${f_i}\left( {\bf{x}} \right) = {\bf{f}}\left( {\bf{x}} \right) \cdot {{\bf{u}}_i},i = 1,...,m$

對任意 ${\bf x} \in E $，$1 \le i \le m$ 且 $1 \le j \le n$ 我們可以定義 偏導數 (Partial Derivative)
\[\left( {{D_j}{f_i}} \right)\left( {\bf{x}} \right): = \mathop {\lim }\limits_{t \to 0} \frac{{{f_i}\left( {{\bf{x}} + t{{\bf{e}}_j}} \right) - {f_i}\left( {\bf{x}} \right)}}{t}\]若上述極限存在。

Comments:
1. 注意到 $f_i({\bf x}) = f_i(x_1,...,x_n)$ 故 $D_j f_i$ 表示了固定其餘變數，僅對 $f_i$ 中的 $x_j$ 求導：故我們記做
\[
D_jf_i ({\bf x}) := \frac{\partial f_i}{\partial x_j}
\]並且稱 $D_jf_i$ 為偏導數 (Partial Derivative)

2. 對任意多變數連續函數而言，儘管偏導數存在並不保證全導數存在：但反之則成立：亦即若 $\bf f$ 在點 $\bf x$ 上可微，則其在 $\bf x$處的偏導數存在：且偏導數完全決定了 linear transformation ${\bf f}'({\bf x})$

3. 同 2 偏導數存在不保證 連續。以下我們看個例子：

Example
若 $f(0,0)=(0,0)$ 且 若 $(x,y) \neq (0,0)$
\[
f(x,y) := \frac{xy}{x^2 + y^2}
\](a) 試證 $(D_1 f)(x,y)$ 與 $D_2 f (x,y) $ 在 $\mathbb{R}^2$ 中每一點皆存在。
(b) 試證 $f$ 在 $(0,0)$ 處並不連續。

Proof:
注意到 $f: \mathbb{R}^2 \to \mathbb{R}^1$ ；故我們可利用偏導數定義計算 $(D_1 f)(x,y)$ 與 $D_2 f (x,y) $：首先令 $(x,y) \neq (0,0)$可知
\[\begin{array}{l}
{D_1}f\left( {x,y} \right) = \mathop {\lim }\limits_{h \to 0} \frac{{f\left( {x + h,y} \right) - f\left( {x,y} \right)}}{h}\\
\begin{array}{*{20}{c}}
{}&{}&{}&{}
\end{array} = \mathop {\lim }\limits_{h \to 0} \frac{{\frac{{\left( {x + h} \right)y}}{{{{\left( {x + h} \right)}^2} + {y^2}}} - \frac{{xy}}{{{x^2} + {y^2}}}}}{h}\\
\begin{array}{*{20}{c}}
{}&{}&{}&{}
\end{array} = \mathop {\lim }\limits_{h \to 0} \frac{{y\left[ {{y^2} - x\left( {x + h} \right)} \right]}}{{\left( {{{\left( {x + h} \right)}^2} + {y^2}} \right)\left( {{x^2} + {y^2}} \right)}} = \frac{{y\left( {{y^2} - {x^2}} \right)}}{{{{\left( {{x^2} + {y^2}} \right)}^2}}}
\end{array}\]同理，
\[{D_2}f\left( {x,y} \right) = \mathop {\lim }\limits_{h \to 0} \frac{{f\left( {x,y + h} \right) - f\left( {x,y} \right)}}{h}{\rm{ = }}\frac{{x\left( {{y^2} - {x^2}} \right)}}{{{{\left( {{x^2} + {y^2}} \right)}^2}}}\]上述兩 偏導數 在 $\mathbb{R}^2 \setminus (0,0)$ 處皆存在。接著我們計算 $(x,y)=(0,0)$ 處的偏導數。
\[\left\{ \begin{array}{l}
{D_1}f\left( {0,0} \right) = \mathop {\lim }\limits_{h \to 0} \frac{{f\left( {0 + h,0} \right) - f\left( {0,0} \right)}}{h} = \mathop {\lim }\limits_{h \to 0} \frac{{0 - 0}}{h} = 0\\
{D_2}f\left( {0,0} \right) = \mathop {\lim }\limits_{h \to 0} \frac{{f\left( {0,0 + h} \right) - f\left( {0,0} \right)}}{h} = \mathop {\lim }\limits_{h \to 0} \frac{{0 - 0}}{h} = 0
\end{array} \right.\]

(b) 我們要證 $f$ 在 ${\bf 0} := (0,0)$ 處並不連續。亦即 對 ${\bf 0}$ 而言， 要證明 存在 $\varepsilon >0$ 使得對任意 $\delta >0 $ 存在 ${\bf x}:= (x,y) \neq 0$ 使得
\[
||{\bf x} - {\bf 0}|| < \delta \text{ but }\; |f({\bf x}) - f({\bf 0})| \ge \varepsilon
\] 取 $\varepsilon :=1$ 且 $\delta>0$ 與 ${\bf x}:= (x,y) = (\delta/2,\delta/2) \neq 0$ 則可知
\[{\rm{but |}}f({\bf{x}}) - f({\bf{0}})| = \left| {\frac{{\frac{\delta }{2}\frac{\delta }{2}}}{{{{\frac{\delta }{2}}^2} + {{\frac{\delta }{2}}^2}}} - 0} \right| = \left| {\frac{1}{2} - 0} \right| = \frac{1}{2} > \frac{1}{4} = \varepsilon \]

=============
Theorem 1:
考慮 ${\bf f}: E \subset \mathbb{R}^n \to \mathbb{R}^m$ 且 $\bf f$ 在點 ${\bf x} \in E$處可導，則偏導數 $(D_jf_i)({\bf x})$ 存在且 偏導數完全決定了 ${\bf f}'({\bf x})$：亦即
\[{\bf{f}}'\left( {\bf{x}} \right){{\bf{e}}_j} = \sum\limits_{i = 1}^m {\left( {{D_j}{f_i}} \right)\left( {\bf{x}} \right){{\bf{u}}_i}} ,\begin{array}{*{20}{c}}
{}
\end{array}\left( {1 \le j \le n} \right)\]=============

Proof: omitted.

上述定理可以讓我們將 Linear operator ${\bf f}'({\bf x})$ 表達成矩陣的形式：
\[{\bf{f}}'\left( {\bf{x}} \right) = {\left[ {\begin{array}{*{20}{c}}
{{D_1}{f_1}}&{{D_2}{f_1}}& \cdots &{{D_n}{f_1}}\\
{{D_1}{f_2}}&{{D_2}{f_2}}& \cdots &{{D_n}{f_2}}\\
 \vdots &{}& \ddots & \vdots \\
{{D_1}{f_m}}&{}& \cdots &{{D_n}{f_m}}
\end{array}} \right]_{n \times m}}\]

現在我們看個重要的結果：
=============
Theorem 2: 假設 $\bf f$ 為 map 由 convex open set $E \subset \mathbb{R}^n \to \mathbb{R}^m$，且 $\bf f$ 在 $E$ 上可導，且存在 $M \in \mathbb{R}$ 使得 對任意 $\bf x$ $\in E$， 其 operator norm $||{\bf f}'({\bf x})|| \le M$ 則 對任意 $\bf a,b$ $\in E$，
\[||{\bf{f}}({\bf{b}}) - {\bf{f}}\left( {\bf{a}} \right)|| \le M||{\bf{b}} - {\bf{a}}||
\]=============

Proof:
我們要證明 $||{\bf{f}}({\bf{b}}) - {\bf{f}}\left( {\bf{a}} \right)|| \le M||{\bf{b}} - {\bf{a}}||$

注意到 $E$ 為 convex open set，故我們可利用 convexity 定義，現在對 任意點  $\bf x:=\gamma(t)$ $\in E$，與任意 $t \in [0,1]$ 可取
\[{\bf{x}}: =\gamma(t)= \left( {1 - t} \right){\bf{a}} + t{\bf{b}}\]現在若我們定義 ${\bf{g}}\left( t \right): = {\bf{f}}\left( {\gamma \left( t \right)} \right)$ 則由於 $\gamma$ 在 $(a,b)$ 可導(因為 $\gamma$ 為線性方程 ) 且 $\bf f$ 亦在  $(a,b)$ 可導(由假設可知) ；故可利用 Chain Rule \[\begin{array}{l}
{\bf{g}}'\left( t \right): = {\bf{f}}'\left( {\gamma \left( t \right)} \right)\gamma '\left( t \right) = {\bf{f}}'\left( {\gamma \left( t \right)} \right)\left( {{\bf{b}} - {\bf{a}}} \right)\\
 \Rightarrow \left\| {{\bf{g}}'\left( t \right)} \right\| \le \left\| {{\bf{f}}'\left( {\gamma \left( t \right)} \right)} \right\|\left\| {\left( {{\bf{b}} - {\bf{a}}} \right)} \right\| \le M\left\| {\left( {{\bf{b}} - {\bf{a}}} \right)} \right\|
\end{array}\]上式對 $t \in [0,1]$ 成立，故由 Mean Value Theorem 可知
\[\left\| {{\bf{g}}\left( 1 \right) - {\bf{g}}\left( 0 \right)} \right\| \le M\left\| {\left( {{\bf{b}} - {\bf{a}}} \right)} \right\| \ \ \ \  (\star)
\]但注意到
\[{\bf{g}}\left( t \right): = {\bf{f}}\left( {\gamma \left( t \right)} \right) \Rightarrow \left\{ \begin{array}{l}
{\bf{g}}\left( 1 \right): = {\bf{f}}\left( {\gamma \left( 1 \right)} \right) = {\bf{f}}\left( {\bf{b}} \right)\\
{\bf{g}}\left( 0 \right): = {\bf{f}}\left( {\gamma \left( 0 \right)} \right) = {\bf{f}}\left( {\bf{a}} \right)
\end{array} \right.\]故 $(\star)$ 可改寫為 $\left\| {{\bf{f}}\left( {\bf{b}} \right) - {\bf{f}}\left( {\bf{a}} \right)} \right\| \le M\left\| {\left( {{\bf{b}} - {\bf{a}}} \right)} \right\|$ $\ \ \ \ \ \square$

Corollary:
若 $\bf f'$ $({\bf x}) = \bf 0$ 對任意 $\bf x $ $\in E$，則 $\bf f$ 為常數。

Proof:
要證明 $M=0$ 即可。但注意到前述 Theorem 中對於 $M$ 假設亦包含 $0$ 故證畢。 


現在我們可以開始將導數 與 偏導數 之間性質做連結，注意到 如果一個 函數的 導數 存在且該導數連續，我們是否可以說其 偏導數存在 且 連續呢? 同樣的如果 偏導數存在 且 連續，可否說函數的導數存在且連續? 此答案記做下面的定理 Theorem 4

不過在給出 Theorem 4 之前，我們需要一些定義 何謂導數存在且導數連續：

===========
Definition: f is $C^1$ function
考慮函數 $\bf f$ $E \to \mathbb{R}^m$ 在 $E$ 上可導 且 $\bf f'$ $: E \to L(\mathbb{R^n},\mathbb{R}^m)$ 為連續函數，則我們說此函數 $\bf f$ $ \in C^1(E)$。

Definition: f' is continuous
我們稱 函數 $\bf  f'$ $: E \to L(\mathbb{R^n},\mathbb{R}^m)$  為連續函數 若下列條件成立：
對任意 $\bf x$ $\in E$，且任意 $\varepsilon >0$， 存在 $\delta >0$ 使得 對 $\bf y$ $\in E$，我們有
\[||{\bf{x}} - {\bf{y}}|| < \delta  \Rightarrow ||{\bf{f}'}\left( {\bf{x}} \right) - {\bf{f}'}\left( {\bf{y}} \right)|| < \varepsilon \]===========

Comments:
注意到 上述定義中 由於 $\bf x,y$ $\in E$，故其 norm 為定義在 $E$上的 norm ；但是 $\bf f'$ 為 linear operator 故其 norm $||{\bf{f}}\left( {\bf{x}} \right) - {\bf{f}}\left( {\bf{y}} \right)|{|_L} < $ 為 operator norm。亦即 \[||{\bf{f}'}\left( {\bf{x}} \right) - {\bf{f}'}\left( {\bf{y}} \right)|{|_L}: = \mathop {\sup }\limits_{{\bf{h}} = 1} ||{\bf{f}'}\left( {\bf{x}} \right){\bf{h}} - {\bf{f}'}\left( {\bf{y}} \right){\bf{h}}||\]


現在我們可以給出 Theorem 4：偏導數存在 且 連續，若且唯若 函數的導數存在且連續

Theorem 4:
若 $\bf f$ $:E \subset{\mathbb{R}^n} \to \mathbb{R}^m$，則 $\bf f$ $\in C^1(E)$ 若且唯若 其偏導數 $D_j f_i({\bf x})$ 存在 且連續。

Proof: omitted