[微積分] Little-oh 的性質 與 其對應的 函數可導定義

======================
Definition: $f$ is Little-Oh of $x$
我們說 當 $x \to 0$ 時， $f(x) = o (x)$ 若下列條件成立：
對任意 $\varepsilon>0$ 存在 $\delta > 0$ 使得
$$|x - 0| < \delta \Rightarrow \frac{f(x)}{|x|} < \varepsilon$$ 亦即上述等價為 $\displaystyle \lim_{x \to x} \frac{f(x)}{|x|} = 0$
======================

上述定義可進一步推廣如下：

======================
Definition: $f$ is Little-Oh of $g$
我們說 當 $x \to x_0$ 時， $f(x) = o (g(x))$ 若下列條件成立：
對任意 $\varepsilon>0$ 存在 $\delta > 0$ 與 正數 $c>0$ 使得
$$|x - x_0| < \delta \Rightarrow \frac{f(x)}{g(x)} < \varepsilon$$ 亦即上述等價為 $\displaystyle \lim_{x \to x_0} \frac{f(x)}{g(x)} = 0$
======================

以下我們先看個定理，此定理描述了 $o(x)$ 的一些常用性質：

======================
Theorem:
令 $f, g : I \to \mathbb{R}$ 為兩函數 且 $0 \in I$。若 $f(x) = o(x)$ 且 $g(x) =o(x)$ 則下列三個性質成立
$$\begin{array}{l} 1. \; f\left( x \right) + g\left( x \right) = o\left( x \right)\\ 2. \; \alpha f\left( x \right) = o\left( x \right),\begin{array}{*{20}{c}} {}&{} \end{array}\forall \alpha  \in \mathbb{R}\\ 3. \; f\left( x \right)g\left( x \right) = o\left( x \right) \end{array}$$ ======================

Proof: (1)
觀察
$$\mathop {\lim }\limits_{x \to 0} \left( {\frac{{f\left( x \right) + g\left( x \right)}}{{\left| x \right|}}} \right) = \mathop {\lim }\limits_{x \to 0} \left( {\frac{{f\left( x \right)}}{{\left| x \right|}} + \frac{{g\left( x \right)}}{{\left| x \right|}}} \right)$$ 由於 $f(x) = o(x)$ 且 $g(x) =o (x)$ 故
$$\begin{array}{l} \mathop {\lim }\limits_{x \to 0} \left( {\frac{{f\left( x \right)}}{{\left| x \right|}}} \right) = 0;\\ \mathop {\lim }\limits_{x \to 0} \left( {\frac{{g\left( x \right)}}{{\left| x \right|}}} \right) = 0 \end{array}$$ 因此
$$\mathop {\lim }\limits_{x \to 0} \left( {\frac{{f\left( x \right) + g\left( x \right)}}{{\left| x \right|}}} \right) = \mathop {\lim }\limits_{x \to 0} \left( {\frac{{f\left( x \right)}}{{\left| x \right|}} + \frac{{g\left( x \right)}}{{\left| x \right|}}} \right) = 0 + 0 = 0$$ 亦即
$$f(x) + g(x) = o(x)$$

Proof: (2)
給定任意 $\alpha \in \mathbb{R}$，觀察
$$\mathop {\lim }\limits_{x \to 0} \frac{{\alpha f\left( x \right)}}{{\left| x \right|}} = \alpha \mathop {\lim }\limits_{x \to 0} \frac{{f\left( x \right)}}{{\left| x \right|}} = 0$$ 亦即
$$\alpha f(x) = o(x)$$
Proof: (3)

觀察

$$\mathop {\lim }\limits_{x \to 0} \frac{{f\left( x \right)g\left( x \right)}}{{\left| x \right|}} = \mathop {\lim }\limits_{x \to 0} \frac{{f\left( x \right)g\left( x \right)}}{{\left| x \right|\left| x \right|}}\left| x \right| = \mathop {\lim }\limits_{x \to 0} \left( {\left( {\frac{{f\left( x \right)}}{{\left| x \right|}}} \right)\left( {\frac{{g\left( x \right)}}{{\left| x \right|}}} \right)\left| x \right|} \right)$$ 由於 $f(x) = o(x)$ 且 $g(x) =o (x)$ 故

$$\begin{array}{l} \mathop {\lim }\limits_{x \to 0} \left( {\frac{{f\left( x \right)}}{{\left| x \right|}}} \right) = 0;\\ \mathop {\lim }\limits_{x \to 0} \left( {\frac{{g\left( x \right)}}{{\left| x \right|}}} \right) = 0 \end{array}$$ 且 $\lim_{x \to 0}|x| =0$因此
$$\mathop {\lim }\limits_{x \to 0} \frac{{f\left( x \right)g\left( x \right)}}{{\left| x \right|}} = \mathop {\lim }\limits_{x \to 0} \left( {\left( {\frac{{f\left( x \right)}}{{\left| x \right|}}} \right)\left( {\frac{{g\left( x \right)}}{{\left| x \right|}}} \right)\left| x \right|} \right) = 0 \cdot 0 \cdot 0 = 0$$

Comment:
上述證明 $(3)$ 亦可採用以下性質來證明：
FACT: 若 $f: I \to \mathbb{R}$ 為函數 且 $0 \in I$，若 $f(x) = o(x)$ 則 $\lim_{x \to 0} f(x) = 0$
讀者可自行嘗試。

以下定理將 little oh 與 函數可微 的定義做連結。

======================
Theorem:
考慮 $f: I \to \mathbb{R}$，則下列敘述等價
$$1.\;\mathop {\lim }\limits_{h \to 0} \frac{{f\left( {x + h} \right) - f\left( x \right)}}{h} = f'\left( x \right)$$
$$2. \;\mathop {\lim }\limits_{h \to 0} \frac{{f\left( {x + h} \right) - f\left( x \right) - f'\left( x \right)h}}{h} = 0$$
$$3.  \; \mathop {\lim }\limits_{h \to 0} \frac{{f\left( {x + h} \right) - f\left( x \right) - f'\left( x \right)h}}{{\left| h \right|}} = 0$$
$$4.  \; f\left( {x + h} \right) - f\left( x \right) - f'\left( x \right)h = o\left( h \right)$$
$$5. \; f\left( {x + h} \right) - f\left( x \right) = f'\left( x \right)h + o\left( h \right)$$ ======================

Comment:
上述定理中的 1. 為標準的可導定義，表示 割線極限存在。

現在我們可以引入另一種 函數可導 的定義，此定義在某種意義上扮演承先啟後的角色，因為透過此定義將可允許我們把單變數函數可導的定義推廣到多變數函數之上。現在我們將原本割線極限 的定義改寫成以下定義：


======================
Definition: 令 $f: I \to \mathbb{R}$ 為函數，我們說 $f$ 在點 $x$ 可導若下列條件成立：若存在唯一常數，記作 $f'(x)$，使得
$$f(x+h) - f(x) = f'(x) h + o(h)$$ 成立
======================

Comments: 
1. 上述導數唯一的結果來自極限值的唯一性質。
2. 讀者也許感到疑惑明明我們對於函數可導的定義已經透過割線極限來定義，為何還要再重新定一個新的定義？因為上述定義將允許我們將原本單變數 $f$ 推廣到 多變數函數。