[凸分析] 仿射組合 仿射空間 與 線性方程關係

考慮 中學數學 中提及的 直線方程 (更嚴格的說法是 affine function 在此用 斜截式 表示)：令 $x \in \mathbb{R}^1$，定義函數 $y: \mathbb{R}^1 \to \mathbb{R}^1$ 滿足
\[
y(x) = m x + b
\] 其中 $m$ 表示斜率， $b$ 表示截距。現在我們進一步觀察上式並將其改寫如下：
\[
y(x) = (m + b - b) x  + b
\]則讀者不難發現可得 $y(x) = (m + b) x  + b (1 - x) $ 現在若令 $a := m+b$ 則我們得到如下簡潔的形式
\[
y(x) = a x + b (1-x)
\]

Comments:
注意到 $ y(x):=y = a x + b (1-x)$ 一般稱 $y$ 為透過 $x, (1-x)$ 所成之 線性組合 (linear combination)，若 $0 \le x \le 1$，則上式一般稱為 $a$ 與 $b$ 的 凸組合 (convex combination)


推廣到有限維度歐式空間：
上述結果可以推廣到 $\mathbb{R}^n$ 空間：考慮 $x_1 \neq x_2$ 為 $\mathbb{R}^n$ 中的兩(向量)點，則
\[
y := \theta x_1 + (1 - \theta) x_2  \;\;\;\; (*)
\] 其中 $\theta \in \mathbb{R}$ 形成  $\mathbb{R}^n$ 過點 $x_1$ 與 $x_2$ 之直線。讀者可觀察若 $\theta = 0$ 則 $y=x_2$。若 $\theta = 1$ 則 $y= x_1$。亦即當我們調整參數 $\theta \in [0,1]$ 可得到一條 $x_1$ 與 $x_2$ 的封閉線段 (line segment)。另外我們亦可將 $(*)$ 改寫如下
\begin{align*}
  &y = \theta {x_1} + (1 - \theta ){x_2} \hfill \\
   &\Rightarrow y = {x_2} + \theta \left( {{x_1} - {x_2}} \right) \hfill \\
\end{align*} 則此時我們可以用另一種觀點來看上述直線方程：亦即上述直線方程有 "基準點" $x_2$ (對應 $\theta = 0$) 與 透過 參數 $\theta$ 調整後的 "方向" $x_1 - x_2$ (從 $x_2$ 指向 $x_1$ )。有了上述觀念，我們可以進一步提出 仿射集(Affine Set) 的概念：


=====================
Definiton:  仿射集 (Affine Set)
我們說一個集合 $C \subset \mathbb{R}^n$ 為 affine 若下列條件成立：對任意兩點 $x_1, x_2 \in C$ 與 $\theta \in \mathbb{R}$ ，其兩點用參數 $\theta$ 所成之線段 滿足
\[
\theta x_1 + (1-\theta)x_2 \in C
\]=====================

Comments:
注意到上述定義要求 $x_1,x_2$ 的線性組合之係數和為 $\theta + (1 - \theta) = 1$。

事實上上述定義不必僅僅取兩點，我們可以取任意有限多點比如 $x_1,x_2,...,x_k$ 且我們建構
\[
\theta_1 x_1 + \theta_2 x_2 + ... + \theta_k x_k
\]其中 $\sum_{i=1}^k \theta_i = 1$。這種有額外要求  $x_1,x_2,...,x_k$  係數和 為 $1$ 的特殊線性組合又稱作 $x_1,x_2,...,x_k$ 的仿射組合 (affine combination)

=============
FACT: 令 $C$ 為 affine 且任取一點 $x_0 \in C$ ，則 集合
\[
V:= C - x_0 := \{x-x_0 : x \in C\}
\]為子空間 subspace (亦即滿足 向量加法封閉性 與 純量乘法封閉性)。換言之若 $V$ 為 subspace 且 $x_0$ 任取為 $C$ 中一點，則集合
\[
C = V + x_0
\]為 affine。
=============

Comments: 
關於(實數)子空間更嚴格的定義如下：我們說非空集合 $V$ 為 子空間 若且唯若 $V$ 滿足向量加法封閉性 與 純量乘法封閉性：
1. 向量加法封閉性：對任意 $v_1, v_2 \in V,$ $v_1+v_2 \in V$
2. 純量乘法封閉性：對任意 $v \in V$ 與 $c \in \mathbb{R}^1$，$c v \in V$。

FACT: 線性方程之解所成的集合為仿射集
事實上 仿射集合 離我們並不遙遠，比如說考慮 任意線性方程的解所成之集合
\[
C:= \{x\in \mathbb{R}^n: Ax = b\}
\]其中 $A \in \mathbb{R}^{m \times n}$ 與 $b \in \mathbb{R}^m$ 則此集合即為仿射集。

Proof : 要證明 $C$ 為 affine ，我們從定義出發：取 $x,y \in C$ 與 $\theta \in \mathbb{R}^1$ 我們要證明
\[
\theta x + (1-\theta) y \in C \;\;\;\; (**)
\]注意到  $x,y \in C$ ，故 $Ax = b$ 且 $Ay=b$，要證明 $(**)$成立，則等價證明
\[
A (\theta x + (1-\theta) y) = b
\]上述等式成立因為：
\begin{align*}
  A(\theta x + (1 - \theta )y) &= \theta Ax + (1 - \theta )Ay \hfill \\
   &= \theta b + (1 - \theta )b = b \hfill \\
\end{align*} 故此得證。

以下我們給出一些常見的 affine set 例子

Example:
1. 任意空集合 $\emptyset$ 為 affine
2. 任意單點集 $\{x\}$ 為 affine
3. 任意 subspace 為 affine