跳到主要內容

[凸分析] 一些常用的凸集性質(1) - 任意凸集之交集仍為凸集

=================
FACT 1: 兩凸集之交集仍為凸集
令 $C_1, C_2$ 為兩凸集,則 $C_1 \cap C_2$ 為凸集。
=================

Proof:
若 $C_1,C_2$ 任一者為空集合,亦即 $C_i = \emptyset, \;\;\; i=1 \text{ or } 2$ 則 $C_1 \cap C_2 = \emptyset$ 故為凸集。若 $C_1, C_2 \neq \emptyset$ ,我們可令 $x,y \in C_1 \cap C_2 $ 與 $\theta \in [0,1]$ 我們要證明
\[
\theta x + (1-\theta) y  \in C_1 \cap C_2
\]
注意到$x,y \in C_1 \cap C_2 $ 表示 $x,y \in C_1$ 且同時 $x,y \in C_2$,由於 $C_1, C_2$ 為凸集,故 $\theta x + (1-\theta) y   \in C_1$ 且 $\theta x + (1-\theta) y   \in C_2$ 亦即,
\[
\theta x + (1-\theta) y  \in C_1 \cap C_2
\]故此得證。$\square$

上述結果可推廣到任意交集,亦即

=================
Theorem: 對任意  $i \in \mathcal{I}$ , 令 $C_i$ 為凸集,則
\[
\bigcap_{i \in \mathcal{I}} C_i
\]亦為凸集。
=================
Proof: omitted (與前述 FACT 的證明雷同)



凸集合的用途非常廣泛,比如說在線性代數中最常被使用的空間為向量空間的子空間,此子空間即為凸集和。



=================
FACT 2: Subspace 為凸集
令 $V$ 為任意 vector space,令 $W \subset V$ 且 $W \neq \emptyset$ 為 subspace,則 $W$ 為 凸集。
=================

Proof:
令 $x,y \in W$ 與 $\theta \in [0,1]$,我們要證明
\[
\theta x + (1-\theta) y  \in W \;\;\;\;\; (*)
\]注意到 $x,y \in W$ 且 $W$ 為 subspace 故我們知道對任意 $a,b \in \mathbb{R}$
\[
a x + b y \in W
\]現在取 $ a := \theta \in [0,1]$ 且 $b := 1- \theta$ 則 $(*)$ 自動成立。故 subspace 為 凸集。 $\square$



不只如此,子空間自身的交集仍為子空間

=================
FACT 3: Subspaces 交集仍為 Subspace
令 $V$ 為向量空間,令 $W,U$ 為 $V$ 之子空間,則 $W \cap U$ 仍為子空間。
=================

Proof:
由於子空間必定包含零點,故 $W \cap U \neq \emptyset$,現在取 $x, y \in W \cap U$ 與 $a,b \in \mathbb{R}$,我們要證明
\[
a x + b y \in W \cap U
\]由於 $x, y \in W \cap U$ ,故 $x,y \in W$ 且 $y \in U$ 又因為 $W,U$ 為子空間,故 $ a x + b y \in W $ 且 $ a x + b y \in U $ 亦即,
\[a x + b y \in W \cap U \] 至此得證。$\square$


由 FACT 2 與 FACT 3 可立即推得以下引理:

=================
Corollary:
Subspaces 之交集仍為凸集。
=================



另外關於凸集之交集的另一個主要應用來自 由 歐式空間線性不等式 與 線性等式所成之集合,一般稱之為 Polyhedra ,記作 $P$, 我們亦可使用上述 FACT 來推論 $ P $為凸集。

=================
Example: 
回憶 Polyhedran 定義為 $\mathbb{R}^n$ 空間中的 線性不等式 與 線性等式 所成之集合,亦即
\[
P := \{x \in \mathbb{R}^n: \exists A,b,C,d \text{s.t.} Ax \leq b, \;\;\; Cx = d\}
\]此集合等價為
\[
P= \bigcap \{\text{half-spaces and hyperplane}\}
\]由於 half-space 與 hyperplane為凸集 (why?) 故 $P$ 亦為凸集。
=================








留言

這個網誌中的熱門文章

[數學分析] 什麼是若且唯若 "if and only if"

數學上的 if and only if  ( 此文不討論邏輯學中的 if and only if,只討論數學上的 if and only if。) 中文翻譯叫做  若且唯若 (or 當且僅當) , 記得當初剛接觸這個詞彙的時候,我是完全不明白到底是甚麼意思,查了翻譯也是愛莫能助,畢竟有翻跟沒翻一樣,都是有看沒有懂。 在數學上如果看到 if and only if  這類的句子,其實是表示一種 雙條件句 ,通常可以直接將其視為" 定義(Definition)" 待之,今天要分享的是這樣的一個句子如何用比較直觀的方法去看他 假設我們現在有 兩個邏輯陳述句 A 與  B. 注意到,在此我們不必考慮這兩個陳述句到底是什麼,想表達什麼,或者到底是否為真(true),這些都不重要。只要知道是兩個陳述即可。 現在,考慮新的陳述:  "A if and only if B" 好了,現在主角登場,我們可以怎麼看待這個句子呢? 事實上我們可以很直覺的把這句子拆成兩部分看待,也就是 "( A if B ) and ( A only if B )" 那麼先針對第一個部分  A if B  來看, 其實這句就是說  if B then A, 更直白一點就是 "if B is true, then A is also true".  在數學上等價可以寫為 "B implies A" .  或者更常用一個箭頭符號來表示 "B $\Rightarrow$  A"  現在針對第二個部分  A only if B 此句意指  "If B is not true, then A is also not true". 所以如果已知 A is true,  那麼按照上句不難推得 B is also true 也就是說  A only if B  等價為 "If A is true then B is also true". 同樣,也可以寫作   "A implies B"   或者用箭頭表示  "A   $\Rightarrow$     B".

[數學分析] 淺談各種基本範數 (Norm)

這次要介紹的是數學上一個重要的概念: Norm: 一般翻譯成 範數 (在英語中 norm 有規範的意思,比如我們說normalization就是把某種東西/物品/事件 做 正規化,也就是加上規範使其正常化),不過個人認為其實翻譯成 範數 也是看不懂的...這邊建議把 Norm 想成長度就好 (事實上norm是長度的抽象推廣), 也許讀者會認為好端端的長度不用,為何又要發明一個 norm 來自討苦吃?? 既抽象又艱澀。 事實上想法是這樣的: 比如說現在想要比較兩個數字 $3$ , $5$ 之間的大小,則我們可以馬上知道 $ 3 < 5 $;同樣的,如果再考慮小數與無理數如 $1.8753$ 與 $\pi$,我們仍然可以比較大小 $1.8753 < \pi = 3.1415...$ 故可以發現我們有辦法對 "純量" 做明確的比大小,WHY? 因為前述例子中 $3$, $5$, $1.8753$ or $\pi$ 其各自的大小有辦法被 "measure "! 但是如果是現在考慮的是一組數字 我們如何去measure 其大小呢?? 比如說 \[x:=[1, -2, 0.1, 0 ]^T \]上式的大小該是多少? 是 $1$? $-2$? $0.1$??? 再者如果更過分一點,我們考慮一個矩陣 \[A = \left[ {\begin{array}{*{20}{c}} 1&2\\ 3&4 \end{array}} \right] \],想要知道這個矩陣的大小又該怎麼辦?? 是 $1$ ? $2$ 還是 $4$ ?..其實現階段我們說不清楚。 也正是如此,可以發現我們確實需要新的 "長度" 的定義來幫助我們如何去 measure 矩陣/向量/甚至是函數的大小。 故此,我們首先定義甚麼是Norm,(也就是把 "長度" or "大小" 的本質抽離出來) ================== Definition: Norm 考慮 $V$ 為一個向量空間(Vector space),則我們說  Norm 為一個函數 $||\cdot|| : V \rightarrow \mathbb{R}$ 且滿足下列性質