線性代數
|
|
向量 · 向量空間 · 基底 · 行列式 · 矩陣
|
|
|
在線性代數中,一個矩陣 的列秩是列向量生成的最大線性無關組的向量個數。類似地,行秩是矩陣 的線性無關的橫行的個數。矩陣的列秩和行秩總是相等的,因此它們可以簡單地稱作矩陣 的秩(Rank)。通常表示為 , 或。
設 為 矩陣。若 至少有一個 階非零子式,而其所有 階子式全為零,即矩陣的最高階非零子式的階數為r。則稱 為 的秩。
對於 維線性空間 中的一個向量組 ,若
中的 個向量線性無關,且若 ,, 中 個向量都線性相關,則稱 為 的極大線性無關組, 為 的秩。可以證明 的秩等於向量組 生成的子空間的維數。
矩陣 的列秩定義為 的列向量組的秩,也即矩陣的列空間的維數。類似地,矩陣的行秩定義為 的行向量組的秩,即矩陣的行空間的維數。
考慮線性映射:
對於每個矩陣 , 都是一個線性映射,同時,對每個 的
線性映射 ,都存在矩陣 使得 。也就是說,映射
是一個同構映射。所以一個矩陣 的秩還可定義為 的像的維度(像與核的討論參見線性映射)。矩陣 稱為 的變換矩陣。這個定義的好處是適用於任何線性映射而不需要指定矩陣,因為每個線性映射有且僅有一個矩陣與其對應。秩還可以定義為 的核的維度;秩-零化度定理聲稱它等於 的像的維度。
矩陣的行秩與列秩相等,是線性代數基本定理的重要組成部分。其基本證明思路是,矩陣可以看作線性映射的變換矩陣,列秩為像空間的維度,行秩為非零原像空間的維度,因此列秩與行秩相等,即像空間的維度與非零原像空間的維度相等(這裡的非零原像空間是指約去了零空間後的商空間:原像空間)。這從矩陣的奇異值分解就可以看出來。
給出這一結果的兩種證明. 第一個證明是簡短的,僅用到向量的線性組合的基本性質. 第二個證明利用了正交性[1]. 第一個證明利用了列空間的基, 第二個證明利用了行向量空間的基. 第一個證明適用於定義在標量域上的矩陣,第二個證明適用於內積空間。二者都適用於實或復的歐氏空間,也都易於修改去證明當A是線性變換的情形.
令 是一個 的矩陣,其列秩為 . 因此矩陣 的列空間的維度是 . 令 是 的列空間的一組基,構成 矩陣 的列向量 ,並使得 的每個列向量是 的 個列向量的線性組合. 由矩陣乘法的定義,存在一個 矩陣 , 使得 . ( 的 元素是 與 的第 個行向量的點積.)
現在,由於 , 的每個行向量是 的行向量的線性組合,這意味着 的行向量空間被包含於 的行向量空間之中. 因此 的行秩 ≤ 的行秩. 但僅有行, 所以的行秩 ≤ = 的列秩. 這就證明了的行秩 ≤ 的列秩.
把上述證明過程中的「行」與「列」交換,利用對偶性質同樣可證的列秩 ≤ 的行秩。更簡單的方法是考慮的轉置矩陣,則的列秩 = 的行秩 ≤ 的列秩 = 的行秩. 這證明了的列秩等於的行秩. 證畢.
令是矩陣,其行秩是. 因此的行向量空間的維度是,設是的行向量空間的一組基. 如果把這組基當作原像列向量看待,則向量集是線性獨立的。 這是因為對一組標量係數,如果:
其中. 則可以推出有兩個事實: (a) 是行向量空間的線性組合, 即屬於的行向量空間;(b) 由於 = 0, 正交於的所有行向量,從而正交於的行向量空間的所有向量. 事實(a)與(b)結合起來,則正交於自身,這意味着 = 0. 由的定義:
再由是的行向量空間的一組線性獨立的基,可知. 因而是線性獨立的.
是的列空間中的向量. 因此是的列空間中個線性獨立的向量. 所以的列向量空間的維數(的列秩)必然不小於. 這證明了的行秩r ≤ 的列秩. 把這一結果應用於的轉置矩陣可以得到: 的列秩 = 的行秩 ≤ 列秩 = 的行秩. 這證明了的列秩等於的行秩,證畢.
最後, 還可以證明rk(A) = rk(A*), 其中A*是A的共軛轉置或稱施密特轉置. 當A的元素都是實數, 這一結果變為rk(A) = rk(AT). 然而對於復係數矩陣,rk(A) = rk(A*)並不等價於行秩等於列秩, 需要用到上述兩個證明.
令A是一個m×n矩陣. 定義rk(A)為A的列秩,A*為A的共軛轉置或稱施密特轉置. 首先可知A*Ax = 0當且僅當Ax = 0.
- A*Ax = 0 ⇒ x*A*Ax = 0 ⇒ (Ax)*(Ax) = 0 ⇒ ‖Ax‖2 = 0 ⇒ Ax = 0,
其中‖·‖是歐氏範數. 這說明A的零空間與A*A的零空間相同. 由秩-零化度定理, 可得rk(A) = rk(A*A). A*A的每一個列向量是A*的列向量的線性組合. 所以A*A的列空間是A*的列空間的子空間. 從而rk(A*A) ≤ rk(A*). 即: rk(A) = rk(A*A) ≤ rk(A*). 應用這一結果於A*可獲得不等式: 由於(A*)* = A, 可寫作rk(A*) ≤ rk((A*)*) = rk(A). 這證明了rk(A) = rk(A*). 證畢.
我們假定A是在域F上的m × n矩陣並描述了上述線性映射。
- m × n矩陣的秩不大於m且不大於n的一個非負整數,表示為 rk(A) ≤ min(m, n)。有儘可能大的秩的矩陣被稱為有滿秩;類似的,否則矩陣是秩不足(或稱為「欠秩」)的。
- 只有零矩陣有秩0
- A的秩最大為min(m,n)
- f是單射,當且僅當A有秩n(在這種情況下,我們稱A有「列滿秩」)。
- f是滿射,當且僅當A有秩m(在這種情況下,我們稱A有「行滿秩」)。
- 在方塊矩陣A (就是m = n)的情況下,則A是可逆的,當且僅當A有秩n(也就是A有滿秩)。
- 如果B是任何n × k矩陣,則AB的秩最大為A的秩和B的秩的小者。即:
- 推廣到若干個矩陣的情況,就是:
- 證明:
- 考慮矩陣的秩的線性映射的定義,令A、B對應的線性映射分別為f和g,則AB表示複合映射f·g,它的象Im f·g是g的像Im g在映射f作用下的象。然而Im g是整個空間的一部分,因此它在映射f作用下的象也是整個空間在映射f作用下的象的一部分。也就是說映射Im f·g是Im f的一部分。對矩陣就是:秩(AB)≤秩(A)。
- 對於另一個不等式:秩(AB)≤秩(B),考慮Im g的一組基:(e1,e2,...,en),容易證明(f(e1),f(e2),...,f(en))生成了空間Im f·g,於是Im f·g的維度小於等於Im g的維度。對矩陣就是:秩(AB)≤秩(B)。
- 因此有:秩(AB)≤min(秩(A),秩(B))。若干個矩陣的情況證明類似。
- 作為"<"情況的一個例子,考慮積
- 兩個因子都有秩1,而這個積有秩0。
- 可以看出,等號成立當且僅當其中一個矩陣(比如說A)對應的線性映射不減少空間的維度,即是單射,這時A是滿秩的。於是有以下性質:
- 如果B是秩n的n × k矩陣,則
- 如果C是秩m的l × m矩陣,則
- A的秩等於r,當且僅當存在一個可逆m × m矩陣X和一個可逆的n × n矩陣Y使得
- 這裡的Ir指示r × r 單位矩陣。
- 證明可以通過高斯消去法構造性地給出。
- 西爾維斯特不等式: 如果 A 是一個 m × n 的矩陣且 B 是 n × k 的, 則
- [i]
- 這是下一個不等式的特例.
- 這個不等式是由Frobenius提出的: 如果 AB, ABC 和 BC 有定義, 則
- [ii]
- 子加性:當矩陣和的形狀相同時,有 . 因此,一個秩為k的矩陣能夠表示成k個秩為1的矩陣的加和,但不能是k-1個或更少。
- 矩陣的秩加上矩陣的零化度等於矩陣的縱列數(這就是秩-零化度定理)。
- 如果 A 是實數上的矩陣,那麼 A 的秩和它對應格拉姆矩陣的秩相等。於是,對於實矩陣
- .
- 該性質可以通過它們的零空間證明. 格拉姆矩陣的零空間由所有滿足 的向量組成。如果上式成立, 那麼下式也成立: ,於是,,即與的零空間相同.[2]
- 如果 A 是複數上的矩陣且 A* 表示 A 的共軛轉置(i.e., A 的伴隨), 則
將個維列向量排列成的矩陣A,這個對應矩陣的秩即為原向量組的秩。
原向量組線性相關的充分必要條件為:
如果
則向量組線性無關。另外,不存在
特殊的,若向量的個數大於向量的維數,則根據:
這個向量組必然線性相關。
計算矩陣A的秩的最容易的方式是高斯消去法,即利用矩陣的初等變換生成一個行階梯形矩陣,由於矩陣的初等變換不改變矩陣的秩,因此A的行階梯形矩陣有同A一樣的秩。經過初等變換的矩陣的非零行的數目就是原矩陣的秩。
例如考慮4 × 4矩陣
我們看到第2縱列是第1縱列的兩倍,而第4縱列等於第1和第3縱列的總和。第1和第3縱列是線性無關的,所以A的秩是2。這可以用高斯算法驗證。它生成下列A的行階梯形矩陣:
它有兩個非零的橫行。
在應用在計算機上的浮點數的時候,基本高斯消去(LU分解)可能是不穩定的,應當使用秩啟示(revealing)分解。一個有效的替代者是奇異值分解(SVD),但還有更少代價的選擇,比如有支點(pivoting)的QR分解,它也比高斯消去在數值上更強壯。秩的數值判定要求對一個值比如來自SVD的一個奇異值是否為零的依據,實際選擇依賴於矩陣和應用二者。
計算矩陣的秩的一個有用應用是計算線性方程組解的數目。如果係數矩陣的秩等於增廣矩陣的秩,則該方程組有解。在這種情況下,如果它的秩等於方程的數目那麼該方程組有唯一的一個精確解。如果增廣矩陣的秩大於係數矩陣的秩,則方程組是不一致(Inconsistent)的。
在控制論中,矩陣的秩可以用來確定線性系統是否為可控制的,或可觀察的。
- ^ 證明: 對不等式使用秩-零化度定理
- ^ 證明:商空間之間的映射C: ker(ABC) / ker(BC) → ker(AB) / ker(B)有定義且為單射。因此我們得到了關於核維數關係的不等式dim ker(ABC)-dim ker(BC) ≤ dim ker(AB) - dim ker(B), 利用秩-零化度定理即可得到結論(即dim ker(ABC)-dim ker(BC)=rank(BC)-rank(ABC), 右邊同理)。或者也可以這麼證明:假如M是一個子線性空間,A是線性映射,那麼dim(A(M)) ≤ dim(M) (*); 記映射BC(注意先進行C映射後進行B映射)的像為im(BC), 映射B的像為im(B), 則im(BC)⊆im(B), 取im(B)中im(BC)的正交補(不一定要正交,構成直和關係即可,這裡取正交補只是為了方便)記為D, 則dim(D) = rk(B) – rk(BC); 而由線性映射的規律知im(AB) = AD + im(ABC), 但不一定再是直和,即dim(AD) + rk(ABC) ≥ rk(AB), 利用不等式(*)可得dim(D)[=rk(B) – rk(BC)] + rk(ABC) ≥ rk(AB), 從而得證。
- ^ Mackiw, G. (1995). A Note on the Equality of the Column and Row Rank of a Matrix. Mathematics Magazine, Vol. 68, No. 4
- ^ Mirsky, Leonid. An introduction to linear algebra. Dover Publications. 1955. ISBN 978-0-486-66434-7.
- Horn, Roger A. and Johnson, Charles R. Matrix Analysis. Cambridge University Press, 1985. ISBN 978-0-521-38632-6.
- Kaw, Autar K. Two Chapters from the book Introduction to Matrix Algebra: 1. Vectors [1] and System of Equations [2]