矩阵分析与应用+张贤达

一个 n × n ntimes n n×n矩阵称为非奇异矩阵，若它具有n个线性无关的列向量和n个线性无关的行向量。

• 非奇异矩阵也可以从线性系统的观点出发定义:
  一线性变换或正方矩阵 A A A称为非奇异的，若它只对零输入产生零输出。否则，它是奇异的。
  如果一个矩阵非奇异，那么它必定存在逆矩阵。反之，一奇异矩阵肯定不存在逆矩阵。
  一个 n × n ntimes n n×n的正方矩阵 B B B满足 B A = A B = I BA=AB=I BA=AB=I时，就称矩阵 B B B是矩阵 A A A的逆矩阵，记为 A − 1 A^{-1} A−1。

• 一个 n × n ntimes n n×n矩阵的非奇异性的另外一种常用表示形式为行列式。下面从行列式入手，对矩阵的逆矩阵展开讨论。
  若一个正方矩阵 A A A的所有元素 a i j a_{ij} aij​分别由它们的余子式 A i j A_{ij} Aij​代替，然后转置，所得到的矩阵称为 A A A的伴随矩阵，记作 a d j ( A ) adj(A) adj(A)，即有
  a d j ( A ) = [ A 11 A 21 ⋯ A n 1 A 12 A 22 ⋯ A n 2 ⋮ ⋮ ⋱ ⋮ A 1 n A 2 n ⋯ A n n ] adj(A)= left[ begin{matrix} A_{11} & A_{21} & cdots & A_{n1} \ A_{12} & A_{22} & cdots & A_{n2} \ vdots & vdots & ddots & vdots \ A_{1n} & A_{2n} & cdots & A_{nn} \ end{matrix} right] adj(A)=⎣ ⎡​A11​A12​⋮A1n​​A21​A22​⋮A2n​​⋯⋯⋱⋯​An1​An2​⋮Ann​​⎦ ⎤​
  若行列式 d e t ( A ) ≠ 0 det(A)≠0 det(A)=0，则矩阵 A A A的逆矩阵 A − 1 A^{-1} A−1存在，并且唯一。
  逆矩阵 A − 1 A^{-1} A−1由下式给出:
  A − 1 = 1 d e t ( A ) a d j ( A ) = 1 ∣ A ∣ [ A 11 A 21 ⋯ A n 1 A 12 A 22 ⋯ A n 2 ⋮ ⋮ ⋱ ⋮ A 1 n A 2 n ⋯ A n n ] A^{-1}=frac{1}{det(A)}adj(A)=frac{1}{|A|}left[ begin{matrix} A_{11} & A_{21} & cdots & A_{n1} \ A_{12} & A_{22} & cdots & A_{n2} \ vdots & vdots & ddots & vdots \ A_{1n} & A_{2n} & cdots & A_{nn} \ end{matrix} right] A−1=det(A)1​adj(A)=∣A∣1​⎣ ⎡​A11​A12​⋮A1n​​A21​A22​⋮A2n​​⋯⋯⋱⋯​An1​An2​⋮Ann​​⎦ ⎤​
  举例
  对于矩阵
  A = [ 1 5 4 6 ] A= left[ begin{matrix} 1 & 5 \ 4 & 6 \ end{matrix} right] A=[14​56​]
  易知
  ∣ A ∣ = ( 6 − 20 ) = − 14 |A|=(6-20)=-14 ∣A∣=(6−20)=−14
  a d j ( A ) = [ 6 − 4 − 5 1 ] T = [ 6 − 5 − 4 1 ] adj(A)= left[ begin{matrix} 6 & -4 \ -5 & 1 \ end{matrix} right]^T= left[ begin{matrix} 6 & -5 \ -4 & 1 \ end{matrix} right] adj(A)=[6−5​−41​]T=[6−4​−51​]

A − 1 = 1 ∣ A ∣ a d j ( A ) = 1 − 14 [ 6 − 5 − 4 1 ] = [ − 3 7 5 14 2 7 − 1 14 ] A^{-1}=frac{1}{|A|}adj(A)=frac{1}{-14} left[ begin{matrix} 6 & -5 \ -4 & 1 \ end{matrix} right]= left[ begin{matrix} -frac{3}{7} & frac{5}{14} \ frac{2}{7} & -frac{1}{14} \ end{matrix} right] A−1=∣A∣1​adj(A)=−141​[6−4​−51​]=[−73​72​​145​−141​​]

• 矩阵 A n × n A_{ntimes n} An×n​的伴随矩阵 a d j ( A ) adj(A) adj(A)的转置等于 A A A的转置的伴随矩阵，即有 [ a d j ( A ) ] T = a d j ( A T ) [adj(A)]^T= adj( A^T) [adj(A)]T=adj(AT)

• 若矩阵 A ∈ C n × n A in C^{ntimes n} A∈Cn×n的逆矩阵存在，则称矩阵 A A A是非奇异的或可逆的。
  关于矩阵的非奇异性或可逆性，下列叙述等价
  (1) A A A非奇异;
  (2) A − 1 A^{-1} A−1存在;
  (3) r a n k ( A ) = n rank(A)=n rank(A)=n;
  (4) A A A的行线性无关;
  (5) A A A的列线性无关;
  (6) d e t ( A ) ≠ 0 det(A)≠0 det(A)=0;
  (7) A A A的值域的维数是 n n n;
  (8) A A A的零空间的维数是 0 0 0;
  (9) A x = b Ax=b Ax=b对每一个 b ∈ C n bin C^n b∈Cn都是一致方程;
  (10) A x = b Ax=b Ax=b对每一个 b b b有唯一的解;
  (11) A x = 0 Ax=0 Ax=0只有平凡解 x = 0 x=0 x=0。

• n × n ntimes n n×n矩阵 A A A的逆矩阵 A − 1 A^{-1} A−1具有以下性质
  (1) A − 1 A = A A − 1 = I A^{-1}A=AA^{-1}=I A−1A=AA−1=I。
  (2) A − 1 A^{-1} A−1是唯一的。
  (3)逆矩阵的行列式等于原矩阵行列式的倒数，即 ∣ A − 1 ∣ = 1 ∣ A ∣ |A^{-1}|=frac{1}{|A|} ∣A−1∣=∣A∣1​
  (4)逆矩阵是非奇异的。
  (5) ( A − 1 ) − 1 = A (A^{-1})^{-1}=A (A−1)−1=A。
  (6)复共轭转置矩阵 A H A^H AH的逆矩阵等于逆矩阵 A − 1 A^{-1} A−1的复共轭转置，即 ( A H ) − 1 = ( A − 1 ) H (A^H)^{-1}=(A^{-1})^H (AH)−1=(A−1)H。逆矩阵的复共轭转置常采用符号 A − H = ( A − 1 ) H A^{-H}=(A^{-1})^H A−H=(A−1)H简记之。
  (7)若 A H = A A^H=A AH=A，则 ( A − 1 ) H = A − 1 (A^{-1})^H=A^{-1} (A−1)H=A−1。
  (8) ( A ∗ ) − 1 = ( A − 1 ) ∗ (A^*)^{-1}=(A^{-1})^* (A∗)−1=(A−1)∗。
  (9)如果 A A A和 B B B都是可逆的，则
  ( A B ) − 1 = B − 1 A − 1 (AB)^{-1}=B^{-1}A^{-1} (AB)−1=B−1A−1
  更一般地，有
  ( A B C ) − 1 = C − 1 B − 1 A − 1 (ABC)^{-1}=C^{-1}B^{-1}A^{-1} (ABC)−1=C−1B−1A−1
  (10)若 A = d i a g ( a 1 , a 2 , … , a m ) A=diag(a_1,a_2,…,a_m) A=diag(a1​,a2​,…,am​)为对角矩阵，则其逆矩阵
  A − 1 = d i a g ( a 1 − 1 , a 2 − 1 , … , a m − 1 ) A^{-1}=diag(a_1^{-1},a_2^{-1},…,a_m^{-1}) A−1=diag(a1−1​,a2−1​,…,am−1​)
  (11)若 A A A非奇异，则
  A 为正交矩阵 ⇔ A − 1 = A T A为正交矩阵Leftrightarrow A^{-1}=A^T A为正交矩阵⇔A−1=AT
  A 为酉矩阵 ⇔ A − 1 = A H A为酉矩阵Leftrightarrow A^{-1}=A^H A为酉矩阵⇔A−1=AH

引理1 Sherman-Morrison公式
令 A A A是一个 n × n ntimes n n×n的可逆矩阵，并且 x x x和 y y y是两个 n × 1 ntimes 1 n×1向量，使得 ( A + x y H ) (A+xy^H) (A+xyH)可逆，则
( A + x у H ) − 1 = A − 1 − A − 1 x y H A − 1 1 + Y H A − 1 x (A+ xу^H)^{-1} = A^{-1}-frac{A^{-1}xy^HA^{-1}}{1+Y^HA^{-1}x} (A+xуH)−1=A−1−1+YHA−1xA−1xyHA−1​

引理2 矩阵求逆引理
矩阵求逆引理可以推广为矩阵之和的求逆公式:
( A + U B V ) − 1 = A − 1 − A − 1 U B ( B + B V A − 1 U B ) − 1 B V A − 1 (A+UBV)^{-1}=A^{-1}-A^{-1}UB(B+BVA^{-1}UB)^{-1}BVA^{-1} (A+UBV)−1=A−1−A−1UB(B+BVA−1UB)−1BVA−1
= A − 1 − A − 1 U ( I + B V A − 1 U ) − 1 B V A − 1 =A^{-1}-A^{-1}U(I+BVA^{-1}U)^{-1}BVA^{-1} =A−1−A−1U(I+BVA−1U)−1BVA−1
或者
( A − U V ) − 1 = A − 1 + A − 1 U ( I − V A − 1 U ) − 1 V A − 1 (A-UV)^{-1}=A^{-1}+A^{-1}U(I-VA^{-1}U)^{-1}VA^{-1} (A−UV)−1=A−1+A−1U(I−VA−1U)−1VA−1
也称Woodbury公式。

矩阵 I − V A − 1 U I-VA^{-1}U I−VA−1U有时称为容量矩阵(capacitance matrix)。
当 U = u , B = b U=u,B=b U=u,B=b和 V = v H V=v^H V=vH时，Woodbury公式给出结果
( A + b u v H ) − 1 = A − 1 − b 1 + b c H A − 1 u A − 1 u v H A − 1 (A+buv^H)^{-1}=A^{-1}-frac{b}{1+bc^HA^{-1}u}A^{-1}uv^HA^{-1} (A+buvH)−1=A−1−1+bcHA−1ub​A−1uvHA−1
特别地,若 b = 1 b=1 b=1，则上式简化为Sherman与Morrison的矩阵求逆引理1

Duncan-Guttman求逆公式
( A − U D − 1 V ) − 1 = A − 1 + A − 1 U ( D − V A − 1 U ) − 1 V A − 1 (A-UD^{-1}V)^{-1}=A^{-1}+A^{-1}U(D-VA^{-1}U)^{-1}VA^{-1} (A−UD−1V)−1=A−1+A−1U(D−VA−1U)−1VA−1

除了Woodbury公式之外，矩阵之和的逆矩阵还有下面的形式
( A + U B V ) − 1 = A − 1 − A − 1 ( I + U B V A − 1 ) − 1 U B V A − 1 (A+UBV)^{-1}=A^{-1}-A^{-1}(I+UBVA^{-1})^{-1}UBVA^{-1} (A+UBV)−1=A−1−A−1(I+UBVA−1)−1UBVA−1
= A − 1 − A − 1 U B ( I + V A − 1 U B ) − 1 V A − 1 =A^{-1}-A^{-1}UB(I+VA^{-1}UB)^{-1}VA^{-1} =A−1−A−1UB(I+VA−1UB)−1VA−1
= A − 1 − A − 1 U B V ( I + A − 1 U B V ) − 1 A − 1 =A^{-1}-A^{-1}UBV(I+A^{-1}UBV)^{-1}A^{-1} =A−1−A−1UBV(I+A−1UBV)−1A−1
= A − 1 − A − 1 U B V A − 1 ( I + U B V A − 1 ) − 1 =A^{-1}-A^{-1}UBVA^{-1}(I+UBVA^{-1})^{-1} =A−1−A−1UBVA−1(I+UBVA−1)−1

(1)矩阵 A A A可逆时，为
[ A U V D ] − 1 = [ A − 1 + A − 1 U ( D − V A − 1 U ) − 1 V A − 1 − A − 1 U ( D − V A − 1 U ) − 1 − ( D − V A − 1 U ) − 1 V A − 1 ( D − V A − 1 U ) − 1 ] left[ begin{matrix} A & U \ V & D \ end{matrix} right]^{-1}=left[ begin{matrix} A^{-1}+A^{-1}U(D-VA^{-1}U)^{-1}VA^{-1} & -A^{-1}U(D-VA^{-1}U)^{-1} \ -(D-VA^{-1}U)^{-1}VA^{-1} & (D-VA^{-1}U)^{-1} \ end{matrix} right] [AV​UD​]−1=[A−1+A−1U(D−VA−1U)−1VA−1−(D−VA−1U)−1VA−1​−A−1U(D−VA−1U)−1(D−VA−1U)−1​]
(2)矩阵 A A A和 D D D可逆时，为
[ A U V D ] − 1 = [ ( A − U D − 1 V ) − 1 − A − 1 U ( D − V A − 1 U ) − 1 − D − 1 V ( A − U D − 1 V ) − 1 ( D − V A − 1 U ) − 1 ] left[ begin{matrix} A & U \ V & D \ end{matrix} right]^{-1}=left[ begin{matrix} (A-UD^{-1}V)^{-1} & -A^{-1}U(D-VA^{-1}U)^{-1} \ -D^{-1}V(A-UD^{-1}V)^{-1} & (D-VA^{-1}U)^{-1} \ end{matrix} right] [AV​UD​]−1=[(A−UD−1V)−1−D−1V(A−UD−1V)−1​−A−1U(D−VA−1U)−1(D−VA−1U)−1​]
(3)矩阵 A A A和 D D D可逆时，为
[ A U V D ] − 1 = [ ( A − U D − 1 V ) − 1 − ( A − U D − 1 V ) − 1 U D − 1 − ( D − V A − 1 U ) − 1 V A − 1 ( D − V A − 1 U ) − 1 ] left[ begin{matrix} A & U \ V & D \ end{matrix} right]^{-1}=left[ begin{matrix} (A-UD^{-1}V)^{-1} & -(A-UD^{-1}V)^{-1}UD^{-1} \ -(D-VA^{-1}U)^{-1}VA^{-1} & (D-VA^{-1}U)^{-1} \ end{matrix} right] [AV​UD​]−1=[(A−UD−1V)−1−(D−VA−1U)−1VA−1​−(A−UD−1V)−1UD−1(D−VA−1U)−1​]

• Woodbury公式的两个典型应用。
  令 J n J_n Jn​是一个 n × n ntimes n n×n矩阵，其元素全部为1，则由于 n × n ntimes n n×n矩阵(其中，a≠b)
  V = [ a b ⋯ b b a ⋯ b ⋮ ⋮ ⋱ ⋮ b b ⋯ a ] = [ ( a − b ) I n + b J n ] = ( a − b ) ( I n + b a − b J n ) V=left[ begin{matrix} a &b & cdots & b \ b & a & cdots & b \ vdots & vdots & ddots & vdots \ b & b & cdots & a \ end{matrix} right] =[(a-b)I_n+bJ_n]=(a-b)(I_n+frac{b}{a-b}J_n) V=⎣ ⎡​ab⋮b​ba⋮b​⋯⋯⋱⋯​bb⋮a​⎦ ⎤​=[(a−b)In​+bJn​]=(a−b)(In​+a−bb​Jn​)
  故由Woodbury公式，可求得逆矩阵
  V − 1 = 1 a − b ( I n + b a − b J n ) − 1 = 1 a − b [ I n − b a + ( n − 1 ) b J n ] V^{-1}=frac{1}{a-b}(I_n+frac{b}{a-b}J_n)^{-1}=frac{1}{a-b}[I_n-frac{b}{a+(n-1)b}J_n] V−1=a−b1​(In​+a−bb​Jn​)−1=a−b1​[In​−a+(n−1)bb​Jn​]

假定 A , U , V A,U,V A,U,V均为 n × n ntimes n n×n矩阵，则利用Woodbury公式，可以得到求解矩阵方程 ( A − U V ) x = b (A-UV)x=b (A−UV)x=b的方法如下:
(1)求解矩阵方程 A y = b Ay=b Ay=b得到 y y y
(2)通过求解矩阵方程 A w i = u i Aw_i=u_i Awi​=ui​,得到 w i w_i wi​,然后构造矩阵 W = [ w 1 , w 2 , … , w n ] W=[w_1,w_2,…,w_n] W=[w1​,w2​,…,wn​],此即 W = A − 1 U W=A^{-1}U W=A−1U的结果。
(3)构造矩阵 C = I − V W C=I-VW C=I−VW和向量 V y Vy Vy，并求解线性方程 C z = V y Cz=Vy Cz=Vy，得到 z z z。
(4)矩阵方程 ( A − U V ) x = b (A-UV)x=b (A−UV)x=b的解由 x = y + W z x=y+Wz x=y+Wz给出。

上述方法的所有四个步骤都只需要矩阵的初等变换和基本运算，并不需要直接计算逆矩阵。

从广义的角度讲，任何一个矩阵 L L L都可以称为矩阵 A A A的逆矩阵，若它与矩阵 A A A的乘积等于单位矩阵 I I I，即 L A = I LA=I LA=I。根据矩阵 A A A本身的特点，满足这一定义的矩阵 L L L存在三种可能的答案:
(1)在某些情况下， L L L存在，并且唯一;
(2)在另一些情况下， L L L存在，但不唯一;
(3)在某些情况下， L L L不存在。
举例
考虑以下三个矩阵
A 1 = [ 2 − 2 − 1 1 1 − 2 1 0 − 1 ] , A 2 = [ 4 8 5 − 7 − 2 3 ] , A 3 = [ 1 3 1 2 5 1 ] A_1= left[ begin{matrix} 2 & -2 & -1 \ 1 & 1 & -2 \ 1 & 0 & -1 end{matrix} right],A_2= left[ begin{matrix} 4 & 8 \ 5 & -7 \ -2 &3 end{matrix} right],A_3= left[ begin{matrix} 1 & 3 & 1 \ 2 & 5 & 1 \ end{matrix} right] A1​=⎣ ⎡​211​−210​−1−2−1​⎦ ⎤​,A2​=⎣ ⎡​45−2​8−73​⎦ ⎤​,A3​=[12​35​11​]
对矩阵 A 1 A_1 A1​，存在唯一矩阵
L 1 = [ − 1 − 2 5 − 1 − 1 3 − 1 − 2 4 ] , L_1= left[ begin{matrix} -1 & -2 & 5 \ -1 & -1 & 3 \ -1 & -2 & 4 end{matrix} right], L1​=⎣ ⎡​−1−1−1​−2−1−2​534​⎦ ⎤​,
不仅使得 L 1 A 1 = I 3 L_1A_1=I_3 L1​A1​=I3​，而且使得 A 1 L 1 = I 3 A_1L_1=I_3 A1​L1​=I3​。此时，矩阵 L 1 L_1 L1​实际就是矩阵 A 1 A_1 A1​的逆矩阵，即 L 1 = A 1 − 1 L_1=A_1^{-1} L1​=A1−1​。

在矩阵 A 2 A_2 A2​的情况下，存在多个矩阵使得 L 2 A 2 = I 2 L_2A_2=I_2 L2​A2​=I2​，如
L 2 = [ 7 68 2 17 0 0 2 5 ] , L 2 = [ 0 3 7 0 2 5 ] L_2= left[ begin{matrix} frac{7}{68} & frac{2}{17} & 0 \ 0 & 2 & 5 \ end{matrix} right],L_2= left[ begin{matrix} 0 & 3 & 7 \ 0 & 2 & 5 \ end{matrix} right] L2​=[687​0​172​2​05​],L2​=[00​32​75​]

对矩阵 A 3 A_3 A3​，没有任何 3 × 2 3times 2 3×2矩阵使得 L 3 A 3 = I 3 L_3A_3=I_3 L3​A3​=I3​，但却存在多个 3 × 2 3times 2 3×2矩阵 R R R，使得 A 3 R = I 2 A_3R=I_2 A3​R=I2​，例如
R = [ 1 1 − 1 0 3 − 1 ] , R = [ − 1 1 0 0 2 − 1 ] R= left[ begin{matrix} 1 & 1 \ -1 & 0 \ 3 &-1 end{matrix} right],R= left[ begin{matrix} -1 & 1 \ 0 & 0 \ 2 &-1 end{matrix} right] R=⎣ ⎡​1−13​10−1​⎦ ⎤​,R=⎣ ⎡​−102​10−1​⎦ ⎤​
总结以上讨论知，除了满足 A A − 1 = A − 1 A = I AA^{-1}=A^{-1}A=I AA−1=A−1A=I的逆矩阵 A − 1 A^{-1} A−1外，还存在两种其他形式的逆矩阵，它们只满足 L A = I LA=I LA=I或 A R = I AR=I AR=I。

定义
满足 L A = I LA=I LA=I，但不满足 A L = I AL=I AL=I的矩阵 L L L称为矩阵 A A A的左逆矩阵。
类似地，满足 A R = I AR=I AR=I，但不满足 R A = I RA=I RA=I的矩阵称为矩阵 A A A的右逆矩
阵。

定理1
仅当 m ≥ n m≥n m≥n时，矩阵 A ∈ C m × n A in C^{mtimes n} A∈Cm×n可能有左逆矩阵

定理2
仅当 m ≤ n m≤n m≤n时，矩阵 A ∈ C m × n Ain C^{m times n} A∈Cm×n可能有右逆矩阵。

• 逆矩阵是即满足左逆矩阵，又满足右逆矩阵，并且左和右逆矩阵相等的特殊矩阵。
• 考察 m > n m>n m>n并且 A A A具有满列秩( r a n k A = n rankA=n rankA=n)的情况。此时， n × n ntimes n n×n矩阵 A H A A^HA AHA是可逆的。容易验证
  L = ( A H A ) − 1 A H L =(A^HA)^{-1}A^H L=(AHA)−1AH
  满足左逆矩阵的定义 L A = I LA=I LA=I。这种左逆矩阵是唯一的，常称为左伪逆矩阵。
• 再考察 m < n m R = A H ( A A H ) − 1 R=A^H(AA^H)^{-1} R=AH(AAH)−1

不难验证，它满足右逆矩阵的定义 A R = I AR=I AR=I。这一特殊的右逆矩阵也是唯一的，常称之为右伪逆矩阵。

考虑 m × n mtimes n m×n阶的一般矩阵 A A A，其秩 k k k可能小于 m i n { m , n } min{m,n} min{m,n}。
我们的问题是:是否存在某种合适意义下的逆矩阵，使得线性方程组 A x = y Ax=y Ax=y的解可以用这种逆矩阵表示?
为了回答上述问题，让我们先来考虑两个方程
x 1 + x 2 = 4 x_1+x_2=4 x1​+x2​=4

3 x 1 + 3 x 2 = 9 3x_1+3x_2=9 3x1​+3x2​=9
显然，若其中一个方程为真，则另一个方程就不可能为真。就是说，两个方程相矛盾或非一致。这样的方程称为非一致方程。推而广之，一线性方程组称为非一致方程，若其中一些方程为真，而另一些方程不可能为真。换言之，非一致方程不存在使原方程组严格成立的任何解。
因此，为了保证线性方程有解，要求方程组必须是一致方程。

粗略地讲，一个方程组称为一致方程，若至少存在一个解能够严格满足该方程组。
更严格地，可以引出一致方程(组)的下列数学定义。
定义1
线性方程 A m × n x n × 1 = y m × 1 A_{mtimes n}x_{ntimes 1}=y_{mtimes 1} Am×n​xn×1​=ym×1​称为一致方程，若矩阵 A A A的行之间存在的线性关系也存在于向量 y y y的对应元素中。

定理1
一线性方程组可以求解，当且仅当这些方程为一致方程。

换言之，一致方程可以求解(一个解或多个解)，而非一致方程不可能有解。

定理2
线性方程 A x = y Ax=y Ax=y是一致的，当且仅当增广矩阵 [ A , y ] [A,y] [A,y]的秩等于矩阵 A m × n A_{mtimes n} Am×n​ 的秩，即 r a n k ( [ A , y ] ) = r a n k ( A ) rank([A,y])=rank(A) rank([A,y])=rank(A)。

定义2
令 A A A是一个 m × n mtimes n m×n矩阵，具有任意秩。矩阵 A A A的广义逆矩阵是一个 n × m ntimes m n×m矩阵 G G G，并使得当 A x = y Ax=y Ax=y为一致方程时， x = G y x=Gy x=Gy是线性方程 A x = y Ax=y Ax=y的解。

定理3
一致方程 A x = y Ax=y Ax=y对 y ≠ 0 y≠0 y=0有解 x = G y x=Gy x=Gy，当且仅当 A G A = A AGA=A AGA=A。

命题1
方程 A x = 0 Ax=0 Ax=0的解与矩阵 A A A的任意行正交，并且线性无关。

m × n mtimes n m×n矩阵 A A A的广义逆矩阵 G G G用符号 A − A^- A−表示，即 G = A − G=A^- G=A−广义逆矩阵 A − A^- A−具有下面的两个重要性质
(1) A − 存在 ↔ A A − A = A A^-存在 leftrightarrow AA^-A=A A−存在↔AA−A=A。

(2) A − 存在 ↔ H = A − A A^-存在 leftrightarrow H=A^-A A−存在↔H=A−A为幂等矩阵(即H^2=H)和 r a n k ( H ) = r a n k ( A ) rank(H)=rank(A) rank(H)=rank(A)。
(3) A − 存在 ↔ F = A A − A^-存在 leftrightarrow F=AA^- A−存在↔F=AA−为幂等矩阵(即 F 2 = F F^2=F F2=F)和 r a n k ( F ) = r a n k ( A ) rank(F)=rank(A) rank(F)=rank(A)。

定义3
m × n mtimes n m×n矩阵 A A A的广义逆矩阵是一个满足
A A − A = A AA^-A=A AA−A=A
的 n × m ntimes m n×m矩阵 A − A^- A−。
定义4
m × n mtimes n m×n矩阵 A A A的广义逆矩阵是满足下列条件之一的 n × m ntimes m n×m矩阵 A A A:
(1) A − A A^-A A−A为幂等矩阵，且 r a n k ( A − A ) = r a n k ( A ) rank(A^-A)=rank(A) rank(A−A)=rank(A);
(2) A A − AA^- AA−是幂等矩阵，且 r a n k ( A A − ) = r a n k ( A ) rank(AA^-)=rank(A) rank(AA−)=rank(A)。

• 前面的逆矩阵、左逆矩阵和右逆矩阵都可以视为广义逆矩阵的特例:
  (1)逆矩阵 A − 1 A^{-1} A−1满足 A A − 1 A = A AA^{-1}A=A AA−1A=A。
  (2)左逆矩阵 L L L满足 A L A = A ALA=A ALA=A，因为 L A = I LA=I LA=I。自然地，左伪逆矩阵 ( A H A ) − 1 A H (A^HA)^{-1}A^H (AHA)−1AH也满足定义3。
  (3)右逆矩阵 R R R也满足 A R A = A ARA=A ARA=A，因为 A R = I AR=I AR=I。自然地，右伪逆矩阵 A T ( A A T ) − 1 A^T(AA^T)^{-1} AT(AAT)−1也满足定义3。