方程组

定义

Ax=bAx=b
 
⇔{a11⋅x1+a12⋅x2+⋯+a1n⋅xn=b1a21⋅x1+a22⋅x2+⋯+a2n⋅xn=b2⋯am1⋅x1+am2⋅x2+⋯+amn⋅xn=bm⇔ \begin{cases} a_{11} ⋅ x_1 + a_{12} ⋅ x_2 + \cdots + a_{1n} ⋅ x_n = b_1 \\ a_{21} ⋅ x_1 + a_{22} ⋅ x_2 + \cdots + a_{2n} ⋅ x_n = b_2 \\ \cdots \\ a_{m1} ⋅ x_1 + a_{m2} ⋅ x_2 + \cdots + a_{mn} ⋅ x_n = b_m \end{cases}
 
⇔[a11a12⋯a1na21a22⋯a2n⋮⋮⋱⋮am1am2⋯amn]×[x1x2⋮xn]=[b1b2⋮bm]⇔ \left[\begin{array}{c} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{array}\right] × \left[\begin{array}{c} x_1 \\ x_2 \\ \vdots \\ x_n \end{array}\right] = \left[\begin{array}{c} b_1 \\ b_2 \\ \vdots \\ b_m \end{array}\right]
 

系数矩阵

A=[a11a12⋯a1na21a22⋯a2n⋮⋮⋱⋮am1am2⋯amn]m×nA = \left[\begin{array}{c} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{array}\right]_{m×n}

增广矩阵

Ab=(Am×n,bm×1)=[a11a12⋯a1nb1a21a22⋯a2nb2⋮⋮⋱⋮⋮am1am2⋯amnbm]m×(n+1)Ab = (A_{m×n},b_{m×1}) = \left[\begin{array}{c} a_{11} & a_{12} & \cdots & a_{1n} & b_1 \\ a_{21} & a_{22} & \cdots & a_{2n} & b_2 \\ \vdots & \vdots & \ddots & \vdots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} & b_m \end{array}\right]_{m×(n+1)}

一般解法

齐次线性方程组

Am×nx=0A_{m×n}x=0

解的情况

条件 解的个数 补充说明
r(A)=nr(A)=n 唯一 仅有零解
r(A)<nr(A)<n 无穷 有非零解

例

求Ax=0Ax=0的通解，其中A=[2−2−4−1341−2−3]A=\left[ \begin{array}{c} 2 & -2 & -4 \\ -1 & 3 & 4 \\ 1 & -2 & -3 \end{array} \right]

解

A→swap(r1,r3)[1−2−3−1342−2−4]→r3−=2r1r2+=r1[1−2−3011022]→r3−=2r2[1−2−3011000]A \xrightarrow[]{\mathrm{swap}(r_1, r_3)} \left[\begin{array}{c} 1 & -2 & -3 \\ -1 & 3 & 4 \\ 2 & -2 & -4 \end{array}\right] \xrightarrow[r_3-=2r_1]{r_2+=r_1} \left[\begin{array}{c} 1 & -2 & -3 \\ 0 & 1 & 1 \\ 0 & 2 & 2 \end{array}\right] \xrightarrow[]{r_3-=2r_2} \left[\begin{array}{c} 1 & -2 & -3 \\ 0 & 1 & 1 \\ 0 & 0 & 0 \end{array}\right]

故r(A)=2<3=nr(A)=2 < 3=n

取x3x_3为自由变量，令其等于11，得[1−11]\left[\begin{array}{c} 1 \\ -1 \\1 \end{array}\right]为Ax=0Ax=0的一个解。

故其通解为x=k[1−11],   kx = k\left[\begin{array}{c} 1 \\ -1 \\1 \end{array}\right], { \ \ \ }k为任意非零常数。

非齐次线性方程组

非齐次方程组通解=齐次方程组通解+非齐次方程组特解非齐次方程组通解 = 齐次方程组通解 + 非齐次方程组特解

Am×nx=bA_{m×n}x=b

解的情况

条件 解的个数
r(A)<r(Ab)r(A)<r(Ab) 无解
r(A)=r(Ab)=nr(A)=r(Ab)=n 唯一
r(A)=r(Ab)<nr(A)=r(Ab)<n 无穷

广义逆法

若AA为可逆矩阵，那么方程组Ax=bAx=b的解为

x=A−1bx=A^{-1}b

考虑当AA不可逆时，是否存矩阵GG使得

x=Gbx=Gb

减号逆

A(Gb)=b   ⇒   AG(Ax)=(Ax)   ⇒   AGAx=AxA(Gb)=b { \ \ \ ⇒ \ \ \ } AG(Ax)=(Ax) { \ \ \ ⇒ \ \ \ } AGAx=Ax

x=Gbx=Gb是Ax=bAx=b的解   ⇔   AGA=A{ \ \ \ ⇔ \ \ \ } AGA=A

若矩阵GG满足AGA=AAGA=A，则称GG是AA的减号逆，记作A−A^-。A−bA^-b是方程组的一个特解。

求GG

将AA化作标准型

[Am×nEm×mEn×n0]→初等变换[[Er000]Pm×mQn×n0]\left[\begin{array}{c} A_{m×n} & E_{m×m} \\ E_{n×n} & 0 \end{array}\right] \xrightarrow[]{初等变换} \left[\begin{array}{c} \left[\begin{array}{c} E_r & 0 \\ 0 & 0 \end{array}\right] & P_{m×m} \\ Q_{n×n} & 0 \end{array}\right]

即Pm×mAm×nQn×n=[Er000]P_{m×m}A_{m×n}Q_{n×n} = \left[\begin{array}{c} E_r & 0 \\ 0 & 0 \end{array}\right]，则

A=P−1[Er000]Q−1A = P^{-1} \left[\begin{array}{c} E_r & 0 \\ 0 & 0 \end{array}\right] Q^{-1}

A=AGA=P−1[Er000]Q−1GP−1[Er000]Q−1A = AGA = P^{-1} \left[\begin{array}{c} E_r & 0 \\ 0 & 0 \end{array}\right] Q^{-1} G P^{-1} \left[\begin{array}{c} E_r & 0 \\ 0 & 0 \end{array}\right] Q^{-1}

PAQ=[Er000]Q−1GP−1[Er000]PAQ = \left[\begin{array}{c} E_r & 0 \\ 0 & 0 \end{array}\right] Q^{-1} G P^{-1} \left[\begin{array}{c} E_r & 0 \\ 0 & 0 \end{array}\right]

→Q−1GP−1=[G11G12G21G22][Er000][G11G12G21G22][Er000]=[Er000]   ⇒   G11=Er\xrightarrow[]{ Q^{-1} G P^{-1} = \left[\begin{array}{c} G_{11} & G_{12} \\ G_{21} & G_{22} \end{array}\right] } \left[\begin{array}{c} E_r & 0 \\ 0 & 0 \end{array}\right] \left[\begin{array}{c} G_{11} & G_{12} \\ G_{21} & G_{22} \end{array}\right] \left[\begin{array}{c} E_r & 0 \\ 0 & 0 \end{array}\right] = \left[\begin{array}{c} E_r & 0 \\ 0 & 0 \end{array}\right] { \ \ \ ⇒ \ \ \ } G_{11} = E_r

G=Qn×n[ErG12G21G22]n×mPm×mG = Q_{n×n} \left[\begin{array}{c} E_r & G_{12} \\ G_{21} & G_{22} \end{array}\right]_{n×m} P_{m×m}

上述表达式为减号逆的充要条件。从表达式可知，减号逆不唯一。

性质

相容方程组通解

Ax=0Ax=0通解

x=(En−GA)yn×1x = (E_n - GA)y_{n×1}

Ax=bAx=b通解

(En−GA)y+Gb(E_n - GA)y + Gb

极小范数广义逆

极小范数解

对于相容线性方程组Ax=bAx=b，如果x0∈Rnx_0∈R^n，使得∥x0∥2=min⁡Ax=b∥x∥2\|x_0\|_2 = \min\limits_{Ax=b} \|x\|_2，则称x0x_0是Ax=bAx=b的极小范数解。

极小范数广义逆

x=Gbx=Gb是Ax=bAx=b的极小范数解   ⇔   AGA=A{ \ \ \ ⇔ \ \ \ } AGA=A，(GA)T=GA(GA)^T=GA

此时GG称为AA的极小范数广义逆，记为Am−A^-_m。

性质

AH(AAH)−A^H(AA^H)^-是AA的极小范数广义逆（充分条件）。故矩阵的极小范数广义逆Am−A^-_{m}一般不唯一。但相容线性方程组Ax=bAx=b的极小范数解Am−bA^-_{m}b唯一存在。

最小二乘广义逆

最小二乘解

Ax=bAx=b是矛盾方程，即在通常意义下无解。寻找x0x_0使得

∥Ax0−b∥2=min⁡⁡{∥Ax−b∥2  ∣  x∈Cn}\|Ax_0−b\|_2 = \min⁡\{ \|Ax-b\|_2 {\ \ \bold| \ \ }x∈C^n \}

x0x_0称为矛盾方程组的最小二乘解。

最小二乘广义逆

AGA=AAGA=A，(AG)T=AG(AG)^T=AG，此时GG称为AA的最小二乘广义逆，记为Al−A^-_l。

性质

(ATA)−AT(A^TA)^-A^T是AA的最小二乘广义逆（充分条件）。故矩阵的最小二乘广义逆Al−A^-_{l}一般不唯一（但当列满秩时唯一）。

加号逆

极小范数最小二乘解

Ax=bAx=b的最小二乘解中二范数最小的解。

Am−AAl−bA^-_mAA^-_lb是Ax=bAx=b的极小范数最小二乘解（充分条件）。

加号逆

x=Gbx=Gb是Ax=bAx=b的极小范数最小二乘解   ⇔   AGA=A{ \ \ \ ⇔ \ \ \ } AGA=A，GAG=GGAG=G，(GA)T=GA(GA)^T=GA，(AG)T=AG(AG)^T=AG（Penrose—Moore方程）

此时GG称为AA的加号逆，记为A+A^+。

性质