秩与线性方程组:Ax=b 的完全分类

02-矩阵与线性变换 核心 约 25 分钟 #秩#方程组#高斯消元#解的分类 更新 2026-10-02
当前状态:未学
本文基于模型知识整理(生成时未联网核对),关键结论建议对照 Strang §3.3–3.4 复核。

一句话定义

秩 r 是矩阵中线性无关行/列的最大个数(消元后的主元数),它把 $Ax=b$ 的命运完全决定:比较 (r, n, m) 与增广情形 $[A|b]$ 的秩即可三分类——唯一解(r=n 且相容)、无穷多解(r<n 且相容)、无解(不相容,b 落在列空间外)。

为什么重要

方程组是线代"问题一"(kp-001)的直接形态,秩是把"解方程"变成"读数"的关键:不用试探,消元后一眼定生死。机器学习里"特征冗余/欠定/超定"的判定、最小二乘唯一性(kp-019)、可辨识性分析,全是这一分类的应用。

前置知识

kp-008(子空间与秩的来源)、kp-004(维数)。

核心概念

  • 秩 r:主元个数 = 无关行数 = 无关列数 = 列空间维数。
  • 消元(高斯消元):行变换把 A 化为阶梯形——主元、自由变量现形;消元不改变解集。
  • 增广矩阵 $[A|b]$:把 b 拼进来一起消;$\text{rank}([A|b]) > \text{rank}(A)$ ⟺ 出现 [0 0 | c≠0] 行 ⟺ 不相容(无解)。
  • 三分类(设 A 是 m×n):

- 满列秩 r=n:零空间={0}——至多一解;相容则唯一。 - 欠定 r<n:零空间 n−r 维——相容则无穷多解(特解+零空间任意组合)。 - 不相容:无解——b 不在列空间(数据含噪的常态,转向最小二乘 kp-019)。

  • 特解 + 齐次通解结构:$x = x_p + x_h$,$x_h\in\mathcal{N}(A)$——非齐次解集是"零空间平移"。

原理与机制

为什么消元合法:三种行变换(换行、倍乘、倍加)都是可逆操作且保持解集——"换一套等价的说法",阶梯形的每行读出一个主元约束,自由变量数 = n−r 即零空间维数(与 kp-008 账本吻合)。

三分类的统一记账:

情形秩关系解
r = n = m满秩方阵唯一解 $x=A^{-1}b$
r = n < m(瘦高)满列秩0 或 1 个解(无解时最小二乘兜底)
r < n(胖矮或亏秩)自由变量存在0 或无穷多
rank([A\b]) > rank(A)不相容无解

解集结构为什么是"平移的零空间":$x_p + x_h$ 代入得 $Ax_p + Ax_h = b + 0 = b$;反之任意两解之差落零空间——解集 = 特解 + 整个零空间。这与微分方程"通解 = 特解 + 齐次通解"完全同构(kp-026 再次重逢)。

图示

[A|b] 消元:
 [1 2 | 3]      r(A)=2=r([A|b]), n=2 → 唯一解
 [0 1 | 1]
 [1 1 | 2]      出现 [0 0 | 5] → 无解 (b∉C(A))
 [0 0 | 5]
 [1 2 | 3]      r=1<2, 自由变量 1 个 → 无穷多解
 [2 4 | 6]

直观类比

秩=有效约束条数,n=未知数个数:约束≥未知且不冗余→唯一答案;约束不足→一条解的"街"(零空间方向随便走);约束互相打架(b 不在列空间)→无解——工程上"打架"常因测量噪声,于是放宽为"找最近的满足"(最小二乘)。

实例或案例

  • 电路分析(KCL/KVL):节点方程组常欠定——补接地约定后满秩。
  • 多重共线性:回归设计中两列成比例 → r<n → 正规方程无唯一解 → 正则化/删列(kp-030)。
  • 超定测量:GPS 4 颗卫星定位 3 维坐标(4>3),有噪时无精确解 → 最小二乘定位。

常见误区

  • 误区一:"方程个数 > 未知数必有解、< 必无穷"。形状不决定命运,秩才决定;4 个方程可以全冗余(r=1)。
  • 误区二:"无穷多解=解的个数数不清所以无意义"。解集结构(特解+零空间基)本身就是完全的描述——参数化后清清楚楚。
  • 误区三:"消元改变矩阵"。改变的是矩阵表示,不改变解集与四个子空间(但行变换会改变列空间!——只有行空间/零空间/秩保持,这是常见盲点)。

与其他知识点的关系

  • kp-008:分类的子空间语言。
  • kp-010:满秩方阵才有逆——唯一解的公式形态。
  • kp-019:无解/多解的实际兜底方案(最小二乘与伪逆)。
  • kp-032:消元的数值实现(LU)。

自测题

  1. A 为 4×7,秩 3:解的情况?自由变量几个?

答:r=3<7 → 相容时无穷多解,零空间维 4(自由变量 4 个);相容性看 b。

  1. 增广消元出现 [0 0 0 | 2] 行,说明什么?

答:0=2 矛盾 → 不相容 → 无解(b 不在列空间)。

  1. 为什么行变换保持解集但可能改变列空间?

答:行变换是可逆的线性操作,逐行作用不改变 x 满足的约束(解集不变、零空间/行空间不变);但列向量本身被改写,列空间随之改变。

延伸阅读

  • Strang《Introduction to Linear Algebra》§3.3–3.4(消元与解结构的经典展开)。
  • 3Blue1Brown《Essence of LA》第 7 集(Ax=b 的三种几何命运)。
  • Trefethen & Bau《Numerical Linear Algebra》Lecture 6–7(数值视角)。