四个基本子空间:列空间、零空间、行空间与左零空间
本文基于模型知识整理(生成时未联网核对),关键结论建议对照 Strang 教材 §3.5–3.6(四大子空间的经典框架)复核。
一句话定义
$m\times n$ 矩阵 $A$ 携带四个基本子空间:列空间 $\mathcal{C}(A)\subseteq\mathbb{R}^m$(能到达的输出全集)、零空间 $\mathcal{N}(A)\subseteq\mathbb{R}^n$(被压成 0 的输入全集)、行空间 $\mathcal{C}(A^\top)\subseteq\mathbb{R}^n$、左零空间 $\mathcal{N}(A^\top)$;它们两两配对正交,维度由秩统一记账:$\text{rank}(A)+\dim\mathcal{N}(A)=n$。
为什么重要
这是线性代数的"总地图":解 $Ax=b$ 的存在性(b 在不在列空间)、唯一性(零空间是否只有 0)、最小二乘的几何(kp-019 把 b 投影到列空间)、SVD 的结构(kp-018 给出四个子空间的最优正交基)——全部问题在这张地图上各就各位。
前置知识
kp-004(子空间与维数)、kp-005(正交)、kp-006(列即像)。
核心概念
- 列空间 $\mathcal{C}(A)$:列的全部线性组合 = 变换的像;$Ax=b$ 有解 ⟺ $b\in\mathcal{C}(A)$;维数 = 秩 r。
- 零空间 $\mathcal{N}(A)$:$Ax=0$ 的解集;维数 = $n-r$(自由变量个数);变换"丢失的信息"。
- 行空间 $\mathcal{C}(A^\top)$:行的组合(= $A^\top$ 的列空间);维数 = r——行秩 = 列秩(深刻事实)。
- 左零空间 $\mathcal{N}(A^\top)$:$A^\top y=0$ 即 $y^\top A=0$;维数 = $m-r$。
- 正交配对:$\mathcal{C}(A^\top) \perp \mathcal{N}(A)$(同在 $\mathbb{R}^n$)、$\mathcal{C}(A) \perp \mathcal{N}(A^\top)$(同在 $\mathbb{R}^m$)。
- 维数账本:$\mathbb{R}^n = \text{行空间} \oplus \text{零空间}$;$\mathbb{R}^m = \text{列空间} \oplus \text{左零空间}$。
原理与机制
秩-零化度定理:$\text{rank}(A) + \text{nullity}(A) = n$——n 维输入被分解为"r 维被保留(映入列空间)+ n−r 维被压没(进零空间)"。这直接回答 $Ax=b$ 的唯一性:解唯一 ⟺ 零空间 = {0} ⟺ 秩 = n;解的存在 ⟺ b 在 r 维列空间里。解方程的所有分类,两行维度账算完。
正交配对从哪来:若 $x\in\mathcal{N}(A)$ 且 $w$ 是行组合($w=A^\top y$),则 $w\cdot x = y^\top A x = y^\top 0 = 0$——零空间与行空间天然垂直。这一正交性是"最小二乘残差垂直于列空间"(kp-019)与"SVD 的四子空间最优基"(kp-018)的几何引擎。
为什么行秩=列秩:初等行变换不改变行空间的秩(只换基)也不改变列空间的维数(解集不变性);行化简后主元同时揭示两者——故相等,统一记作秩 r。它是"输入侧保留维数 = 输出侧到达维数"的守恒律。
图示
Rⁿ (输入侧) R^m (输出侧)
行空间 C(Aᵀ) ⊥ 零空间 N(A) 列空间 C(A) ⊥ 左零空间 N(Aᵀ)
dim = r dim = n−r dim = r dim = m−r
Ax=b: 存在 ⟺ b∈C(A); 唯一 ⟺ N(A)={0}
通解 = 特解 + N(A) 任意元素
直观类比
A 是"压缩机器":行空间=被完整保留的输入维度(r 维),零空间=直接被压扁丢弃的维度(n−r 维);列空间=输出端实际能出现的图案集合,左零空间=输出端永远缺席的方向。秩就是机器的"保真通道数"。
实例或案例
- $A=\begin{bmatrix}1&0\\0&1\\0&0\end{bmatrix}$:r=2;列空间=xy 平面(z 轴到不了)、零空间={0}(无信息丢失)、左零空间=z 轴。
- 推荐系统:用户×物品评分矩阵的列空间=可被"偏好因子"解释的评分模式;零空间=与偏好无关的自由方向(kp-018 低秩近似的落点)。
常见误区
- 误区一:"零空间是 b=0 时解不出东西"。零空间不是"空集"而是"$Ax=0$ 的全部解"——满列秩时它恰是 {0}。
- 误区二:"四个子空间都在同一个 $\mathbb{R}^n$"。两组分居输入空间与输出空间;行/零空间在 $\mathbb{R}^n$,列/左零空间在 $\mathbb{R}^m$。
- 误区三:"秩是行秩与列秩取大者"。两者相等,秩只有一个。
与其他知识点的关系
- kp-009:本条的秩记账是方程组分类的引擎。
- kp-019:正交配对直接给出最小二乘的几何解。
- kp-018:SVD 的 U、V 列正是四个子空间的最优正交基。
- kp-020:PCA 的"主子空间"就是数据矩阵行空间的一角。
自测题
- 3×5 矩阵秩为 2,四个子空间的维数各是多少?
答:行空间 2、零空间 3(5−2)、列空间 2、左零空间 1(3−2)。
- $Ax=b$ 解唯一的充要条件?解总存在(任意 b)的充要条件?
答:唯一 ⟺ $\mathcal{N}(A)=\{0\}$(满列秩,r=n);总存在 ⟺ $A$ 满行秩(r=m,列空间=全 $\mathbb{R}^m$)。
- 证明行空间⊥零空间(一行)。
答:任意 $w=A^\top y$、$x\in\mathcal{N}(A)$:$w^\top x = y^\top A x = y^\top 0 = 0$。
延伸阅读
- Strang《Introduction to Linear Algebra》§3.5–3.6(本条的原始框架)。
- Strang, "The Four Fundamental Subspaces"(演讲/论文,四子空间的统一视角)。
- Axler《Linear Algebra Done Right》§3(用秩-零化度定理的算子视角)。