矩阵乘法的几何意义:复合动作

02-矩阵与线性变换 核心 约 20 分钟 #矩阵乘法#复合#结合律#分块 更新 2026-10-02
当前状态:未学
本文基于模型知识整理(生成时未联网核对),关键结论建议对照 3Blue1Brown 第 4 集 / Strang §2.4 复核。

一句话定义

矩阵乘法 $AB$ 表示"先做 B 的动作、再做 A 的动作"的复合——$A(Bx) = (AB)x$ 的运算规则不是人为约定而是"连续施放两个动作"的必然后果;结合律天然成立而交换律一般不成立(先旋转后剪切 ≠ 先剪切后旋转)。

为什么重要

矩阵乘法是线代计算的枢纽,但死记"行乘列"会让一切变苦役:结合律(可以任意分块/分步)、转置规则 $(AB)^\top=B^\top A^\top$、逆的次序 $(AB)^{-1}=B^{-1}A^{-1}$、图神经网络与 Transformer 的多层线性层——全部是"复合"这一个词的不同投影。

前置知识

kp-006(矩阵=动作)。

核心概念

  • 复合:$(AB)x = A(Bx)$——AB 先施加 B 再施加 A(从右往左读)。
  • 规则的解释:$(AB)$ 第 j 列 $= A(b_j)$ = "B 把第 j 个基向量搬到哪、再被 A 搬到哪"——行乘列法则的几何来源。
  • 交换律一般不成立:$AB \ne BA$(动作顺序不可换);特殊情形(对角矩阵、同一矩阵的幂 $A^2=AA$、$AA^{-1}$)除外。
  • 结合律恒成立:$(AB)C = A(BC)$——三种"先做哪个后做哪个"的分组描述同一串动作。
  • 转置与逆的次序反转:$(AB)^\top = B^\top A^\top$、$(AB)^{-1} = B^{-1}A^{-1}$——穿衣服与脱衣服的顺序问题。
  • 分块乘法:把矩阵切块后"块当元素"照常乘——大矩阵计算的记号压缩术(数值线代 kp-032 的语言)。

原理与机制

从复合推出行乘列:设 $B$ 的列为 $b_j$(基像),则 $AB$ 的第 j 列 $= (AB)e_j = A(Be_j) = A(b_j)$——复合变换对基的像。把 $A(b_j)$ 展开成行×列,正是教科书公式:公式是定理的影子,不是起点。

幂与演化:$A^k$ = 同一动作连做 k 次——人口迁移、马尔可夫链、矩阵递推 $x_{k+1}=Ax_k$ 的 k 步预测;对角化(kp-013)把 $A^k$ 变成 $\Lambda^k$(逐元素幂)正是为了绕开"连乘 n 次"。

维数检查即复合检查:$(m\times n)(n\times p)$ 合法且得 $m\times p$——"B 吃 p 维吐 n 维、A 吃 n 维吐 m 维"必须首尾咬合;维数不匹配 = 动作序列不合理。

图示

x ──B──► Bx ──A──► A(Bx) = (AB)x
AB 的第 j 列 = A(b_j) = A·(B 的第 j 列)   ← 行乘列的来源
交换律: 旋转∘剪切 ≠ 剪切∘旋转  → AB ≠ BA (一般)
结合律: 先后固定, 分组自由      → (AB)C = A(BC)

直观类比

矩阵乘法像流水线:B 是第一道工序、A 是第二道;"AB"是整条流水线的总说明。换工序顺序可能产出完全不同的产品(不可交换);把三道工序说明合成"两段式"还是"一段式"(结合律)不影响最终产品。

实例或案例

  • 图形学:模型变换→视图变换→投影三矩阵连乘 $PVM$——顺序错,画面崩。
  • 两层线性网络 $W_2(W_1x) = (W_2W_1)x$:没有非线性时多层塌缩为单层——深度学习的非线性必要性(kp-031)。
  • 状态空间模型:$x_{t+1}=Ax_t+Bu_t$ 的多步展开布满矩阵幂与复合(kp-026)。

常见误区

  • 误区一:"矩阵乘法就是行乘列,背了就行"。缺复合视角时,结合律/转置/逆的次序规则全是新的死记条目;有视角则全是显然推论。
  • 误区二:"AB 与 BA 至少差个顺序、结果差不多"。数值上可能差很远:剪切与旋转的先后给出不同矩阵;$AB-BA$ 是量子力学对易子的本体。
  • 误区三:"分块乘法是另一套规则"。它与标量乘法完全同构——块的形状满足咬合即可;这是记号优势不是新知识。

与其他知识点的关系

  • kp-006:单动作 → 本条:动作序列。
  • kp-010/013:逆的次序、幂的加速。
  • kp-031/032:深度学习层叠与数值分块算法的语言基础。

自测题

  1. 从复合角度解释为什么 $(AB)C = A(BC)$。

答:两边都表示"先 C 后 B 再 A"的同一串动作——分组方式不同不改变执行顺序,故相等。

  1. 若 $AB=BA$,说明 A、B 有什么关系?

答:两动作可交换;充分条件如同为对角阵或同为旋转(同一平面同轴)——一般情况是强约束(同时可对角化等,kp-017 延伸)。

  1. 为什么 $(AB)^{-1} = B^{-1}A^{-1}$?

答:$B^{-1}A^{-1}\cdot AB = B^{-1}(A^{-1}A)B = I$——脱衣顺序与穿衣相反。

延伸阅读

  • 3Blue1Brown《Essence of LA》第 4 集(矩阵乘法作为复合的最佳可视化)。
  • Strang《Introduction to Linear Algebra》§2.4–2.5。
  • Axler《Linear Algebra Done Right》§3.B(矩阵乘积与算子乘积)。