正交矩阵与 QR 分解:保距变换与正交化流程

03-特征值与对角化 核心 约 20 分钟 #正交矩阵#QR#Gram-Schmidt#保距 更新 2026-10-02
当前状态:未学
本文基于模型知识整理(生成时未联网核对),关键结论建议对照 Strang §4.2 / Trefethen & Bau Lecture 7 复核。

一句话定义

正交矩阵 Q 满足 $Q^\top Q=I$——列是标准正交基,作用是"刚体运动"(旋转/反射):保长度、保角度、保内积($Qx$ 与 $Qy$ 的点积不变);QR 分解把任意矩阵拆成"正交 × 三角",其正交化过程(Gram-Schmidt/Householder)是数值线代最稳定的构件。

为什么重要

正交性是数值世界的"安全属性":Q 乘上去不放大误差($\|Qx\|=\|x\|$,条件数=1,kp-023),所以 QR 是求解最小二乘(kp-019)、特征值算法(QR 迭代,kp-032)、SVD(kp-018)的共同地基。正交矩阵也是旋转矩阵的数学身份——图形学与机器人学的基本词汇。

前置知识

kp-005(内积与正交)、kp-007(乘法)。

核心概念

  • 正交矩阵:$Q^\top Q = I$ ⇔ 列标准正交 ⇔ $Q^{-1}=Q^\top$。
  • 等价性质:$\|Qx\|=\|x\|$(保长)、$(Qx)\cdot(Qy)=x\cdot y$(保角)、$|\det Q|=1$(+1 旋转 / −1 反射)。
  • Gram-Schmidt:从无关列 $a_1,\dots,a_n$ 逐个"减去在已有方向上的投影",得到正交组再归一化——把"无关但歪"洗成"标准正交"。
  • QR 分解:$A = QR$,Q 正交、R 上三角——Gram-Schmidt 的矩阵化包装($q_i$ 是第 i 列洗正交后的结果,R 记录减掉的投影系数)。
  • 数值版:Gram-Schmidt 数值不稳,实用的是 Householder 反射或 Givens 旋转(kp-032)。

原理与机制

为什么 $Q^\top Q=I$ 等价于列正交:$(Q^\top Q)_{ij} = q_i^\top q_j$——对角元是各列范数平方(=1 即归一),非对角是列间内积(=0 即正交);转置乘法就是"把所有内积摆成一张表"。

正交变换为什么保内积:$(Qx)^\top(Qy) = x^\top Q^\top Q y = x^\top y$——长度角度全部冻结;这也让"换到正交基"(kp-004)零成本:坐标=内积、逆=转置,无需解方程。

QR 与最小二乘的化学反应:$Ax=b$ 无精确解时,用 $A=QR$ 改写:$Rx = Q^\top b$——上三角方程从下往上回代即解,全程无需求逆、无 $\kappa(A)^2$ 级的误差放大(对比正规方程,kp-019/023)。这是"数值线代偏爱正交"的代表性理由。

Gram-Schmidt 的几何:新方向 = 原向量 − 在已有方向上的全部投影 = "垂直分量"。一行代码的直觉:不断扣除"别人已经覆盖的部分",剩下的自然与前面全部垂直。

图示

QᵀQ = I ⇔ 列标准正交 ⇔ Q⁻¹ = Qᵀ
性质: ‖Qx‖=‖x‖, (Qx)·(Qy)=x·y, |det Q|=1
Gram-Schmidt: uₖ = aₖ − Σ (aₖ·qᵢ)qᵢ ;  qₖ = uₖ/‖uₖ‖
QR: A = QR  (Q 正交 | R 上三角, R 的对角=各步残差长度)

直观类比

正交矩阵是"太空中的转椅子":可以旋转(甚至翻转)但绝不拉伸扭曲——坐上去的人形状不变。QR 分解像"把任意姿势分解为'转到标准姿势(Q)+ 斜撑结构(R)'",而转椅子部分永远不会引入形变误差。

实例或案例

  • 机器人学:末端姿态用旋转矩阵(正交阵)表示;插值姿态需要正交流形上的运算。
  • 信号处理:正交变换(DCT/DFT 实部)保能量——Parseval 定理即"Q 保范数"。
  • 最小二乘拟合(曲线回归):QR 法是教科书推荐算法(数值优于正规方程,kp-019)。

常见误区

  • 误区一:"正交矩阵的元素必须都是 ±1/0"。那只是置换矩阵;旋转矩阵的元素可以是任意余弦值(连续的正交族)。
  • 误区二:"Gram-Schmidt 手算版可以直接用于数值计算"。经典 GS 误差随条件数恶化,实用必须修正版(MGS)或 Householder。
  • 误区三:"QR 和特征分解是一回事"。QR 是"正交×三角",不涉特征值;QR 迭代(反复 QR)才是求特征值的算法(kp-032)。

与其他知识点的关系

  • kp-005:正交性的矩阵化。
  • kp-019:QR 求最小二乘的数值优势。
  • kp-018:SVD 的 U、V 都是正交阵——正交性是分解的通用货币。
  • kp-032:Householder/Givens 与 QR 迭代的算法细节。

自测题

  1. 验证 $Q=\frac{1}{\sqrt2}\begin{bmatrix}1&1\\1&-1\end{bmatrix}$ 正交,并求 det。

答:列正交归一(内积 0、范数 1);$\det Q = -1$(反射型正交阵)。

  1. 为什么正交基下换坐标无需解方程?

答:$c=Q^\top x$——$Q^{-1}=Q^\top$,坐标即逐列内积。

  1. QR 解最小二乘比正规方程好在哪?

答:误差只被 $\kappa(A)$ 放大一次而非平方倍(kp-023),且全程用保距的正交变换,数值稳定。

延伸阅读

  • Strang《Introduction to Linear Algebra》§4.2、§4.4。
  • Trefethen & Bau《Numerical Linear Algebra》Lecture 7–8(Householder QR)。
  • Golub & Van Loan《Matrix Computations》§5(正交化算法权威章节)。