跳转到内容
← 返回概念
代数约 16 分钟阅读

特征值与特征向量

Eigenvalue and Eigenvector

关键人物

eulercauchyhilbertvon_neumann
代数线性代数特征值对角化谱理论

一个直觉：在被搅乱的世界里，哪些方向纹丝不动

想象你把一张橡皮膜抓住，朝各个方向拉伸、剪切。膜上几乎每一根箭头都会被既转向又拉长——画面一片混乱。但奇妙的是，总有那么几个特殊方向：膜沿着它们只是被拉长或压短，箭头自始至终指向同一条直线，方向丝毫不变。这些"打不歪"的方向，就是特征向量；它们各自被拉伸的倍数，就是对应的特征值。

一个再复杂的线性变换，作用在普通向量上像一团乱麻；可一旦你换上它的特征向量做坐标轴，整个变换瞬间瘫成一句最朴素的话——"沿这个轴放大 λ1\lambda_1 倍，沿那个轴放大 λ2\lambda_2 倍"。这正是 T(v)=λvT(v)=\lambda v 这个等式的全部含义：它在茫茫向量中筛出那些"只缩放、不转向"的特殊方向。

常见的误解是把特征值当成一种纯计算技巧（背特征多项式、解方程）。但它的灵魂在于把变换拆解成互不干扰的伸缩——这就是对角化的意义。理解了这一点，你才会明白为什么从量子力学的能级、振动系统的固有频率，到 Google 给网页排名，背后都是同一个问题：在一团变换里，找出那些岿然不动的方向。

定义

特征值（Eigenvalue）和特征向量（Eigenvector）刻画了线性变换最本质的几何行为——哪些方向在变换下只被缩放而不被旋转。

定义：设 T:V→VT: V \to V 是线性变换，若存在非零向量 v∈Vv \in V 和标量 λ\lambda 使得：

T(v)=λvT(v) = \lambda v

则 λ\lambda 称为 $T$ 的特征值，$v$ 称为对应于 λ\lambda 的特征向量。对于矩阵 $A$，特征值是特征方程 det⁡(A−λI)=0\det(A - \lambda I) = 0 的根。这个 $n$ 次多项式称为特征多项式 pA(λ)p_A(\lambda)。所有特征值的集合称为 $A$ 的谱（spectrum），记为 σ(A)\sigma(A)。

核心内容

特征值的计算

求特征值的步骤： 1. 计算特征多项式 pA(λ)=det⁡(A−λI)p_A(\lambda) = \det(A - \lambda I) 2. 求解 pA(λ)=0p_A(\lambda) = 0 得特征值 λ1,…,λn\lambda_1, \ldots, \lambda_n 3. 对每个 λi\lambda_i，求解 (A−λiI)v=0(A - \lambda_i I)v = 0 得特征向量

特征子空间：Eλ=ker⁡(A−λI)E_{\lambda} = \ker(A - \lambda I) 是对应于 λ\lambda 的特征子空间，其维数称为 λ\lambda 的几何重数。

对角化

矩阵 $A$ 可对角化，当且仅当存在可逆矩阵 $P$ 使得 P−1AP=DP^{-1}AP = D（对角矩阵）。等价条件： - $A$ 有 $n$ 个线性无关的特征向量 - 每个特征值的几何重数等于代数重数

实对称矩阵总是可以正交对角化：A=QΛQTA = Q\Lambda Q^T，其中 $Q$ 正交，Λ\Lambda 对角。这就是谱定理。

Jordan 标准形

当矩阵不可对角化时，存在 Jordan 标准形：A=PJP−1A = PJP^{-1}，其中 $J$ 由 Jordan 块组成：

Jk(λ)=(λ1λ⋱⋱1λ)J_k(\lambda) = \begin{pmatrix} \lambda & 1 & & \\ & \lambda & \ddots & \\ & & \ddots & 1 \\ & & & \lambda \end{pmatrix}

Jordan 标准形是线性变换在相似变换下的"最简表示"。

特征值的性质

  • 迹与行列式：tr(A)=∑λi\text{tr}(A) = \sum \lambda_i，det⁡(A)=∏λi\det(A) = \prod \lambda_i
  • Cayley-Hamilton 定理：pA(A)=0p_A(A) = 0
  • Gershgorin 圆盘定理：特征值位于复平面上的圆盘并集中
  • 瑞利商：R(x)=x∗Axx∗xR(x) = \frac{x^*Ax}{x^*x}，其极值即为最大/最小特征值
  • 特征值的扰动：Bauer-Fike 定理——若 A=PDP−1A = PDP^{-1}，则 $A+E$ 的特征值在 $D$ 的特征值的 κ(P)∥E∥\kappa(P)\|E\| 邻域内
  • 交错定理：对称矩阵的子矩阵的特征值与原矩阵的特征值交错——Cauchy 交错定理

历史演变

特征值的概念起源于欧拉（Leonhard Euler）在18世纪对旋转体的研究。欧拉发现了刚体转动的主轴——即惯性张量的特征向量。拉格朗日（1773）在研究二次型的化简时，本质上求解了对称矩阵的特征值问题。柯西（Augustin-Louis Cauchy，1829）证明了实对称矩阵的特征值都是实数——这是谱定理的第一个版本。希尔伯特（David Hilbert，1904）在研究积分方程时，将有限维的特征值理论推广到无穷维——引入了谱理论的概念。冯·诺依曼（1929）将谱理论应用于量子力学，建立了量子力学的数学基础。

关键人物

柯西（1789—1857）严格证明了实对称矩阵特征值为实数的结果，奠定了特征值理论的严格基础。

希尔伯特（1862—1943）将特征值理论推广到无穷维空间，建立了希尔伯特空间上的谱理论——这是量子力学的数学语言。

冯·诺依曼（1903—1957）证明了量子力学中可观测量对应于希尔伯特空间上的自伴算子，其特征值对应于可能的测量结果。

数学意义

特征值理论的核心定理：

  1. 谱定理：实对称矩阵可正交对角化——A=QΛQTA = Q\Lambda Q^T
  2. Jordan 标准形定理：复方阵相似于 Jordan 形
  3. Cayley-Hamilton 定理：pA(A)=0p_A(A) = 0
  4. 极小多项式定理：极小多项式整除特征多项式
  5. Courant-Fischer 极小极大定理：特征值的变分刻画——λk=max⁡dim⁡S=kmin⁡x∈S,∥x∥=1xTAx\lambda_k = \max_{\dim S=k} \min_{x \in S, \|x\|=1} x^TAx
  6. Weyl 不等式：$A+B$ 的特征值与 $A$、$B$ 特征值之间的不等式关系——特征值的连续依赖性

核心概念辨析

  • 特征值 vs 奇异值：特征值可能为复数（det⁡(A−λI)=0\det(A-\lambda I)=0），奇异值总是非负实数（σi=λi(A∗A)\sigma_i = \sqrt{\lambda_i(A^*A)}）
  • 代数重数 vs 几何重数：代数重数是特征值作为特征多项式根的重数，几何重数是对应特征子空间的维数
  • 可对角化 vs 正交对角化：可对角化只需 $n$ 个线性无关特征向量，正交对角化要求矩阵对称（或正规）
  • 谱半径 vs 谱范数：谱半径 ρ(A)=max⁡∣λi∣\rho(A) = \max|\lambda_i|，谱范数 ∥A∥2=σmax⁡(A)\|A\|_2 = \sigma_{\max}(A)
  • 特征值 vs 奇异值分解：特征值分解 A=PDP−1A = PDP^{-1} 要求可对角化，SVD A=UΣVTA = U\Sigma V^T 对任意矩阵成立
  • 左特征向量 vs 右特征向量：右特征向量满足 Av=λvAv = \lambda v，左特征向量满足 u∗A=λu∗u^*A = \lambda u^*

当代应用

特征值理论在现代科学中有极其广泛的应用。在主成分分析（PCA）中，协方差矩阵的特征向量是数据变化最大的方向——这是降维的基础。在PageRank 算法中，网页排名是转移矩阵的主特征向量。在振动分析中，系统的固有频率是刚度矩阵特征值的平方根。在量子力学中，能量的可能取值是哈密顿算子的特征值。在稳定性分析中，动力系统平衡点的稳定性由 Jacobi 矩阵特征值的实部决定。在图论中，图的拉普拉斯矩阵的特征值反映了图的连通性和聚类结构。

特征值计算是数值线性代数的核心课题。QR 算法通过反复的 QR 分解迭代求所有特征值——它是20世纪最成功的数值算法之一。Lanczos 算法利用 Krylov 子空间高效求大型稀疏对称矩阵的少数极端特征值。Arnoldi 算法是非对称矩阵的 Lanczos 推广。这些算法在大规模科学计算和机器学习中不可或缺。特征值问题的推广包括：广义特征值问题 Av=λBvAv = \lambda Bv——出现在振动分析和广义 Rayleigh 商中；非线性特征值问题 λ2Mv+λCv+Kv=0\lambda^2 Mv + \lambda Cv + Kv = 0——出现在流固耦合问题中；随机矩阵的特征值分布——Wigner 半圆律和 Tracy-Widom 分布是随机矩阵理论的核心结果。

核心公式汇编

概念公式
特征方程det⁡(A−λI)=0\det(A - \lambda I) = 0
迹tr(A)=∑λi\text{tr}(A) = \sum \lambda_i
行列式det⁡(A)=∏λi\det(A) = \prod \lambda_i
谱半径$\rho(A) = \max\lambda_i$
Rayleigh 商R(x)=x∗Axx∗xR(x) = \frac{x^*Ax}{x^*x}，极值为 λmax⁡\lambda_{\max} 和 λmin⁡\lambda_{\min}
矩阵指数eAt=∑k=0∞(At)kk!=PeDtP−1e^{At} = \sum_{k=0}^\infty \frac{(At)^k}{k!} = Pe^{Dt}P^{-1}
Courant-Fischer$\lambdak = \max{\dim S=k}\min_{x\in S,\x\=1} x^TAx$

经典问题

  1. 幂迭代法：xk+1=Axk/∥Axk∥x_{k+1} = Ax_k / \|Ax_k\|——收敛到主特征向量，计算 PageRank 的基础
  2. QR 算法：通过反复的 QR 分解求所有特征值——数值线性代数最成功的算法之一
  3. 对称矩阵的三对角化：Householder 变换将对称矩阵化为三对角矩阵，然后用 QR 算法高效求特征值
  4. 广义特征值问题：Av=λBvAv = \lambda Bv——出现在振动分析和广义 Rayleigh 商中
  5. 扰动理论：矩阵的微小变化如何影响特征值？——Bauer-Fike 定理给出误差界

与其他概念的关系

特征值是数学和物理中的核心概念： - → 线性代数：特征值是线性变换最本质的不变量——对角化的基础 - → 微分方程：线性 ODE 的解由矩阵指数 eAte^{At} 给出，特征值决定解的渐近行为 - → 泛函分析：紧算子的谱理论是有限维特征值理论的无穷维推广 - → 量子力学：测量值是可观测量（自伴算子）的特征值，测量后状态坍缩到对应特征向量 - → 数据科学：PCA 的主成分是协方差矩阵的特征向量，方差是对应特征值 - → 图论：图的拉普拉斯矩阵的特征值反映图的连通性——代数连通度（Fiedler 值）

跨域连接

  • 动力系统：在不动点附近线性化后，雅可比矩阵各特征值实部的正负决定扰动是衰减还是放大。只要有一个实部为正，不动点就不稳定，其余方向再怎么收敛也无济于事。推论是：稳定性判据可以只看谱，不必解出轨道。
  • 简正振动：把质量加权后的二阶导数矩阵对角化，特征值开方就是振动频率，对应的特征向量给出各原子如何协同运动。推论是：把氢换成氘会增大约化质量，相应谱线向低频移动，而移动的幅度可以事先算出——同位素替换因此是验证谱线归属的标准手段。
  • 传染病建模：分人群模型里"下一代矩阵"的谱半径就是基本再生数，大于一则感染指数增长。推论是：把易感比例压到一减去谱半径倒数以下，增长率就转为负值——群体免疫阈值不是经验数字，是这个谱量算出来的。
  • 网页排名：转移矩阵的主特征向量给出长期访问概率，它的正性与唯一性要求矩阵非负且强连通。推论是：真实网页图并不强连通，必须人为加入阻尼跳转，否则"只进不出"的页面会把全部概率吸走，排名彻底失真。
  • 收敛速度：把增长模型在稳态附近线性化，主特征值的绝对值就决定了偏离之后回归稳态的快慢。推论是：这个数可以换算成"与稳态的差距缩小一半需要多少年"，于是一个抽象的谱量变成了能与跨国面板数据直接对照的可证伪预言，而不再只是模型内部的参数。

参考文献

  1. Augustin-Louis Cauchy, "Sur l'équation à l'aide de laquelle on détermine les inégalités séculaires des planètes" (1829).
  2. Gilbert Strang, Linear Algebra and Its Applications (4th ed., 2006).
  3. Roger Horn & Charles Johnson, Matrix Analysis (2nd ed., 2012).
  4. 戴华, 《矩阵论》, 科学出版社, 2001.
  5. Lloyd Trefethen & David Bau, Numerical Linear Algebra (1997).

特征值 λ\lambda 与特征向量 v\mathbf{v} 满足 Av=λvA\mathbf{v}=\lambda\mathbf{v}：在特征向量方向上，线性变换只是按 λ\lambda 缩放。它决定矩阵的对角化、动态系统的稳定性、主成分分析的主方向，也是量子力学中可观测量取值的数学基础。

<!-- Additional notes: The power iteration method is the simplest algorithm for finding dominant eigenvalues --> <!-- The QR algorithm is considered one of the top 10 algorithms of the 20th century --> <!-- Random matrix theory connects eigenvalue distributions to number theory and physics --> <!-- Eigenvalue problems are fundamental to vibration analysis, stability theory, and quantum mechanics -->