跳转到内容
← 返回概念
代数约 17 分钟阅读

向量空间

Vector Space

关键人物

hamiltongrassmannbanachhilbert
代数线性代数向量空间线性无关

破除误解：向量不一定是"带箭头的小棍"

中学里学向量，脑子里浮现的多半是平面上一根带箭头的小棍：有方向、有长短。这画面没错，却把向量框死了。真正让向量空间威力惊人的，是数学家发现："是不是向量"，跟它长什么样毫无关系，只跟它能不能做两件事有关——能相加，能按比例放大缩小。

只要一堆东西满足"加起来还在这堆里、缩放后还在这堆里"（再加上几条朴素的规则，比如加法可交换、有零元），它们就构成一个向量空间，里头的成员就配叫"向量"——哪怕它压根不是箭头。一段段函数可以相加、可以乘以常数，于是"所有连续函数"是一个向量空间；多项式能相加缩放，"所有多项式"也是一个向量空间；甚至声音信号、图像像素，都住在某个向量空间里。皮亚诺当年把这一切抽象成八条公理，正是为了一刀斩断"向量必须是几何箭头"的执念。

这种抽象不是为玄而玄，它换来一件极漂亮的事：任何向量空间，都能找到一组基——少数几个"骨架"向量，空间里每一个成员都能由它们唯一地线性组合拼出来。基里向量的个数，就是这个空间的维数。于是无论对象是箭头、函数还是信号，一旦认出它们的基，关于它们的全部问题就被统一翻译成了同一套线性代数语言。这正是为什么量子态、机器学习里的词向量、工程中的振动模式，最终都能用同一套工具处理——它们共享着"向量空间"这副骨架。

定义

向量空间（Vector Space）是线性代数的基本研究对象，刻画了"可以进行线性组合"的数学结构。

定义：设 $F$ 为域，$V$ 为非空集合，配备加法 V×V→VV \times V \to V 和数乘 F×V→VF \times V \to V。若满足八条公理（加法的阿贝尔群性质、数乘的结合律和分配律等），则称 $V$ 为 $F$ 上的向量空间。

基：向量空间 $V$ 中的线性无关的生成集。若 $V$ 有有限基 {e1,…,en}\{e_1, \ldots, e_n\}，则 $V$ 的维数为 $n$，记作 dim⁡V=n\dim V = n。每个向量 v∈Vv \in V 可以唯一表示为基向量的线性组合。

向量空间的关键性质是线性结构——向量的加法和数乘满足叠加原理。这使得向量空间成为线性方程组、线性映射和线性变换的自然框架。

历史演变

向量的概念起源于19世纪对物理量（力、速度、加速度）的数学描述。汉密尔顿（William Rowan Hamilton）在1843年发明了四元数——三维空间旋转的代数描述。格拉斯曼（Hermann Grassmann）在1844年发表了《线性扩张论》，引入了$n$维向量空间的概念——比汉密尔顿的四元数更一般、更抽象。

皮亚诺（Giuseppe Peano）在1888年首次给出了向量空间的公理化定义——用现代语言描述了向量空间的抽象结构。这一公理化使得向量空间的概念不再局限于几何向量，而可以应用于函数空间、多项式空间等抽象对象。

20世纪，向量空间的概念与泛函分析结合，推广到无穷维空间——巴拿赫空间和希尔伯特空间。这使得线性代数的方法可以应用于微分方程、量子力学和信号处理。

关键人物

格拉斯曼（1809—1877）是向量空间概念的真正先驱。他在1844年的著作中发展了$n$维向量空间、线性无关、维数等概念——但当时几乎无人理解。他的工作直到19世纪末才被重新发现和认可。

汉密尔顿（1805—1865）是爱尔兰数学家和物理学家。他发明了四元数——第一个非交换的代数结构。虽然四元数本身的应用有限，但汉密尔顿的思想——从具体的几何运算中抽象出代数结构——对数学发展产生了深远影响。

数学意义

向量空间是线性代数的核心概念：

  1. 维数定理：有限维向量空间的维数是良定义的——与基的选择无关
  2. 线性映射：向量空间之间的保持线性结构的映射——可以用矩阵表示
  3. 对偶空间：V∗=Hom(V,F)V^* = \text{Hom}(V, F)——线性泛函的空间
  4. 商空间：$V/W$——模去子空间的等价类
  5. 直和分解：V=W1⊕W2V = W_1 \oplus W_2——向量空间的正交分解

向量空间的公理化定义

域 $F$ 上的向量空间 $V$ 满足以下八条公理（对所有 u,v,w∈Vu, v, w \in V，a,b∈Fa, b \in F）： 1. 加法交换律：$u + v = v + u$ 2. 加法结合律：$(u + v) + w = u + (v + w)$ 3. 零向量存在：∃0∈V,v+0=v\exists \mathbf{0} \in V, v + \mathbf{0} = v 4. 加法逆元存在：∃−v∈V,v+(−v)=0\exists -v \in V, v + (-v) = \mathbf{0} 5. 数乘结合律：$a(bv) = (ab)v$ 6. 数乘单位元：$1v = v$ 7. 数乘对向量的分配律：$a(u + v) = au + av$ 8. 数乘对标量的分配律：$(a + b)v = av + bv$

常见的向量空间包括 Rn\mathbb{R}^n、$F[x]$（多项式空间）、$C[a,b]$（连续函数空间）和 Mm×nM_{m \times n}（矩阵空间）。

基与维数

线性无关：向量组 {v1,…,vk}\{v_1, \ldots, v_k\} 线性无关，若 ∑aivi=0\sum a_i v_i = \mathbf{0} 蕴含所有 ai=0a_i = 0。

基：$V$ 的基是线性无关的生成集。等价刻画：{e1,…,en}\{e_1, \ldots, e_n\} 是基当且仅当每个 v∈Vv \in V 有唯一表示 v=∑aieiv = \sum a_i e_i。

维数定理：有限维向量空间的任意两个基有相同数量的元素——维数 dim⁡V\dim V 是良定义的。证明思路：若 {v1,…,vm}\{v_1, \ldots, v_m\} 线性无关且 {w1,…,wn}\{w_1, \ldots, w_n\} 是基，则 m≤nm \leq n（替换引理）。

坐标映射：选定基后，$V$ 与 FnF^n 同构——将抽象向量空间的问题转化为具体的列向量计算。

线性变换与矩阵

线性变换：T:V→WT: V \to W 满足 $T(au + bv) = aT(u) + bT(v)$。线性变换完全由基的像确定：若 T(ej)=∑iaijwiT(e_j) = \sum_i a_{ij} w_i，则矩阵 A=(aij)A = (a_{ij}) 是 $T$ 在给定基下的表示。

核与像：ker⁡T={v:T(v)=0}\ker T = \{v : T(v) = \mathbf{0}\}，im T={T(v):v∈V}\text{im}\, T = \{T(v) : v \in V\}。秩-零化度定理：dim⁡V=dim⁡ker⁡T+dim⁡im T\dim V = \dim \ker T + \dim \text{im}\, T。

对偶空间：V∗=Hom(V,F)V^* = \text{Hom}(V, F) 是所有线性泛函的空间。dim⁡V∗=dim⁡V\dim V^* = \dim V。对偶空间在张量分析和微分几何中起核心作用。

特征值与特征向量

定义：T(v)=λvT(v) = \lambda v，v≠0v \neq 0，则 λ\lambda 是特征值，$v$ 是特征向量。等价地，det⁡(A−λI)=0\det(A - \lambda I) = 0——特征方程。

谱定理：实对称矩阵（或复 Hermitian 矩阵）的特征值都是实数，且存在由特征向量组成的正交基。这意味着对称矩阵可以正交对角化：A=QΛQTA = Q \Lambda Q^T。

应用：主成分分析（PCA）通过协方差矩阵的特征分解找到数据的主方向。Google 的 PageRank 算法本质上是求转移矩阵的主特征向量。

量子力学中的向量空间

量子态空间：量子力学中，系统的状态是希尔伯特空间 H\mathcal{H} 中的单位向量 ∣ψ⟩|\psi\rangle。叠加原理——∣ψ⟩=α∣ϕ1⟩+β∣ϕ2⟩|\psi\rangle = \alpha|\phi_1\rangle + \beta|\phi_2\rangle 仍是合法状态——本质上是向量空间的线性结构。

可观测量：物理量对应 H\mathcal{H} 上的自伴算子（Hermitian 算子）。测量结果是算子的特征值，测量后状态坍缩到对应的特征向量。

不确定性原理：若两个可观测量对应的算子不对易（[A^,B^]≠0[\hat{A}, \hat{B}] \neq 0），则它们不能同时精确测量。位置和动量算子满足 [x^,p^]=iℏ[\hat{x}, \hat{p}] = i\hbar，导出海森堡不确定性关系 Δx⋅Δp≥ℏ/2\Delta x \cdot \Delta p \geq \hbar/2。

核心概念辨析

  • 向量空间 vs 模：模是向量空间在环上的推广——环不一定有逆元
  • 有限维 vs 无穷维：有限维空间有基且维数唯一，无穷维空间的基需要选择公理
  • 实向量空间 vs 复向量空间：标量域不同，复向量空间的结构更丰富
  • 线性无关 vs 生成：线性无关保证表示的唯一性，生成保证表示的存在性

当代应用

向量空间是现代科学和技术的基础工具。在计算机图形学中，三维向量空间描述几何变换。在机器学习中，特征向量构成向量空间，主成分分析（PCA）是向量空间上的正交变换。在量子力学中，量子态是希尔伯特空间中的向量。在信号处理中，信号可以看作函数空间中的向量，傅里叶变换是基变换。在经济学中，商品空间是向量空间，价格向量是其对偶空间中的元素。

词嵌入：自然语言处理中，词向量（Word2Vec、GloVe）将词语映射到高维向量空间。语义关系被编码为向量运算——例如 king⃗−man⃗+woman⃗≈queen⃗\vec{\text{king}} - \vec{\text{man}} + \vec{\text{woman}} \approx \vec{\text{queen}}。这说明向量空间的线性结构可以捕捉语义关系。

压缩感知：若信号在某个基下是稀疏的（大多数系数为零），则可以用远少于奈奎斯特采样定理要求的样本数精确重建——这依赖于向量空间中稀疏表示的唯一性理论。

张量积空间：V⊗WV \otimes W 是由所有形如 v⊗wv \otimes w 的元素生成的向量空间。张量积是多线性代数的基础——量子力学中的复合系统状态空间就是子系统希尔伯特空间的张量积。

跨域连接

  • 微分方程：n 阶线性齐次方程的全部解恰好构成一个 n 维空间。"通解等于若干基础解的线性组合"不是解题技巧，而是维数定理的直接改写。推论是：凑齐 n 个线性无关的解就一定凑齐了全部，不必再担心漏解。
  • 量子叠加：态空间是复系数的线性空间，叠加是公理而非近似；两条路径的幅相加再取模方，交叉项就是干涉。推论是：若演化里混进非线性项，干涉图样会随强度改变——线性性因此是可以被实验直接盯住的假设。
  • 分子轨道：分子轨道被写成原子轨道的线性组合，可用的基函数只张成一个有限维子空间，而变分原理保证子空间里算出的能量永远高于真值。推论是：扩大基组只会让能量单调下降，这给出一把判断计算够不够充分的现成尺子。
  • 代谢通量：稳态要求化学计量矩阵乘以通量向量为零，于是所有可能的稳态代谢流恰好构成一个零空间，它的维数就是网络的自由度。推论是：敲掉一个反应若不改变这个维数，表型就不该变化——这正是基因敲除预测的依据。
  • 分布式语义：把词嵌进向量空间之后，某些语义关系表现为向量差的近似平行。这一步必须写明是经验规律而非定理：空间公理本身不蕴含任何语义，平行性完全来自训练语料的统计结构。推论是：换一批语料，这些平行关系就会移位甚至整体消失，因此它不能被当作语义的定义。

为什么这很重要

向量空间是线性代数的舞台——所有线性现象都在这个舞台上演出。线性结构是数学中最简单、最好理解的结构，但也是最广泛、最深刻的。

线性代数是数学的通用语言。微分方程的解空间是向量空间——线性微分方程的解满足叠加原理。量子力学的状态空间是希尔伯特空间——无穷维的完备内积空间。傅里叶分析将函数分解为正交基（三角函数）的线性组合——这将函数空间的问题转化为系数的计算。机器学习中，数据被表示为高维向量空间中的点——线性分类器、主成分分析和神经网络的每一层都是向量空间上的线性变换（加上非线性激活）。

无穷维向量空间的力量。将向量空间的概念推广到无穷维，产生了泛函分析——20世纪分析学的核心。LpL^p 空间（可积函数的空间）、索伯列夫空间（弱可微函数的空间）和分布空间（广义函数的空间）都是无穷维向量空间。量子力学的数学框架——希尔伯特空间、自伴算子、谱定理——全部建立在无穷维向量空间之上。没有无穷维向量空间的理论，量子力学就无法严格表述。

常见误区

  • "向量就是箭头"：箭头只是向量的一种可视化。向量空间的抽象定义包含多项式、函数、矩阵等——它们都是"向量"。函数空间中的"向量"是一个函数，多项式空间中的"向量"是一个多项式。
  • "基只有一种选择"：同一个向量空间可以有无穷多种基。R2\mathbb{R}^2 的标准基是 {(1,0),(0,1)}\{(1,0), (0,1)\}，但 {(1,1),(1,−1)}\{(1,1), (1,-1)\} 也是基。选择不同的基相当于选择不同的坐标系——傅里叶基和小波基是函数空间的不同基，各有优势。
  • "维数越高越好"：高维空间中存在"维数灾难"——数据在高维空间中变得稀疏，距离度量失去意义。降维方法（如PCA、t-SNE、UMAP）将高维数据投影到低维空间——保留最重要的结构信息同时去除噪声。

从向量空间到范畴论

向量空间的抽象定义——满足八条公理的代数结构——是数学抽象化的典范。这一思路的进一步发展产生了模（环上的向量空间的推广）和范畴论（数学结构的结构）。范畴论用态射（而非元素）来描述数学对象——向量空间之间的线性映射比向量本身更重要。函子将一个范畴的结构映射到另一个范畴——这为不同数学领域之间的类比提供了精确的语言。从具体到抽象、从特殊到一般的思维方式——从向量空间到模到范畴——是现代数学发展的核心动力。

向量空间在数据科学中的角色

现代数据科学的核心操作几乎都可以用向量空间的语言描述。数据集的每一行是一个特征向量——$n$ 个样本构成 Rd\mathbb{R}^d 中的 $n$ 个点。主成分分析（PCA）找到数据协方差矩阵的特征向量——这些是数据方差最大的方向。奇异值分解（SVD）将数据矩阵分解为三个矩阵的乘积——这本质上是在不同的正交基下表示数据。推荐系统中的矩阵分解（如Netflix Prize的获胜方法）将用户-物品评分矩阵近似为低秩矩阵——这利用了向量空间的直和分解。深度学习中的每一层都是向量空间上的仿射变换加上非线性激活——网络的表达能力取决于这些变换的组合方式。

参考文献

  1. Hermann Grassmann, Die lineale Ausdehnungslehre (1844).
  2. Giuseppe Peano, Calcolo geometrico secondo l'Ausdehnungslehre di H. Grassmann (1888).
  3. Sheldon Axler, Linear Algebra Done Right (3rd ed., 2015).
  4. 李尚志, 《线性代数》, 高等教育出版社, 2006.
  5. Paul Halmos, Finite-Dimensional Vector Spaces (1958).

向量空间是对加法与数乘封闭、满足八条公理的集合。基与维数刻画其大小，子空间、线性无关、张成是核心概念。函数空间、解空间、坐标空间都是向量空间，使几何直觉得以推广到任意维乃至无穷维。