跳转到内容
← 返回概念
概率论13 分钟阅读

随机过程

Stochastic Process

关键人物

bachelierwienerkolmogorovitodoob
概率论随机过程马尔可夫链布朗运动

破除误解:随机过程不是"一堆随机数",而是"随机演化的整条历史"

很多人以为随机过程就是"很多个随机变量摆在一起"。这没说错,但漏掉了灵魂。一个普通随机变量是对一次不确定结果的描述——掷一次骰子。随机过程描述的是随时间展开的整段不确定历史:股价从开盘到收盘的整条曲线、花粉颗粒在水面上一整天的游走轨迹、一个基站一整夜收到的呼叫到达序列。

更准确地说:随机过程是一族随时间(或空间)编号的随机变量 {Xt}\{X_t\},它给出的不是一个数,而是一整条"可能的路径",以及这些路径出现的概率。 你抽一次签,得到的不是一个点,而是一整条函数。

这带来一个普通概率里没有的核心问题——记忆。下一刻发生什么,取决于过去多少?

  • 如果只取决于现在、与更早的历史无关,就是马尔可夫性("无记忆"):今天的天气只看今天,不看上周。
  • 如果对未来的最佳预测就是现在的值(赌局公平、没有可利用的趋势),就是鞅。
  • 如果增量独立且平稳,就走向布朗运动与泊松过程这两块基石。

随机过程的全部魅力,在于用精确的数学刻画"不确定性如何随时间累积、传播、又如何被部分预测"。

定义

(Ω,F,P)(\Omega, \mathcal{F}, \mathbb{P}) 为概率空间,$T$ 为指标集(常取时间,T=NT=\mathbb{N} 为离散时间,T=[0,)T=[0,\infty) 为连续时间)。随机过程是一族随机变量

{Xt:tT},Xt:ΩS\{X_t : t \in T\}, \qquad X_t : \Omega \to S

其取值在状态空间 $S$ 中。固定一个样本点 ω\omega,函数 tXt(ω)t \mapsto X_t(\omega) 称为一条样本路径(sample path)——即"一次实现出的完整历史"。

马尔可夫性(无记忆性):对任意时刻 $s<t$,未来只通过现在依赖过去:

P(XtAFs)=P(XtAXs),\mathbb{P}(X_t \in A \mid \mathcal{F}_s) = \mathbb{P}(X_t \in A \mid X_s),

其中 Fs\mathcal{F}_s 是直到 $s$ 时刻的全部信息(σ\sigma-代数,称为"流"filtration)。

(martingale):相对于流 {Ft}\{\mathcal{F}_t\},若过程可积且满足

E[XtFs]=Xs(st),\mathbb{E}[X_t \mid \mathcal{F}_s] = X_s \quad (s \le t),

即"已知至今的全部信息,对未来的最佳期望预测恰为当前值",则 {Xt}\{X_t\} 是鞅。它精确刻画了"公平赌局"。

核心内容

马尔可夫链。 状态空间离散、满足马尔可夫性的过程。它由转移概率矩阵 P=(pij)P=(p_{ij}) 完全刻画,pijp_{ij} 是"从状态 $i$ 一步走到 $j$ 的概率"。$n$ 步转移由矩阵幂 PnP^n 给出。在不可约、非周期、正常返的条件下,链收敛到唯一的平稳分布 π\piπP=π\pi P = \pi)——无论从哪儿出发,长期占据各状态的比例趋于 π\pi。这正是 Google PageRank、MCMC 抽样、语言模型早期 n-gram 的数学内核。

布朗运动 / 维纳过程。 连续时间随机过程的原型,也是最重要的一个。标准布朗运动 {Wt}\{W_t\} 满足三条公理:

  1. W0=0W_0 = 0
  2. 增量独立且平稳,WtWsN(0,ts)W_t - W_s \sim \mathcal{N}(0, t-s)(增量服从均值零、方差等于时间差的正态分布);
  3. 样本路径连续。

它有一个惊人的性质:路径处处连续却几乎处处不可导——花粉颗粒每一瞬间都在抖动,没有任何一点存在确定的速度。这呼应了魏尔斯特拉斯构造的"连续而处处不可导函数",只不过这里它是自然界自己写出来的。

泊松过程。 计数"稀有独立事件随时间到达"的过程:放射性衰变的计数、呼叫到达、网页请求。事件间隔服从指数分布,在长为 $t$ 的区间内事件数服从参数 λt\lambda t 的泊松分布。它与布朗运动并列为两类基本的独立增量过程——一个连续、一个跳跃。

鞅与 Itô 随机微积分。 鞅理论给出了"公平性"的精确语言,鞅收敛定理与可选停时定理是其支柱。在布朗运动上做微积分需要全新工具:由于路径不可导,普通微积分失效。Itô 积分对布朗运动定义积分,其关键的 Itô 公式带一个"二阶修正项":

df(Wt)=f(Wt)dWt+12f(Wt)dt.df(W_t) = f'(W_t)\,dW_t + \tfrac{1}{2} f''(W_t)\,dt.

那个 12fdt\tfrac12 f''\,dt 项正是布朗运动剧烈抖动的代价——它让随机微积分既深刻又强大,是 Black-Scholes 期权定价公式的数学基础。

历史

随机过程的现代史有一条意味深长的主线:金融与物理在同一座山的两侧凿洞,最后在隧道中相遇。

最早的足迹来自金融。法国数学家路易·巴施利耶(Louis Bachelier)在 1900 年的博士论文《投机理论》(Théorie de la spéculation)中,为巴黎交易所的股价波动建立了数学模型——他实际上已用到了布朗运动的核心假设(增量独立、服从高斯分布),比物理学家早了五年。可惜这项工作长期被忽视。

物理一侧,爱因斯坦在 1905 年独立用布朗运动解释了花粉颗粒的无规则游走,并借此估算阿伏伽德罗常数与分子尺度——他当时并不知道巴施利耶的工作。这给原子论提供了关键实验证据。

数学的严格化随后到来。诺伯特·维纳(Norbert Wiener)在 1923 年首次严格构造了布朗运动(证明存在具有连续路径的版本),故布朗运动又称维纳过程安德雷·柯尔莫哥洛夫(Andrey Kolmogorov)在 1931 年导出了扩散过程转移概率所满足的前向方程(即福克-普朗克方程)与后向方程,并在 1933 年用测度论为整个概率论奠定公理基础——从此随机过程有了坚实的地基。

战后两位巨匠完成了大厦。伊藤清(Kiyosi Itô)从 1942 年起发展随机微分方程与 Itô 微积分,给出了"在布朗运动上做微积分"的工具。约瑟夫·杜布(Joseph Doob)系统建立了鞅理论(1953 年专著《Stochastic Processes》),把流、停时、鞅收敛锻造成现代概率论的标准语言。

关键人物

路易·巴施利耶(1870—1946)是数理金融的先驱。他在 1900 年的论文中先于爱因斯坦写下布朗运动的雏形,用以为期权和股价建模。生前不被主流重视,半个世纪后才被萨缪尔森等经济学家"重新发现",今天被尊为金融数学之父。

诺伯特·维纳(1894—1964)严格构造了布朗运动,证明其路径连续,奠定了连续时间随机过程的分析基础。他同时是控制论(cybernetics)的创立者,将随机过程引入信号处理与滤波(维纳滤波)。

安德雷·柯尔莫哥洛夫(1903—1987)以测度论公理化概率(1933),导出扩散方程,统一了离散与连续随机过程的理论框架。他对湍流、信息论、算法复杂度(Kolmogorov 复杂度)亦有奠基性贡献,是 20 世纪最伟大的数学家之一。

伊藤清(1915—2008)创立随机微积分与随机微分方程,使人们能够在布朗运动这类不可导路径上做分析。Itô 公式是金融工程、随机控制、滤波理论的核心,他因此获 2006 年首届高斯奖。

约瑟夫·杜布(1910—2004)系统化鞅理论,提出可选停时定理、Doob 不等式与鞅收敛定理,把"流"与停时确立为随机过程的标准语言,深刻影响了概率论此后的全部发展。

跨域连接

  • 非平衡态热力学:涨落与耗散被同一批分子碰撞绑在一起——它们既提供随机的踢动,也提供黏滞阻尼。推论是温度一旦定下,噪声强度就不能再自由选取;金融模型里的波动率没有这条约束,这正是同一套数学在两个领域合法性不同的关键。
  • 期权与 Black-Scholes:几何布朗运动假设对数收益独立同分布且方差有限,由此推出无套利价格。这些假设在物理里由分子混沌支撑,在市场里却没有对应的微观定理——隐含波动率的"微笑"就是市场对该假设的持续否定。
  • 消息队列与流处理:排队论假设到达是泊松过程,据此算出等待时间随利用率趋近满载而发散。推论是真实流量一旦突发且相关,同样的容量规划会严重低估延迟——限流与削峰存在的理由正在这里。
  • 测度论:路径空间上的维纳测度让"随机抽出一整条函数"有了严格意义。代价是这些路径几乎必然处处不可导,普通微积分失效,必须换成带二阶修正项的伊藤积分——那一项不是技术细节,它直接改变了定价公式的形状。
  • 突触传递:囊泡释放被建模为彼此独立的随机事件,于是单位时间的释放次数近似泊松。可检验推论是释放次数的方差应当等于均值——实测偏离这条关系,即提示位点之间存在相关或囊泡池已被耗竭。

参考文献

  1. Samuel Karlin, Howard M. Taylor, A First Course in Stochastic Processes, 2nd ed., Academic Press, 1975.
  2. Joseph L. Doob, Stochastic Processes, John Wiley & Sons, 1953.
  3. Bernt Øksendal, Stochastic Differential Equations: An Introduction with Applications, 6th ed., Springer, 2003.
  4. Andrey N. Kolmogorov, "Über die analytischen Methoden in der Wahrscheinlichkeitsrechnung", Mathematische Annalen, 104: 415–458, 1931.
  5. Louis Bachelier, "Théorie de la spéculation", Annales scientifiques de l'École Normale Supérieure, 3 (17): 21–86, 1900.

延伸阅读

  1. Rick Durrett, Probability: Theory and Examples, 5th ed., Cambridge University Press, 2019.
  2. Steven E. Shreve, Stochastic Calculus for Finance II: Continuous-Time Models, Springer, 2004.

随机过程研究随时间演化的随机现象。布朗运动刻画花粉颗粒的无规则运动,泊松过程刻画随机到达的计数,马尔可夫链刻画"无记忆"的状态转移;它是金融建模(如几何布朗运动)、排队论与统计物理的核心工具。