随机过程
Stochastic Process
破除误解:随机过程不是"一堆随机数",而是"随机演化的整条历史"
很多人以为随机过程就是"很多个随机变量摆在一起"。这没说错,但漏掉了灵魂。一个普通随机变量是对一次不确定结果的描述——掷一次骰子。随机过程描述的是随时间展开的整段不确定历史:花粉颗粒在水面上一整天的游走轨迹、一个基站一整夜收到的呼叫到达序列、排队窗口前人数随分钟起伏的整条记录。
更准确地说:随机过程是一族随时间(或空间)编号的随机变量 ,它给出的不是一个数,而是一整条"可能的路径",以及这些路径出现的概率。 你抽一次签,得到的不是一个点,而是一整条函数。同一条样本路径里,相邻时刻几乎总是相关的:下一秒的位置通常贴在此刻附近,而不是重新从无记忆的分布里再抽一次。
这带来一个普通概率里没有的核心问题——记忆。下一刻发生什么,取决于过去多少?
- 如果只取决于现在、与更早的历史无关,就是马尔可夫性("无记忆"):今天的天气只看今天,不看上周。
- 如果对未来的最佳预测就是现在的值(赌局公平、没有可利用的趋势),就是鞅。
- 如果增量独立且平稳,就走向布朗运动与泊松过程这两块基石。
马尔可夫过程、布朗运动、泊松过程并不是三种互不相干的模型菜单,而是同一套路径语言下最常用的三种例子。马尔可夫只把「现在」当作对未来的充分统计;布朗运动把连续抖动写成独立高斯增量;泊松过程把稀疏跳跃写成独立计数。差别在路径是连续还是跳跃、记忆保留一步还是几乎不保留,演化规则却都可以写成「现在如何生成下一小段历史」。
随机过程的全部魅力,在于用精确的数学刻画"不确定性如何随时间累积、传播、又如何被部分预测"。预测在这里从来不是画出唯一的未来,而是给出路径族上的概率:哪些历史更常见,哪些几乎不会出现。
定义
设 为概率空间,$T$ 为指标集(常取时间, 为离散时间, 为连续时间)。随机过程是一族随机变量
其取值在状态空间 $S$ 中。固定一个样本点 ,函数 称为一条样本路径(sample path)——即"一次实现出的完整历史"。不同的 画出不同的整条曲线;过程的概率,就是在这些曲线组成的空间上指定测度。
马尔可夫性(无记忆性):对任意时刻 $s<t$,未来只通过现在依赖过去:
其中 是直到 $s$ 时刻的全部信息(-代数,称为"流"filtration)。马尔可夫性说:对未来做条件概率时,整条过去可以被当下的状态替换,而不必把更早的细节留下来。
鞅(martingale):相对于流 ,若过程可积且满足
即"已知至今的全部信息,对未来的最佳期望预测恰为当前值",则 是鞅。它精确刻画了"公平赌局":你不能靠已经看到的历史,在期望意义下再多赢一笔。
要把过程说清楚,还需要各时刻如何联合在一起。任意有限个时刻上的随机向量 的分布,称为有限维分布。柯尔莫哥洛夫的相容性定理表明:只要这些有限维分布彼此嵌套、不相矛盾,就存在一个随机过程实现它们。存在性回答的是「这样的路径族有没有」;路径是否几乎必然连续、是否允许跳跃,则是另一层正则性问题。
布朗运动被构造在连续函数空间上,泊松过程的典型路径则是右连左极的阶梯。同一套有限维分布,配上不同的路径正则性,会画出观感完全不同的历史。这也是定义里必须同时写出指标集 $T$ 与状态空间 $S$ 的原因:离散时间、连续时间、可数状态、实值状态,对应的是不同的路径空间。
核心内容
马尔可夫链。 状态空间离散、满足马尔可夫性的过程。它由转移概率矩阵 完全刻画, 是"从状态 $i$ 一步走到 $j$ 的概率"。$n$ 步转移由矩阵幂 给出。在不可约、非周期、正常返的条件下,链收敛到唯一的平稳分布 ()——无论从哪儿出发,长期占据各状态的比例趋于 。这正是 Google PageRank、MCMC 抽样、语言模型早期 n-gram 的数学内核。
转移矩阵的乘法对应查普曼–柯尔莫哥洛夫方程:从 $i$ 走到 $j$,可以在中间任一时刻对经过的状态求和。平稳分布是这条无记忆演化的长期画像,而不是对下一次跳跃的预言。随机游走、窗口前的人数、文本里的字母转移,都是同一类例子:一张表就足以生成一整条状态序列。长期比例收敛到平稳分布,靠的是收敛,不是对单次跳跃押注。
布朗运动 / 维纳过程。 连续时间随机过程的原型,也是最重要的一个。标准布朗运动 满足三条公理:
- ;
- 增量独立且平稳,(增量服从均值零、方差等于时间差的正态分布);
- 样本路径连续。
它有一个惊人的性质:路径处处连续却几乎处处不可导——花粉颗粒每一瞬间都在抖动,没有任何一点存在确定的速度。这呼应了魏尔斯特拉斯构造的"连续而处处不可导函数",只不过这里它是自然界自己写出来的。
独立高斯增量已经决定了任意有限个时刻上的联合分布,连续性再把这些分布粘成一条没有断裂的曲线。二次变差在区间 $[0,t]$ 上几乎必然等于 $t$:路径虽然连续,局部却剧烈到普通微积分无法使用。格子上的随机游走在适当缩放下会收敛到布朗运动。这条极限把折线与连续路径连成同一族对象,也把离散时间的马尔可夫链与连续时间的扩散接了起来。
泊松过程。 计数"稀有独立事件随时间到达"的过程:放射性衰变的计数、呼叫到达、网页请求。事件间隔服从指数分布,在长为 $t$ 的区间内事件数服从参数 的泊松分布。它与布朗运动并列为两类基本的独立增量过程——一个连续、一个跳跃。
泊松过程的增量独立,因而它也是马尔可夫的;事件间隔的无记忆性,正是指数分布的特征。单位时间内的计数均值等于方差,都等于 ,这给出一条可以直接核对数据的关系。真实记录一旦出现簇发或耗竭,独立增量就会被破坏,模型也就不再是这条理想路径。
鞅与 Itô 随机微积分。 鞅理论给出了"公平性"的精确语言,鞅收敛定理与可选停时定理是其支柱。在布朗运动上做微积分需要全新工具:由于路径不可导,普通微积分失效。Itô 积分对布朗运动定义积分,其关键的 Itô 公式带一个"二阶修正项":
那个 项正是布朗运动剧烈抖动的代价。普通链式法则不会长出这一项,它完全来自路径的二次变差。后来几何布朗运动的定价公式里出现二阶修正,来源也是这里,而不是某种交易规则。
微分方程把一条光滑曲线写成速度场沿时间的积分;随机微分方程则把「漂移加扩散」写成路径的演化规则。伊藤公式里的二阶项来自布朗路径的二次变差,它改的是微分规则本身,而不是某一种交易手法。同一套语言也写扩散近似、滤波和物理里的朗之万方程:金融只是这套路径演算后来走进的一扇门,并不是它的定义。
历史
随机过程的现代史有一条意味深长的主线:金融与物理在同一座山的两侧凿洞,最后在隧道中相遇。 两边各自需要「随时间展开的不确定路径」,却直到严格构造完成之后,才看清写的是同一种对象。
最早的足迹来自金融。法国数学家路易·巴施利耶(Louis Bachelier)在 1900 年的博士论文《投机理论》(Théorie de la spéculation)中,为巴黎交易所的股价波动建立了数学模型——他实际上已用到了布朗运动的核心假设(增量独立、服从高斯分布),比物理学家早了五年。可惜这项工作长期被忽视。
物理一侧,爱因斯坦在 1905 年独立用布朗运动解释了花粉颗粒的无规则游走,并借此估算阿伏伽德罗常数与分子尺度——他当时并不知道巴施利耶的工作。这给原子论提供了关键实验证据。布朗作为物理现象由罗伯特·布朗在 1827 年记录下来,但把它写成可计算的路径模型,是巴施利耶与爱因斯坦在两条互不相知的路线上完成的。让-佩兰后来用悬浮颗粒实验测出阿伏伽德罗常数,把这条路径模型变成可检验的物理。
数学的严格化随后到来。诺伯特·维纳(Norbert Wiener)在 1923 年的论文《微分空间》(Differential-Space)里,首次在连续函数空间上给出概率测度,并证明几乎所有路径处处不可导,故布朗运动又称维纳过程。安德雷·柯尔莫哥洛夫(Andrey Kolmogorov)在 1931 年导出了扩散过程转移概率所满足的前向方程(即福克-普朗克方程)与后向方程,并在 1933 年的《概率论基础》里用测度论为整个概率论奠定公理基础。有限维分布的相容性从此成为「这条路径族是否存在」的标准入口。
战后两位巨匠完成了大厦。伊藤清(Kiyosi Itô)从 1942 年起发展随机微分方程与 Itô 微积分,给出了"在布朗运动上做微积分"的工具。约瑟夫·杜布(Joseph Doob)系统建立了鞅理论(1953 年专著《Stochastic Processes》),把流、停时、鞅收敛锻造成现代概率论的标准语言。至此,随机演化不再只是几个著名例子,而是可以在同一套流与积分下书写的路径理论。
关键人物
路易·巴施利耶(1870—1946)是数理金融的先驱。他在 1900 年的论文中先于爱因斯坦写下布朗运动的雏形,用以为期权和股价建模。他写的是投机价格的路径,不是一套可执行的交易策略;贡献是把增量独立与高斯分布写成连续时间的样本曲线。生前不被主流重视,半个世纪后才被萨缪尔森等经济学家"重新发现"。
诺伯特·维纳(1894—1964)严格构造了布朗运动,证明其路径连续,奠定了连续时间随机过程的分析基础。他同时是控制论(cybernetics)的创立者,将随机过程引入信号处理与滤波(维纳滤波)。连续路径的测度一旦存在,滤波就变成在路径空间上对观测做条件期望。
安德雷·柯尔莫哥洛夫(1903—1987)以测度论公理化概率(1933),导出扩散方程,统一了离散与连续随机过程的理论框架。没有这套语言,马尔可夫性与鞅就只能停留在直观口号上,无法写成对信息流的条件期望。他对湍流、信息论、算法复杂度(Kolmogorov 复杂度)亦有奠基性贡献。
伊藤清(1915—2008)创立随机微积分与随机微分方程,使人们能够在布朗运动这类不可导路径上做分析。Itô 公式是随机控制、滤波理论的核心工具,后来也进入金融工程;他因此获 2006 年首届高斯奖。这里改写的是微分规则,而不是某一种下单方法。
约瑟夫·杜布(1910—2004)系统化鞅理论,提出可选停时定理、Doob 不等式与鞅收敛定理。他把"流"与停时确立为随机过程的标准语言,使「信息随时间增加」可以精确书写。没有这套语言,马尔可夫性与公平性很难放到同一框架里。
跨域连接
- 非平衡态热力学:涨落与耗散被同一批分子碰撞绑在一起——它们既提供随机的踢动,也提供黏滞阻尼。推论是温度一旦定下,噪声强度就不能再自由选取;金融模型里的波动率没有这条约束,这正是同一套数学在两个领域合法性不同的关键。
- 期权与 Black-Scholes:几何布朗运动假设对数收益独立同分布且方差有限,由此推出无套利价格。这些假设在物理里由分子混沌支撑,在市场里却没有对应的微观定理——隐含波动率的"微笑"就是市场对该假设的持续否定。
- 消息队列与流处理:排队论假设到达是泊松过程,据此算出等待时间随利用率趋近满载而发散。推论是真实流量一旦突发且相关,同样的容量规划会严重低估延迟——限流与削峰存在的理由正在这里。
- 测度论:路径空间上的维纳测度让"随机抽出一整条函数"有了严格意义。代价是这些路径几乎必然处处不可导,普通微积分失效,必须换成带二阶修正项的伊藤积分——那一项不是技术细节,它直接改变了定价公式的形状。
- 突触传递:囊泡释放被建模为彼此独立的随机事件,于是单位时间的释放次数近似泊松。可检验推论是释放次数的方差应当等于均值——实测偏离这条关系,即提示位点之间存在相关或囊泡池已被耗竭。
参考文献
- Samuel Karlin, Howard M. Taylor, A First Course in Stochastic Processes, 2nd ed., Academic Press, 1975.
- Joseph L. Doob, Stochastic Processes, John Wiley & Sons, 1953.
- Bernt Øksendal, Stochastic Differential Equations: An Introduction with Applications, 6th ed., Springer, 2003.
- Andrey N. Kolmogorov, "Über die analytischen Methoden in der Wahrscheinlichkeitsrechnung", Mathematische Annalen, 104: 415–458, 1931.
- Louis Bachelier, "Théorie de la spéculation", Annales scientifiques de l'École Normale Supérieure, 3 (17): 21–86, 1900.
- Norbert Wiener, "Differential-Space", Journal of Mathematics and Physics, 2: 131–174, 1923.
- Andrey N. Kolmogorov, Grundbegriffe der Wahrscheinlichkeitsrechnung, Springer, 1933.
延伸阅读
- Rick Durrett, Probability: Theory and Examples, 5th ed., Cambridge University Press, 2019.
- Steven E. Shreve, Stochastic Calculus for Finance II: Continuous-Time Models, Springer, 2004.
随机过程研究随时间演化的随机现象。布朗运动刻画花粉颗粒的无规则运动,泊松过程刻画随机到达的计数,马尔可夫链刻画"无记忆"的状态转移;它是金融建模(如几何布朗运动)、排队论与统计物理的核心工具。