跳转到内容
← 返回深度阅读
应用10 分钟阅读

概率与决策

应用概率论决策论期望效用贝叶斯

关键词

概率论; 决策论; 期望效用; 贝叶斯定理; 风险; 不确定性; 博弈; 保险

第1页 · 赌博与概率的诞生

标题:赌徒的问题催生了一门数学学科

概率论的起源与赌博密切相关。1654年,法国赌徒梅雷骑士(Chevalier de Méré)向数学家帕斯卡(Blaise Pascal)提出了一个关于"点数分配"的问题:两个赌徒在中途停止赌博时,应该如何公平地分配赌注?帕斯卡与费马在通信中解决了这个问题——他们的讨论标志着概率论的诞生。惠更斯(Christiaan Huygens)在1657年发表了第一本概率论教材《论赌博中的计算》。

雅各布·伯努利(Jacob Bernoulli)在1713年出版的《猜度术》中证明了大数定律——这是概率论与统计学之间的桥梁。大数定律断言:随着试验次数增加,事件发生的频率趋近于其概率。这一定律为从经验数据推断概率提供了理论基础。

第2页 · 期望效用理论

标题:理性决策的数学——期望效用理论

决策论研究在不确定性下如何做出最优决策。丹尼尔·伯努利(Daniel Bernoulli,1738)提出了期望效用理论:理性人应该最大化期望效用而非期望收益。效用函数 $u(x)$ 描述了收益 $x$ 带来的主观满足感——通常是凹函数(边际效用递减)。期望效用理论解决了圣彼得堡悖论:一个公平的赌博游戏(抛硬币直到出现正面,奖金为 2n2^n)的期望收益是无穷大——但没有人愿意支付无穷大的价格来参与。伯努利的解释是:参与者最大化的不是期望收益,而是期望效用——pilog2(xi)\sum p_i \log_2(x_i)

冯·诺依曼和摩根斯坦(1944)将期望效用理论公理化:如果决策者的偏好满足几条合理的公理(完备性、传递性、连续性、独立性),则存在一个效用函数使得决策者最大化期望效用。这一结果为期望效用理论提供了严格的数学基础。

第3页 · 贝叶斯决策

标题:从先验到后验——贝叶斯定理与决策

贝叶斯定理P(θD)=P(Dθ)P(θ)P(D)P(\theta|D) = \frac{P(D|\theta)P(\theta)}{P(D)}——将先验信念 P(θ)P(\theta) 与观测数据 $D$ 结合,得到后验信念 P(θD)P(\theta|D)

贝叶斯决策理论将贝叶斯定理与期望效用理论结合:选择行动 $a$ 以最大化后验期望效用 u(a,θ)P(θD)dθ\int u(a, \theta) P(\theta|D) d\theta。这将"学习"(从数据更新信念)和"行动"(在不确定性下做决策)统一在一个框架下。

贝叶斯方法在医学诊断中有重要应用。假设某种疾病的患病率为1%(先验),检测试剂的灵敏度为99%(真阳性率),特异度为95%(真阴性率)。如果一个人检测阳性,他真正患病的概率是多少?贝叶斯定理给出:$P(\text{病}|\text{阳性}) = \frac{0.99 \times 0.01}{0.99 \times 0.01 + 0.05 \times 0.99} \approx 16.7\%$。这个反直觉的结果说明:即使检测很准确,低患病率也意味着阳性结果的假阳性率很高。

第4页 · 风险与不确定性

标题:奈特不确定性——概率不能描述一切

弗兰克·奈特(Frank Knight,1921)区分了风险不确定性。风险是可以用概率量化的不确定性——如掷骰子的结果。不确定性是不能用概率量化的不确定性——如明年是否会发生金融危机。奈特的区分对经济学和金融学有重要影响。在风险下,理性决策者可以使用期望效用理论。在不确定性下,期望效用理论不适用——因为没有概率分布可以使用。

对不确定性的数学处理有多种方法。鲁棒优化假设参数在某个不确定集内变化,寻找在最坏情况下最优的决策。模糊集理论用隶属度函数替代概率分布来描述不确定性。随机序方法比较不确定前景的优劣而不假设具体的概率分布。

第5页 · 概率与人工智能

标题:概率推理——AI的数学基础

概率论是现代人工智能的核心数学框架。贝叶斯网络用有向无环图表示变量之间的条件独立关系——是概率推理的强大工具。马尔可夫链蒙特卡洛(MCMC)方法用随机采样来近似复杂的后验分布——是贝叶斯推断的核心算法。在深度学习中,交叉熵损失函数基于概率论——它衡量模型预测分布与真实分布之间的差异。变分自编码器(VAE)和生成对抗网络(GAN)用概率模型生成数据。强化学习中的策略梯度方法用概率分布描述智能体的行为策略。

校准(calibration)是概率预测的重要性质:如果模型说"80%概率下雨",那么在所有说"80%概率"的情况中,确实应该有80%下雨。校准的模型是可信的——它知道它知道什么,也知道它不知道什么。

事实卡

  • 卡1:帕斯卡和费马在1654年解决了点数分配问题——概率论由此诞生。
  • 卡2:丹尼尔·伯努利在1738年提出期望效用理论——解决了圣彼得堡悖论。
  • 卡3:贝叶斯定理将先验信念与数据结合——是统计推断和机器学习的基础。
  • 卡4:奈特(1921)区分了风险和不确定性——概率不能描述一切。

引用

"概率是将常识转化为计算的科学。" — 皮埃尔-西蒙·拉普拉斯

"不确定性不是无知——它是关于无知的知识。" — 丹尼尔·卡尼曼

跨域连接

  • 前景理论:把效用函数换成相对参照点的价值函数,损失一侧更陡。可检验推论是同一笔钱按"得到"或"避免失去"描述,选择会翻转——这不是算错了,而是参照点被表述改变了;正因如此,默认选项的设定本身就是一种权力。
  • 风险感知:人对小概率事件的权重不随概率线性变化,罕见巨灾被高估、常见小险被低估。推论是保险购买行为与精算公平价格系统性背离,且方向可预测——这让"非理性"从一句评语变成可建模、可定价的量。
  • 概率论:期望值只是概率测度下的一次积分,它对分布形状不敏感——同一个期望可以对应风险天差地别的两个赌局。因此"最大化期望收益"作为决策规则需要额外辩护:只有当决策可以重复足够多次,大数定律才把它变成合理选择;一次性的重大决策尤其需要效用。
  • 卫生经济学评价:把治疗方案按质量调整生命年排序,本质是给不同健康状态赋一套效用刻度。推论是排序结果对刻度的取法高度敏感——同一批证据换一组效用权重,优先次序就会改变,因此报告必须公开权重来源与敏感性分析。
  • 效用怪物:把决策规则从个人推广到社会,效用加总立刻暴露问题——一个从任何资源中都能获得超常效用的个体会吞掉全部分配。这提醒我们期望效用是保证个人一致性的工具,并不自动成为社会选择的工具。

从概率到行动还缺哪几步

一个概率本身不产生决策。要从“某事件发生的概率是 (p)”走到行动,至少还需要结果集合、每种结果的价值以及可以选择的方案。期望效用把它们组合为“概率乘效用再求和”,但这不是价值中立的计算器:效用函数怎样弯曲,决定决策者把多大代价放在尾部风险上;时间跨度怎样选择,决定近期损失与远期收益如何比较。

实务中还要区分三种不确定性。随机性描述模型内部的波动;参数不确定性来自样本有限;模型不确定性则意味着候选模型遗漏了机制。增加样本通常能压低第二种,却未必触及第三种。只报告一个点概率会把三者折叠成虚假的精确感,因此稳健决策会比较多个模型、做敏感性分析,并寻找在一组合理假设下都不过分糟糕的行动。

最后要问信息是否值得获取。一次检测、调查或试点只有在它可能改变行动时才有决策价值;若任何结果都不会改变选择,更多数据只是延迟。反过来,当两个方案的期望效用接近且信息可能翻转排序时,小规模试验的价值可能很高。概率论由此不只是预测工具,也是判断“现在行动还是先学习”的语言。

参考文献

  1. Laplace, Pierre-Simon. Théorie analytique des probabilités. 1812.
  2. Bernoulli, Daniel. "Specimen Theoriae Novae de Mensura Sortis." 1738.
  3. von Neumann, John & Oskar Morgenstern. Theory of Games and Economic Behavior. 1944.
  4. Knight, Frank. Risk, Uncertainty and Profit. 1921.
  5. 何书元. 《概率论》. 北京大学出版社, 2005.
  6. Pearl, Judea. Probabilistic Reasoning in Intelligent Systems. Morgan Kaufmann, 1988.