元信息：Sheldon Ross《A First Course in Probability》（第 9 版，Pearson 2014）；本笔记负责 PDF 第 1–124 页（前言 + 第 1–3 章）。

Ross《概率论基础教程》精读笔记（一）：前言与第 1–3 章

前置页（PDF p.1–13）

p.1–7：封面、书名页、版权页（Pearson 2014，ISBN 978-0-321-79477-2）、献词（For Rebecca）、空白页。
p.8–9：目录。全书 10 章：1 组合分析；2 概率公理；3 条件概率与独立性；4 随机变量（离散）；5 连续型随机变量；6 联合分布的随机变量；7 期望的性质（含条件期望、矩母函数、多元正态）；8 极限定理（Chebyshev、弱/强大数律、中心极限定理、Chernoff 界、Poisson 近似误差界）；9 概率论的其他专题（Poisson 过程、Markov 链、熵与编码）；10 模拟（逆变换、舍选法、方差缩减）。书末附部分习题答案、自测题完整解答、索引，封二/封三为常见离散/连续分布表。
p.10–12：前言。开篇引 Laplace："概率论本质上只是化为计算的常识……人生最重要的问题，大部分其实只是概率问题。"本书定位为只需初等微积分基础的概率入门教材，面向数学、统计、工程、计算机、生物、社会科学、管理科学的学生。各章安排：第 3 章强调"条件化（conditioning）"既用于有部分信息时，也作为简化计算的工具，并在第 7 章用于求期望；第 8 章强大数律的证明假设四阶矩有限，中心极限定理证明借助 Lévy 连续性定理。每章习题分三类：Problems（习题）、Theoretical Exercises（理论练习）、Self-Test Problems and Exercises（自测题，书末有完整解答）。第 9 版新增例如第 3 章例 3h（估计同卵双胞胎比例）、例 4k（发球-回合比赛分析）。其余为致谢与审稿人名单。
p.13：空白页。

第 1 章组合分析（Combinatorial Analysis）（PDF p.14–33）

1.1 引言（PDF p.14）

引例：$n$ 根外观相同的天线排成一列，只要没有两根相邻的天线都失效，系统就"可用（functional）"。若恰有 $m$ 根失效，系统可用的概率是多少？以 $n=4, m=2$ 为例，共 6 种配置（1 表示正常，0 表示失效）：0110、0101、1010、0011、1001、1100，其中前 3 种可用，因此概率取 $3/6=1/2$。一般情形下，思路是"可用配置数 ÷ 全部配置数"，因此需要一套有效的计数方法。计数的数学理论称为组合分析（combinatorial analysis）。

1.2 基本计数原理（PDF p.15–16）

基本计数原理（basic principle of counting）：两个试验，试验 1 有 $m$ 种可能结果，且对试验 1 的每种结果，试验 2 都有 $n$ 种可能结果，则两试验共有 $mn$ 种结果。证明：把所有结果列成 $(i,j)$ 的 $m$ 行 $n$ 列矩阵即可。

广义基本计数原理：$r$ 个试验，第一个有 $n_1$ 种结果，对前面每种结果组合，第 $k$ 个有 $n_k$ 种结果，则共有 $n_1 n_2\cdots n_r$ 种结果。注意关键在"对每个前序结果，后续结果数相同"，并不要求后续结果集合本身相同。

例题：

例 2a：10 位母亲各有 3 个孩子，选"年度母子"：$10\times 3=30$。
例 2b：委员会有 3 名大一、4 名大二、5 名大三、2 名大四，每年级选 1 人组成 4 人小组：$3\cdot4\cdot5\cdot2=120$。
例 2c：7 位车牌，前 3 位字母、后 4 位数字：$26^3\cdot10^4=175{,}760{,}000$。
例 2d：定义在 $n$ 个点上、取值为 0 或 1 的函数个数：$2^n$。
例 2e：例 2c 中不允许重复：$26\cdot25\cdot24\cdot10\cdot9\cdot8\cdot7=78{,}624{,}000$。

1.3 排列（Permutations）（PDF p.16–18）

$a,b,c$ 三个字母的有序排列共 6 种，每一种称为一个排列（permutation）。由基本原理，$n$ 个不同对象的排列数为

n(n-1)(n-2)\cdots 2\cdot 1 = n!

读作"$n$ 的阶乘（factorial）"，并约定 $0!=1$。

例题：

例 3a：9 人棒球队的击球顺序：$9!=362{,}880$。
例 3b：6 男 4 女按成绩排名（无并列）。(a) 总排名 $10!=3{,}628{,}800$；(b) 男女各自内部排名：$6!\,4!=720\cdot24=17{,}280$。
例 3c：10 本书（4 数学、3 化学、2 历史、1 语言），同科目必须相邻：先排科目顺序 $4!$，再各科内部排 $4!3!2!1!$，答案 $4!\,4!\,3!\,2!\,1!=6912$。

含相同元素的排列。例 3d：PEPPER 的不同字母排列。先把 3 个 P、2 个 E 标号区分，共 $6!$ 种；每个"无标号"排列对应 $3!\,2!$ 个有标号排列，所以答案 $6!/(3!\,2!)=60$。一般地，$n$ 个对象中有 $n_1$ 个相同、$n_2$ 个相同、…、$n_r$ 个相同，不同排列数为

\frac{n!}{n_1!\,n_2!\cdots n_r!}

例 3e：10 名棋手（4 俄、3 美、2 英、1 巴西），名次表只列国籍：$10!/(4!3!2!1!)=12{,}600$。
例 3f：4 白 3 红 2 蓝共 9 面旗挂成一列（同色相同）：$9!/(4!3!2!)=1260$。

方法要点："先标号区分、再除以重复计数的倍数"，是组合计数中最常用的技巧。

1.4 组合（Combinations）（PDF p.18–22）

从 5 个对象 A–E 中选 3 个组成一组：考虑顺序时有 $5\cdot4\cdot3$ 种，每一组被计 $3!=6$ 次，故组数为 $\frac{5\cdot4\cdot3}{3\cdot2\cdot1}=10$。一般地，从 $n$ 个中取 $r$ 个、不计顺序的组数为

\binom{n}{r}=\frac{n(n-1)\cdots(n-r+1)}{r!}=\frac{n!}{(n-r)!\,r!},\quad r\le n

读作"$n$ 选 $r$（n choose r）"，即大小为 $n$ 的集合中大小为 $r$ 的子集个数。约定 $\binom{n}{0}=\binom{n}{n}=1$（空集和全集各一个），且当 $r<0$ 或 $r>n$ 时 $\binom{n}{r}=0$。

例题：

例 4a：20 人中选 3 人委员会：$\binom{20}{3}=1140$。
例 4b：5 女 7 男，选 2 女 3 男：$\binom52\binom73=10\cdot35=350$。若 2 名男子不肯同时入选：含这两人的 3 男组有 $\binom22\binom51=5$ 个，可行男组 $35-5=30$，答案 $30\cdot10=300$。
例 4c（回到引例）：$n$ 根天线中 $m$ 根失效，失效之间、正常之间不可区分，求无两根失效相邻的排列数。先把 $n-m$ 根正常天线排好，形成 $n-m+1$ 个空位（含两端），每个空位至多放一根失效天线，于是从中选 $m$ 个：$\binom{n-m+1}{m}$。

Pascal 恒等式：

\binom{n}{r}=\binom{n-1}{r-1}+\binom{n-1}{r},\quad 1\le r\le n \tag{4.1}

组合证明：固定某一个对象"1"，含它的 $r$ 元组有 $\binom{n-1}{r-1}$ 个，不含它的有 $\binom{n-1}{r}$ 个。

$\binom{n}{r}$ 也称为二项式系数（binomial coefficients），源于二项式定理（binomial theorem）：

(x+y)^n=\sum_{k=0}^{n}\binom{n}{k}x^k y^{n-k} \tag{4.2}

两个证明：

归纳法：$n=1$ 显然。假设对 $n-1$ 成立，$(x+y)^n=(x+y)\sum_{k=0}^{n-1}\binom{n-1}{k}x^ky^{n-1-k}$，展开为两个和式，第一个令 $i=k+1$、第二个令 $i=k$，合并同类项得 $x^n+\sum_{i=1}^{n-1}\left[\binom{n-1}{i-1}+\binom{n-1}{i}\right]x^iy^{n-i}+y^n$，再用 (4.1) 即得。
组合证明：$(x_1+y_1)(x_2+y_2)\cdots(x_n+y_n)$ 展开有 $2^n$ 项，每项对每个 $i$ 取 $x_i$ 或 $y_i$。含 $k$ 个 $x$ 因子的项对应从 $n$ 个下标中选 $k$ 个，共 $\binom nk$ 项；令所有 $x_i=x, y_i=y$ 即得。

例 4d：$(x+y)^3=y^3+3xy^2+3x^2y+x^3$。
例 4e：$n$ 元集合的子集个数：$\sum_{k=0}^n\binom nk=(1+1)^n=2^n$。另一种看法：给每个元素赋值 0/1，赋 1 的元素构成子集，一一对应。非空子集有 $2^n-1$ 个。

1.5 多项式系数（Multinomial Coefficients）（PDF p.22–25）

问题：把 $n$ 个不同物品分成 $r$ 个有区别的组，大小分别为 $n_1,\dots,n_r$（$\sum n_i=n$），有多少种分法？逐组选取：

\binom{n}{n_1}\binom{n-n_1}{n_2}\cdots\binom{n-n_1-\cdots-n_{r-1}}{n_r}=\frac{n!}{n_1!\,n_2!\cdots n_r!}

（中间各阶乘逐项相消。）另一种看法：取由 $n_1$ 个 1、$n_2$ 个 2、…、$n_r$ 个 $r$ 组成的序列，排列 $i_1,\dots,i_n$ 表示把物品 $j$ 分到第 $i_j$ 组。例如 $n=8$，$(n_1,n_2,n_3)=(4,3,1)$，排列 1,1,2,3,2,1,2,1 表示物品 1,2,6,8 入第 1 组，3,5,7 入第 2 组，4 入第 3 组。分法与"含相同元素的排列"一一对应。

记号：若 $n_1+\cdots+n_r=n$，定义多项式系数（multinomial coefficient）

\binom{n}{n_1,n_2,\dots,n_r}=\frac{n!}{n_1!\,n_2!\cdots n_r!}

例题：

例 5a：10 名警察分为巡逻 5、站内值班 2、后备 3：$\frac{10!}{5!2!3!}=2520$。
例 5b：10 个孩子分成 A 队、B 队各 5 人（两队有区别）：$\frac{10!}{5!5!}=252$。
例 5c：10 个孩子自行分成两队各 5 人打篮球（两队无区别）：$\frac{10!/(5!5!)}{2!}=126$。常见误区：组无标签时要再除以组的排列数（大小相同的组之间）。

多项式定理（multinomial theorem）（证明留作理论练习 19）：

(x_1+\cdots+x_r)^n=\sum_{\substack{(n_1,\dots,n_r):\\ n_1+\cdots+n_r=n}}\binom{n}{n_1,\dots,n_r}x_1^{n_1}x_2^{n_2}\cdots x_r^{n_r}

求和遍历所有和为 $n$ 的非负整数向量。

例 5d（淘汰赛）：$n=2^m$ 名选手的单败淘汰赛，以 8 人为例。(a) 第一轮可能结果数：分成有序的 4 对有 $\binom{8}{2,2,2,2}=8!/2^4$ 种，对无序时再除以 $4!$；每对有 2 种胜者，故第一轮结果为 $\frac{8!\,2^4}{2^4\,4!}=\frac{8!}{4!}$。另一种算法：选 4 名胜者 $\binom84$，再把 4 个胜者与 4 个负者配对 $4!$，得 $4!\binom84=8!/4!$。(b) 整个比赛结果数：第二轮 $4!/2!$，第三轮 $2!/1!$，总数 $\frac{8!}{4!}\cdot\frac{4!}{2!}\cdot\frac{2!}{1!}=8!$。一般地，$n=2^m$ 人淘汰赛有 $n!$ 种完整结果。直接论证：冠军排名 1，决赛负者 2；倒数第二轮输给 1 号的排 3、输给 2 号的排 4；再往前输给 1,2,3,4 号的分别排 5,6,7,8……（简洁表述：在有 $2^k$ 场比赛的轮次中输掉的选手，其排名 = $2^k$ + 击败他的选手的排名，$k=0,\dots,m-1$）。这样比赛结果与 $1,\dots,n$ 的排列一一对应。
例 5e：$(x_1+x_2+x_3)^2=x_1^2+x_2^2+x_3^2+2x_1x_2+2x_1x_3+2x_2x_3$，系数分别是 $\binom{2}{2,0,0}=1$、$\binom{2}{1,1,0}=2$ 等。

*1.6 方程的整数解个数（PDF p.25–27）（选读）

引例：湖中有 4 种鱼，共钓 10 条，按各类条数记录结果，结果数等于满足 $x_1+x_2+x_3+x_4=10$ 的非负整数向量个数。一般问题：

x_1+x_2+\cdots+x_r=n \tag{6.1}

正整数解（"隔板法"/stars and bars）：把 $n$ 个 0 排成一行，相邻 0 之间有 $n-1$ 个空隙，从中选 $r-1$ 个放隔板，第 $i$ 段 0 的个数即 $x_i$。例如 $n=8,r=3$，选法 0 . 0 0 0 0 . 0 0 0 对应 $(1,4,3)$。

命题 6.1：满足 (6.1) 且 $x_i>0$ 的整数向量共有 $\binom{n-1}{r-1}$ 个。

命题 6.2：满足 (6.1) 且 $x_i\ge0$ 的整数向量共有 $\binom{n+r-1}{r-1}$ 个。证明：令 $y_i=x_i+1$，化为 $y_1+\cdots+y_r=n+r$ 的正整数解。

于是钓鱼问题答案为 $\binom{13}{3}=286$。

例题：

例 6a：$x_1+x_2=3$ 的非负整数解：$\binom{4}{1}=4$ 个：$(0,3),(1,2),(2,1),(3,0)$。
例 6b（投资分配）：2 万美元以 1000 美元为单位投资于 4 个项目。若全部投出：$x_1+\dots+x_4=20$，$\binom{23}{3}=1771$ 种策略；若不必全部投出，引入保留额 $x_5$：$x_1+\dots+x_5=20$，$\binom{24}{4}=10{,}626$ 种。
例 6c：$(x_1+\cdots+x_r)^n$ 展开的项数 $=\binom{n+r-1}{r-1}$。
例 6d：重解例 4c。把 $m$ 个失效品排好，记 $x_1$ 为第一个失效品左侧的正常品数，$x_i$ 为第 $i-1$ 与第 $i$ 个失效品之间的数目，$x_{m+1}$ 为最右侧数目。条件：$x_1+\cdots+x_{m+1}=n-m$，$x_1,x_{m+1}\ge0$，$x_i>0\ (i=2..m)$。令 $y_1=x_1+1, y_{m+1}=x_{m+1}+1$，化为 $\sum y_i=n-m+2$ 的正整数解，个数 $\binom{n-m+1}{m}$，与例 4c 一致。若要求每对失效品之间至少隔 2 个正常品：$x_i\ge2$，令 $y_i=x_i-1$，化为 $\sum y_i=n-2m+3$ 的正解，个数 $\binom{n-2m+2}{m}$。

技巧：通过平移变量把"下界约束"统一转化为正整数解问题。

第 1 章小结（PDF p.28）

基本计数原理；$n!$ 个线性排列，$0!=1$；$\binom ni=\frac{n!}{(n-i)!i!}$（$0\le i\le n$，否则为 0）是大小为 $i$ 的子组个数，即二项式定理中的系数；多项式系数 $\binom{n}{n_1,\dots,n_r}$ 是把 $n$ 件物品分为大小 $n_1,\dots,n_r$ 的 $r$ 个有区别、互不重叠子组的方法数。

第 1 章习题概述（PDF p.28–33）

Problems 1–34：车牌/区号/骰子序列计数（1–6）；排座问题，含"必须相邻""不能相邻""男女交替""夫妻相邻"（7、10、30）；含重复字母排列，如 Mississippi（8、9）；书架分类排列（11）；奖项分配（有/无重复，12、17）；握手数、扑克牌手数 $\binom{52}{5}$（13、14）；舞伴配对（15）；含约束的委员会（16、18、19、20）；格点路径数（21、22，需走 4 右 3 上，即 $\binom73$）；双胞胎分房（23）；二项/多项式展开（24、26）；桥牌发牌数 $\frac{52!}{(13!)^4}$（25）；分组（27、28、29）；带*号的 31–34 为隔板法问题，包括带最低投资额的投资分配（33）和指定某类鱼数量的钓鱼问题（34）。
Theoretical Exercises 1–23：证明广义计数原理；不等分支计数 $\sum n_i$；有序选取数 $n!/(n-r)!$；黑白球排列的组合解释；$\sum x_i\ge k$ 的 0/1 向量个数；严格递增向量个数 $\binom nk$；(4.1) 的解析证明；Vandermonde 恒等式 $\binom{n+m}{r}=\sum_{i}\binom ni\binom{m}{r-i}$（8）及推论 $\binom{2n}{n}=\sum_k\binom nk^2$（9）；"选委员会并指定主席"的三种计数得 $k\binom nk=(n-k+1)\binom{n}{k-1}=n\binom{n-1}{k-1}$（10）；Fermat 组合恒等式 $\binom nk=\sum_{i=k}^n\binom{i-1}{k-1}$（11）；$\sum_k k\binom nk=n2^{n-1}$、$\sum_k k^2\binom nk=2^{n-2}n(n+1)$、$\sum_k k^3\binom nk=2^{n-3}n^2(n+3)$（12）；$\sum_i(-1)^i\binom ni=0$（13）；$\sum_{j}\binom nj\binom ji=\binom ni2^{n-i}$ 及交错和为 0（14）；非降向量个数 $H_k(n)$ 的递推（15）；允许并列的排名数 $N(n)=\sum_{i=1}^n\binom niN(n-i)$（16，即 Fubini 数）；多项式系数的 Pascal 型递推（18）；证明多项式定理（19）；每个盒子至少 $m_i$ 个球的放法（20）；恰有 $k$ 个零的解数 $\binom rk\binom{n-1}{n-r+k}$（21）；$n$ 元函数 $r$ 阶偏导数个数（22）；$\sum x_i\le k$ 的非负整数解数（23）。
Self-Test 1–20：字母排列中的相对次序约束（"A 在 B 前"占一半，1）；同国籍相邻（2）；职位选择的各种限制（3）；考试选题（4）；礼物分配 $\binom{7}{3,2,2}$（5）；字母数字位置不限的车牌（6）；$\binom nr=\binom n{n-r}$ 的组合解释（7）；相邻数字不同的 $n$ 位数 $10\cdot9^{n-1}$ 等（8）；三个班选 3 人，按班级分布分类得恒等式（9）；每个数字至多出现两次（10）；不含夫妻的 6 人组（11）；至少 3 女 2 男的委员会（12）；拍卖画作的多重隔板计数（13）；正整数解 $\sum x_i\le k$（14）；通过名单可能结果数 $\sum_{i}n!/(n-i)!$（15）；容斥/补集计数（16）；$\binom n2=\binom k2+k(n-k)+\binom{n-k}2$（17）；家庭亲子选择（18）；不重复车牌（19）；$\sum\frac{n!}{x_1!\cdots x_r!}=r^n$（20）。

第 1 章本章要点

一切计数的基础是乘法原理：分步计数时，只要每一步的选项数不依赖前面的具体选择即可相乘。
排列 $n!$、含相同元素的排列 $n!/\prod n_i!$、组合 $\binom nr$、多项式系数 $\binom{n}{n_1,\dots,n_r}$ 是同一思想的不同表现：先按"可区分、有顺序"计数，再除以重复计数的倍数。
Pascal 恒等式、二项式定理、多项式定理都可以用"对某个特殊元素分情况"或"双重计数（double counting）"的组合论证得到，组合证明往往比代数证明更直观。
分组时要区分组是否有标签（例 5b 与 5c 的差别）。
隔板法：$\sum x_i=n$ 的正整数解 $\binom{n-1}{r-1}$，非负整数解 $\binom{n+r-1}{r-1}$；有下界约束时平移变量。

第 1 章与量化交易的关联

本章是纯计数工具，与量化交易没有直接的模型对应，主要作用是为后续概率计算打基础。能具体用到的地方有：(1) 回测与研究中的多重检验规模估计，例如从 $N$ 个因子里选 $k$ 个组合有 $\binom Nk$ 种方案，参数网格的规模由乘法原理决定，这直接决定了数据挖掘偏差（data snooping）的严重程度，是理解"为什么要做多重检验校正"的数量基础；(2) 例 6b 的离散化资产配置：以固定最小单位把资金分配到 $r$ 个标的，候选组合数为 $\binom{n+r-1}{r-1}$，可用来判断枚举搜索在组合优化中是否可行；(3) 二项式系数是二项分布和二叉树期权定价（binomial tree）中路径计数的来源，$n$ 步中上涨 $k$ 次的路径数为 $\binom nk$；(4) 格点路径计数（习题 21、22）对应二叉树中到达某节点的路径数。

第 1 章推荐习题

Problems 7、10（排座的相邻/不相邻约束，训练"捆绑法"和"插空法"）；21、22（格点路径，二叉树路径计数的原型）；25（桥牌发牌，多项式系数）；31–34（隔板法及带下界约束）。
Theoretical Exercises 8、9（Vandermonde 恒等式，后续超几何分布要用）；10、12（双重计数技巧）；11（Fermat 恒等式）；13（交错和，容斥原理的前置）；16（允许并列的排名数递推）。
Self-Test 1（相对次序的对称性论证）、9、17（分类计数得恒等式）、20（多项式系数之和 $r^n$）。

第 2 章概率公理（Axioms of Probability）（PDF p.34–68）

2.1 引言（PDF p.34）

本章引入事件的概率概念，并说明在一些情形下如何计算概率。先要讨论试验的样本空间和事件。

2.2 样本空间与事件（PDF p.34–38）

样本空间（sample space） $S$：结果无法事先确定、但所有可能结果的集合已知的试验，其全部可能结果的集合。例子：

新生儿性别：$S=\{g,b\}$。
7 匹马（起跑位 1–7）的完赛顺序：$S$ 为 $(1,\dots,7)$ 的全部 $7!$ 个排列。
抛两枚硬币：$S=\{(H,H),(H,T),(T,H),(T,T)\}$。
掷两颗骰子：$S=\{(i,j):i,j=1,\dots,6\}$，共 36 点。
晶体管寿命（小时）：$S=\{x:0\le x<\infty\}$。

事件（event）：样本空间的任意子集 $E$。若试验结果属于 $E$，称 $E$ 发生。例如例 4 中 $E=\{(1,6),(2,5),(3,4),(4,3),(5,2),(6,1)\}$ 是"两骰之和为 7"；例 5 中 $E=\{x:0\le x\le5\}$ 是"寿命不超过 5 小时"。

事件运算：

并（union）$E\cup F$：在 $E$ 或 $F$ 中（或都在）的结果，即 $E$、$F$ 至少一个发生。
交（intersection）$EF$（也写 $E\cap F$）：同时在 $E$ 和 $F$ 中的结果。
空事件（null event）$\varnothing$：不含任何结果。若 $EF=\varnothing$，称 $E,F$ 互斥（mutually exclusive）。如"和为 7"与"和为 6"互斥。
可列并 $\bigcup_{n=1}^\infty E_n$：至少属于一个 $E_n$ 的结果；可列交 $\bigcap_{n=1}^\infty E_n$：属于所有 $E_n$ 的结果。
补（complement）$E^c$：$S$ 中不属于 $E$ 的结果；$S^c=\varnothing$。
包含 $E\subset F$：$E$ 的每个结果都在 $F$ 中，即 $E$ 发生蕴含 $F$ 发生；$E\subset F$ 且 $F\subset E$ 时 $E=F$。

Venn 图（Venn diagram）：用矩形表示 $S$，圆表示事件，阴影表示目标事件（图 2.1：$E\cup F$、$EF$、$E^c$；图 2.2：$E\subset F$）。

运算律：交换律 $E\cup F=F\cup E$，$EF=FE$；结合律 $(E\cup F)\cup G=E\cup(F\cup G)$，$(EF)G=E(FG)$；分配律 $(E\cup F)G=EG\cup FG$，$EF\cup G=(E\cup G)(F\cup G)$。证明方法：证明左边任一结果属于右边、反之亦然，或用 Venn 图（图 2.3）。

De Morgan 律（DeMorgan's laws）：

\Big(\bigcup_{i=1}^n E_i\Big)^c=\bigcap_{i=1}^n E_i^c,\qquad \Big(\bigcap_{i=1}^n E_i\Big)^c=\bigcup_{i=1}^n E_i^c

两事件情形：$(E\cup F)^c=E^cF^c$，$(EF)^c=E^c\cup F^c$。第一式证明：$x\in(\bigcup E_i)^c\iff x$ 不在任何 $E_i$ 中 $\iff x\in E_i^c\ \forall i$。第二式：对 $E_i^c$ 应用第一式，并用 $(E^c)^c=E$，再两边取补。

2.3 概率公理（PDF p.38–41）

相对频率定义及其缺陷：在相同条件下重复试验，$n(E)$ 为前 $n$ 次中 $E$ 发生的次数，定义 $P(E)=\lim_{n\to\infty}n(E)/n$。问题是：凭什么知道 $n(E)/n$ 一定收敛到一个常数，并且对每一列重复试验收敛到同一个值？把收敛本身当作公理过于复杂。现代公理化方法（axiomatic approach）反过来：先假设一组更简单、自明的公理，再证明极限频率在某种意义下存在（即第 8 章的强大数律）。

三条公理：对样本空间 $S$ 中的每个事件 $E$，存在数 $P(E)$ 满足

公理 1：$0\le P(E)\le 1$；
公理 2：$P(S)=1$；
公理 3（可列可加性，countable additivity）：对任意互斥事件序列 $E_1,E_2,\dots$（$i\ne j$ 时 $E_iE_j=\varnothing$）， $P\Big(\bigcup_{i=1}^\infty E_i\Big)=\sum_{i=1}^\infty P(E_i)$

推论：

$P(\varnothing)=0$。取 $E_1=S$，$E_i=\varnothing\ (i>1)$，由公理 3 得 $P(S)=P(S)+\sum_{i\ge2}P(\varnothing)$，故 $P(\varnothing)=0$。
有限可加性：互斥的 $E_1,\dots,E_n$ 有 $P(\bigcup_1^nE_i)=\sum_1^nP(E_i)$ (3.1)，令 $i>n$ 时 $E_i=\varnothing$ 即得。样本空间有限时公理 3 与 (3.1) 等价；样本空间无限时需要可列可加性的额外一般性。

例 3a：公平硬币 $P(\{H\})=P(\{T\})=1/2$；若认为正面是反面的两倍可能，则 $P(\{H\})=2/3, P(\{T\})=1/3$。例 3b：公平骰子每面 $1/6$，掷出偶数的概率 $P(\{2,4,6\})=1/2$。

满足公理 1–3 的集函数 $P$ 的存在性假设构成了概率论的现代数学框架。由这些公理可以证明：重复试验时，以概率 1，事件 $E$ 发生的比例等于 $P(E)$（强大数律，第 8 章）。

技术注记：当样本空间是不可数无穷集时，$P(E)$ 只对一类称为**可测（measurable）**的事件有定义；实际中关心的事件都是可测的，不必担心。

2.4 若干简单命题（PDF p.41–45）

命题 4.1：$P(E^c)=1-P(E)$。证明：$E$ 与 $E^c$ 互斥且并为 $S$。例：正面概率 $3/8$，则反面 $5/8$。

命题 4.2：若 $E\subset F$，则 $P(E)\le P(F)$。证明：$F=E\cup E^cF$（互斥），$P(F)=P(E)+P(E^cF)\ge P(E)$。例：掷出 1 的概率不超过掷出奇数的概率。

命题 4.3：$P(E\cup F)=P(E)+P(F)-P(EF)$。证明：$E\cup F=E\cup E^cF$（互斥），而 $F=EF\cup E^cF$ 推出 $P(E^cF)=P(F)-P(EF)$。另一证法：Venn 图把 $E\cup F$ 分成互斥的 I$=EF^c$、II$=EF$、III$=E^cF$ 三块，$P(E)+P(F)$ 把 II 计了两次。

例 4a：J 喜欢第一本书的概率 .5，第二本 .4，两本都喜欢 .3。至少喜欢一本：$.5+.4-.3=.6$；都不喜欢：$1-.6=.4$。

三事件并：利用命题 4.3 和分配律 $(E\cup F)G=EG\cup FG$，以及 $EG\cdot FG=EFG$：

P(E\cup F\cup G)=P(E)+P(F)+P(G)-P(EF)-P(EG)-P(FG)+P(EFG)

命题 4.4（容斥恒等式，inclusion–exclusion identity）：

P(E_1\cup\cdots\cup E_n)=\sum_{i}P(E_i)-\sum_{i_1<i_2}P(E_{i_1}E_{i_2})+\cdots+(-1)^{r+1}\sum_{i_1<\cdots<i_r}P(E_{i_1}\cdots E_{i_r})+\cdots+(-1)^{n+1}P(E_1\cdots E_n)

其中 $\sum_{i_1<\cdots<i_r}$ 遍历 $\{1,\dots,n\}$ 的全部 $\binom nr$ 个 $r$ 元子集。简洁写法：$P(\bigcup_{i=1}^nE_i)=\sum_{r=1}^n(-1)^{r+1}\sum_{i_1<\cdots<i_r}P(E_{i_1}\cdots E_{i_r})$。可用归纳法证明（理论练习 14）。

注 1（非归纳证明）：不属于任何 $E_i$ 的结果对两边都无贡献。若某结果恰属于 $m>0$ 个 $E_i$，它在左边计 1 次，在右边计 $\binom m1-\binom m2+\cdots\pm\binom mm$ 次。需证二者相等，即 $\sum_{i=0}^m\binom mi(-1)^i=0$，这由二项式定理 $0=(-1+1)^m$ 得到。

注 3（Bonferroni 型交替上下界）：容斥展开截断到奇数项给出上界，截断到偶数项给出下界：

P\Big(\bigcup E_i\Big)\le\sum_iP(E_i)\quad(4.1)

P\Big(\bigcup E_i\Big)\ge\sum_iP(E_i)-\sum_{j<i}P(E_iE_j)\quad(4.2)

P\Big(\bigcup E_i\Big)\le\sum_iP(E_i)-\sum_{j<i}P(E_iE_j)+\sum_{k<j<i}P(E_iE_jE_k)\quad(4.3)

证明思路：把并写成互斥分解 $\bigcup_{i=1}^nE_i=E_1\cup E_1^cE_2\cup E_1^cE_2^cE_3\cup\cdots\cup E_1^c\cdots E_{n-1}^cE_n$，得 $P(\bigcup E_i)=P(E_1)+\sum_{i=2}^nP(E_1^c\cdots E_{i-1}^cE_i)$ (4.4)。令 $B_i=E_1^c\cdots E_{i-1}^c=(\bigcup_{j<i}E_j)^c$，由 $P(E_i)=P(B_iE_i)+P(B_i^cE_i)$ 得 $P(E_1^c\cdots E_{i-1}^cE_i)=P(E_i)-P(\bigcup_{j<i}E_iE_j)$，代入得

P\Big(\bigcup_{i=1}^nE_i\Big)=\sum_iP(E_i)-\sum_iP\Big(\bigcup_{j<i}E_iE_j\Big)\quad(4.5)

概率非负直接给出 (4.1)；对 $P(\bigcup_{j<i}E_iE_j)$ 应用 (4.1) 得 (4.2)；应用 (4.2) 得 (4.3)；依此类推。(4.1) 即 Boole 不等式（union bound）。

2.5 等可能结果的样本空间（PDF p.45–55）

若 $S=\{1,\dots,N\}$ 有限，且各结果等可能，则由公理 2、3 得 $P(\{i\})=1/N$，进而

P(E)=\frac{E\text{ 中结果数}}{S\text{ 中结果数}}

例 5a：两骰之和为 7 的概率 $6/36=1/6$。

例 5b：碗中 6 白 5 黑，随机取 3 个，恰 1 白 2 黑的概率。有序看法：样本空间 $11\cdot10\cdot9=990$；白黑黑、黑白黑、黑黑白各 $6\cdot5\cdot4=120$ 种，概率 $360/990=4/11$。无序看法：$\binom{11}{3}=165$ 个等可能子集，$\binom61\binom52/\binom{11}3=4/11$。要点：每个无序集合对应 $3!$ 个有序结果，因此有序结果等可能蕴含无序结果等可能；两种建模任选，但分子分母必须一致。

补充例（20 人 = 10 对夫妻，随机选 5 人，求互不为夫妻的概率 $P(N)$）：无序：$P(N)=\binom{10}{5}2^5/\binom{20}5$（先选 5 对夫妻，再每对选一人）。有序：$P(N)=\frac{20\cdot18\cdot16\cdot14\cdot12}{20\cdot19\cdot18\cdot17\cdot16}$。两者相等。

例 5c：6 男 9 女中随机选 5 人委员会，恰 3 男 2 女：$\binom63\binom92/\binom{15}5=240/1001$。

例 5d：瓮中 $n$ 个球，一个特殊，逐个无放回取 $k$ 个，特殊球被取到的概率。方法一：取出的 $k$ 球集合在 $\binom nk$ 个子集中等可能，$\binom11\binom{n-1}{k-1}/\binom nk=k/n$。方法二：令 $A_i$ 为特殊球是第 $i$ 个被取出，对称性得 $P(A_i)=1/n$，互斥相加得 $k/n$。$P(A_i)=1/n$ 也可直接计数：$\frac{(n-1)!/(n-k)!}{n!/(n-k)!}=1/n$。要点：对称性论证——"第 $i$ 次取到某特定球"的概率与 $i$ 无关。

例 5e：$n$ 红 $m$ 蓝球随机排成一列（$(n+m)!$ 种等可能），只记颜色序列，则每种颜色序列仍等可能，概率均为 $\frac{n!\,m!}{(n+m)!}$。如 2 红 2 蓝时，每种颜色序列对应 $2!2!=4$ 种排列，概率 $4/24=1/6$。

例 5f（顺子）：5 张牌点数连续且不全同花称为顺子（straight）。A,2,3,4,5 型有 $4^5$ 种花色组合，减去 4 种同花顺得 $4^5-4$；共 10 种起点（A-5 到 10-A），概率 $\frac{10(4^5-4)}{\binom{52}5}\approx.0039$。

例 5g（葫芦）：三条加一对。$P=\frac{13\cdot12\cdot\binom42\binom43}{\binom{52}5}\approx.0014$。

例 5h（桥牌）：(a) 某人拿到全部 13 张黑桃：$E_i$ 互斥，$P=4/\binom{52}{13}\approx6.3\times10^{-12}$。(b) 每人恰 1 张 A：$\frac{4!\binom{48}{12,12,12,12}}{\binom{52}{13,13,13,13}}\approx.1055$。

例 5i（生日问题，birthday problem）：$n$ 人生日互不相同的概率（忽略 2 月 29 日、各日等可能）为

\frac{365\cdot364\cdots(365-n+1)}{365^n}

当 $n\ge23$ 时此概率小于 $1/2$，即 23 人中至少两人同生日的概率超过一半。直观解释：每一对同生日的概率为 $1/365$，而 23 人有 $\binom{23}{2}=253$ 对。50 人时至少两人同日的概率约 .970；100 人时超过 $\frac{3\times10^6}{3\times10^6+1}$。

例 5j：洗好的 52 张牌逐张翻开，直到第一张 A 出现，下一张是黑桃 A 更可能还是梅花 2 更可能？答：同样可能，都是 $1/52$。论证：先排好除黑桃 A 外的 51 张（$51!$ 种），黑桃 A 插入后紧跟第一张 A 的插入位置只有 1 个，故概率 $51!/52!=1/52$；同理任意指定的牌都是 $1/52$。常见错误直觉：黑桃 A 有 1/4 的可能本身就是第一张 A，而梅花 2 只有 1/5 的可能出现在第一张 A 之前，看似梅花 2 更有利，其实不然。

例 5k（室友配对）：20 名进攻球员和 20 名防守球员随机两两配成 20 对。分成有序的 20 对有 $\frac{40!}{(2!)^{20}}$ 种，无序配对数 $\frac{40!}{2^{20}20!}$。没有攻防混合对：攻、防各自内部配对，$[\frac{20!}{2^{10}10!}]^2$ 种，$P_0=\frac{(20!)^3}{(10!)^2\,40!}$。恰有 $2i$ 个攻防对（混合对数必为偶数）：选 $2i$ 名进攻、$2i$ 名防守 $\binom{20}{2i}^2$，配成混合对 $(2i)!$，其余各自内部配对 $[\frac{(20-2i)!}{2^{10-i}(10-i)!}]^2$，

P_{2i}=\frac{\binom{20}{2i}^2(2i)!\left[\frac{(20-2i)!}{2^{10-i}(10-i)!}\right]^2}{\frac{40!}{2^{20}20!}},\quad i=0,\dots,10

借助 Stirling 公式 $n!\approx n^{n+1/2}e^{-n}\sqrt{2\pi}$ 可近似：$P_0\approx1.3403\times10^{-6}$，$P_{10}\approx.345861$，$P_{20}\approx7.6068\times10^{-6}$。

例 5l（用概率解计数题）：俱乐部中 36 人打网球、28 人壁球、18 人羽毛球，网壁 22、网羽 12、壁羽 9、三项都打 4。随机选一人，$P(C)=|C|/N$，由容斥 $P(T\cup S\cup B)=(36+28+18-22-12-9+4)/N=43/N$，故 43 人至少打一项。

例 5m（配对问题，matching problem）：$N$ 人把帽子扔到房间中央，混合后每人随机拿一顶，没有人拿到自己帽子的概率。令 $E_i$ 为第 $i$ 人拿到自己的帽子。结果视为 $1..N$ 的排列，共 $N!$ 种；指定 $n$ 人都拿对的方式有 $(N-n)!$ 种，故 $P(E_{i_1}\cdots E_{i_n})=(N-n)!/N!$，而 $\sum_{i_1<\cdots<i_n}$ 有 $\binom Nn$ 项，和为 $1/n!$。于是

P\Big(\bigcup E_i\Big)=1-\frac1{2!}+\frac1{3!}-\cdots+(-1)^{N+1}\frac1{N!}

无人配对的概率为 $\sum_{i=0}^N(-1)^i/i!$，$N$ 大时趋于 $e^{-1}\approx.3679$。误区：很多人以为 $N\to\infty$ 时这个概率趋于 1。

例 5n：10 对夫妻随机围圆桌就座，无夫妻相邻的概率。20 人围圆桌有 $19!$ 种排法（圆排列，固定一人位置）。指定 $n$ 对相邻：每对捆绑为一个整体，$20-n$ 个单位围圆桌 $(19-n)!$ 种，每对内部 2 种，故 $P(E_{i_1}\cdots E_{i_n})=2^n(19-n)!/19!$。至少一对相邻的概率

\binom{10}{1}2^1\frac{18!}{19!}-\binom{10}{2}2^2\frac{17!}{19!}+\cdots-\binom{10}{10}2^{10}\frac{9!}{19!}\approx.6605

所求概率约 .3395。

*例 5o（游程，runs）：球队赛季 $n$ 胜 $m$ 负，想判断是否有某段时期更容易赢。设所有 $\binom{n+m}n$ 个胜负序列等可能，求恰有 $r$ 个胜利游程（连续的 W 段）的概率。例如 $n=10,m=6$，WWLLWWWLWLLLWWWW 有 4 个胜利游程，长度为 2,3,1,4。给定胜利游程长度 $x_1+\cdots+x_r=n$（$x_i>0$），令 $y_1$ 为第一段胜利前的负场数，$y_i$ 为相邻胜利段之间的负场数，$y_{r+1}$ 为最后的负场数：$y_1+\cdots+y_{r+1}=m$，$y_1,y_{r+1}\ge0$，中间 $y_i>0$。平移 $\bar y_1=y_1+1,\bar y_{r+1}=y_{r+1}+1$ 化为 $\sum\bar y_i=m+2$ 的正整数解，个数 $\binom{m+1}{r}$；胜利游程长度的正整数解有 $\binom{n-1}{r-1}$ 个。故

P(\{r\text{ 个胜利游程}\})=\frac{\binom{m+1}{r}\binom{n-1}{r-1}}{\binom{m+n}{n}},\quad r\ge1

例：$n=8,m=6$，7 个游程（如 WLWLWLWLWWLWLW）的概率 $\binom77\binom76/\binom{14}8=1/429$；1 个游程（WWWWWWWWLLLLLL）的概率 $\binom71\binom70/\binom{14}8=1/429$。两种极端都很不可能，提示胜率不是常数（前者像"输后易赢、赢后易输"，后者像状态持续）。这正是**游程检验（runs test）**的思想。

*2.6 概率是连续的集函数（PDF p.55–59）（选读）

定义：事件列 $\{E_n\}$ 若满足 $E_1\subset E_2\subset\cdots$ 称为递增列，定义 $\lim_nE_n=\bigcup_{i=1}^\infty E_i$；若 $E_1\supset E_2\supset\cdots$ 称为递减列，定义 $\lim_nE_n=\bigcap_{i=1}^\infty E_i$。

命题 6.1（概率的连续性）：若 $\{E_n\}$ 递增或递减，则

\lim_{n\to\infty}P(E_n)=P\big(\lim_{n\to\infty}E_n\big)

证明（递增情形）：令 $F_1=E_1$，$F_n=E_n\big(\bigcup_1^{n-1}E_i\big)^c=E_nE_{n-1}^c$（$n>1$），即 $E_n$ 中不在之前任何 $E_i$ 中的部分。$F_n$ 互斥，且 $\bigcup_1^\infty F_i=\bigcup_1^\infty E_i$，$\bigcup_1^nF_i=\bigcup_1^nE_i=E_n$。于是

P\Big(\bigcup_1^\infty E_i\Big)=\sum_1^\infty P(F_i)=\lim_n\sum_1^nP(F_i)=\lim_nP\Big(\bigcup_1^nF_i\Big)=\lim_nP(E_n)

递减情形：$\{E_n^c\}$ 递增，$P(\bigcup E_i^c)=\lim P(E_n^c)$，而 $\bigcup E_i^c=(\bigcap E_i)^c$，取补即得。

例 6a（概率与"悖论"）：无限大的瓮和编号 1,2,3,… 的无穷多个球。

方案一：12 点前 1 分钟放入 1–10 号并取出 10 号；前 1/2 分钟放入 11–20 号并取出 20 号；前 1/4 分钟放入 21–30 号取出 30 号……12 点时瓮中有无穷多个球（所有非 $10n$ 号的球）。
方案二：每次取出的分别是 1 号、2 号、3 号……则 12 点时瓮是空的：任一 $n$ 号球在 12 点前 $(1/2)^{n-1}$ 分钟被取出。每一步之后两方案的球数相同，但极限结果截然不同。这不是数学矛盾，而是对无穷的直觉不可靠（类比 Cantor 当年因"整数与偶数一样多"受嘲笑）。
方案三：每次从瓮中随机取出一个球。结论：以概率 1，12 点时瓮为空。证明：令 $E_n$ 为前 $n$ 次取出后 1 号球仍在瓮中， $P(E_n)=\frac{9\cdot18\cdot27\cdots(9n)}{10\cdot19\cdot28\cdots(9n+1)}$ （第 $k$ 次取球时瓮中有 $9k+1$ 个球，不取 1 号的取法 $9k$ 种。）$E_n$ 递减，由命题 6.1，$P\{1\text{ 号球 12 点仍在}\}=\prod_{n=1}^\infty\frac{9n}{9n+1}$。要证此乘积为 0，等价于 $\prod_{n=1}^\infty(1+\frac1{9n})=\infty$：对任意 $m$，$\prod_{n=1}^m(1+\frac1{9n})>\frac19\sum_{i=1}^m\frac1i$（展开乘积至少包含这些一次项），而调和级数发散。同理对任意 $i$，$P(F_i)=0$（例如 $i=11..20$ 时 $P(F_i)=\prod_{n=2}^\infty\frac{9n}{9n+1}$）。由 Boole 不等式 $P(\bigcup F_i)\le\sum P(F_i)=0$，瓮非空的概率为 0。

2.7 概率作为信念的度量（PDF p.59–60）

除了长期频率解释，概率还常用于"莎士比亚写了《哈姆雷特》的可能性 90%"这类陈述。最自然的解释是说话者对命题的信念程度（degree of belief），称为主观概率（personal / subjective probability）。合理的信念度量也应满足概率公理：若 70% 确信《尤利乌斯·恺撒》是莎士比亚写的，10% 确信是马洛写的，则应 80% 确信是二者之一。因此无论采用频率解释还是信念解释，概率的数学性质不变。

例 7a：7 匹马比赛，你认为 1、2 号各 20%，3、4 号各 15%，其余 3 匹各 10%。赔率 1:1 下，押"冠军在 1–3 号"的胜率 $.2+.2+.15=.55$，押"冠军是 1,5,6,7 号"的胜率 $.2+.1+.1+.1=.5$，故前者更有吸引力。

理想化的人与一致性：真实的人给出的主观概率可能不自洽。例如回答"今天下雨 30%、明天下雨 40%、两天都下雨 20%、至少一天下雨 60%"违反公理：$P(A\cup B)=P(A)+P(B)-P(AB)=.3+.4-.2=.5\ne.6$。可接受的一组是 30%、40%、10%、60%。

第 2 章小结（PDF p.60–61）

样本空间 $S$、事件、并、交、补、空集、互斥；三条公理；$P(A^c)=1-P(A)$；$P(A\cup B)=P(A)+P(B)-P(AB)$ 及其推广容斥恒等式；有限等可能样本空间中 $P(A)=|A|/|S|$；$P(A)$ 可解释为长期相对频率或信念程度。

第 2 章习题概述（PDF p.61–68）

Problems 1–56：描述样本空间与事件（1–7，如有放回/无放回抽球、掷骰至出现 6、三人轮流抛硬币、5 元件系统可靠性）；用加法公式、容斥求概率（8–14，信用卡、语言课、报纸读者；14 要求用容斥证明给出的调查数据自相矛盾，即 $P>1$）；扑克牌型概率：同花、一对、两对、三条、四条（15）；扑克骰子各牌型概率（16）；8 个车互不攻击（17）；21 点（18、20）；按家庭抽样与按孩子抽样的差别（21，规模偏差）；洗牌方式（22）；骰子和的分布（23、24）；"先出现 5 还是 7"、掷骰赌博 craps 的胜率（25、26，用可列可加性对 $n$ 求和）；轮流取球（27）；有放回与无放回抽样对比（28、29）；国际象棋配对（30）；捕获–再捕获估计（33，超几何概率）；Yarborough 牌（34）；多色球抽样（35）；选择考题（37）；袜子问题求 $n$（38）；酒店入住、修理工被叫（39、40）；"至少一个 6"与"至少一次双 6"（de Méré 问题，41、42）；排队/围圈相邻（43、44）；试钥匙开门（45，丢弃与不丢弃）；生日同月（46–48）；6 男 6 女分组（49）；桥牌缺门（54，需用容斥，不能直接 $4\binom{39}{13}/\binom{52}{13}$）；13 张牌中含某花色 A 和 K、含某点数四张（55）；非传递骰子/转盘（56，三个转盘 a:{9,5,1}、b:{3,8,4}、c:{7,6,2}，后选者总有优势）。
Theoretical Exercises 1–21：集合关系证明（1–4）；把任意事件列改造成互斥列且前 $n$ 项并相同（5，即 2.6 节证明中的构造）；用 $E,F,G$ 表示"只有 $E$""至少两个"等事件（6）；Venn 图化简与 De Morgan（7）；集合划分数 $T_n$（Bell 数）：$T_3=5,T_4=15$，递推 $T_{n+1}=1+\sum_{k=1}^n\binom nkT_k$（8）；相对频率 $f(E)=n(E)/n$ 满足三条公理（9）；三事件并的另一表达式（10）；Bonferroni 不等式 $P(EF)\ge P(E)+P(F)-1$ 及其 $n$ 事件推广 $P(E_1\cdots E_n)\ge\sum P(E_i)-(n-1)$（11、16）；恰一个发生的概率 $P(E)+P(F)-2P(EF)$（12）；$P(EF^c)=P(E)-P(EF)$（13）；归纳法证容斥（14）；超几何概率：$M$ 白 $N$ 黑中取 $r$ 个恰 $k$ 白（15）；错排数递推 $A_N=(N-1)(A_{N-1}+A_{N-2})$（17）；无连续正面的序列数 $f_n=f_{n-1}+f_{n-2}$（Fibonacci，18）；负超几何：取到第 $r$ 个红球时共取 $k$ 个的概率（19）；可列无穷样本空间不可能所有点等可能，但可以都取正概率（20）；总游程数（胜+负）的分布（21）。
Self-Test 1–20：套餐样本空间（1）；三件商品购买的容斥（2）；第 14 张是 A 与第一张 A 在第 14 张（3）；温度的最大值/最小值事件，利用 $P(\min=70)=P(A)+P(B)-P(\max=70)$ 类关系（4）；前四张点数各异/花色各异（5）；彩票 40 选 8 的中奖概率（7）；有限集合的容斥计数（9）；赛马事件计数（10）；5 张牌含全部四种花色（11）；篮球室友配对（12）；Boole 不等式 $P(\bigcup A_i)\le\sum P(A_i)$（14）；可列个概率 1 事件之交的概率为 1（15）；第二类 Stirling 数递推 $T_k(n)=kT_k(n-1)+T_{k-1}(n-1)$（16）；取球至少每色一个（17）；彩球排列（18）；10 张牌按花色分堆的形状概率（19）；20 红 10 蓝，所有红球先于所有蓝球被取完的概率（20，等价于最后一个球是蓝球，概率 $1/3$）。

第 2 章本章要点

概率是定义在事件上、满足非负性/规范性/可列可加性三条公理的集函数；频率解释和主观信念解释都与公理一致，大数律是定理而不是定义。
由公理推出补事件公式、单调性、加法公式、容斥恒等式；容斥截断给出交替的上下界，一阶截断即 Boole 不等式（union bound）。
等可能模型下概率化为计数，有序/无序两种建模都可以，但要前后一致；对称性论证（例 5d、5j）常能免去繁琐计数。
经典"反直觉"结果：生日问题（23 人过半）、配对问题（无人配对的概率趋于 $1/e$）、第一张 A 之后的牌。
概率对单调事件列连续（命题 6.1），这是处理无穷事件和极限问题的基本工具。

第 2 章与量化交易的关联

多重检验与 union bound（风险建模、回测）：同时检验 $n$ 个策略或因子时，"至少一个出现假阳性"的概率不超过 $\sum P(E_i)$，这就是 Bonferroni 校正的来源（Boole 不等式与 Bonferroni 不等式）。生日问题也提示：在大量候选中出现"惊人巧合"的概率远比直觉高，回测中的偶然显著因子同理。
容斥用于联合违约/联合触发：组合中多个头寸同时触发止损、多个债务人同时违约，可用 $P(E\cup F)=P(E)+P(F)-P(EF)$ 和容斥上下界给出不依赖完整联合分布的边界估计，常用于压力测试的保守估计。
游程检验（例 5o，因子研究/策略诊断）：检验收益符号序列、交易胜负序列是否随机（动量或反转、策略是否有"状态"）的经典非参数方法，正是用本章公式计算游程个数的分布。
主观概率与赔率（定价、交易决策）：例 7a 说明以赔率下注时应比较主观概率；主观概率必须满足公理，否则会被构造出必输的组合（荷兰赌，Dutch book），这是无套利定价思想的概率论根源——资产价格隐含的概率必须自洽。
一致性检查（数据质量）：习题 14 说明可以用容斥检查调查或数据报表是否自相矛盾，同样适用于检查数据库中分组统计是否一致。
例 6a 的连续性与无穷问题与交易实务没有直接关系，属于理论基础。

第 2 章推荐习题

Problems 14（用容斥发现数据矛盾）、15–16（牌型概率，训练计数建模）、25–26（craps，可列可加性求和，也是"先发生哪个"问题的原型）、41–42（de Méré 问题）、54（容斥求缺门）、56（非传递转盘，打破"传递性"直觉）。
Theoretical Exercises 8（Bell 数）、11 与 16（Bonferroni 不等式）、17（错排递推）、18（Fibonacci 计数）、19（负超几何）、20（可列无穷空间上不能均匀分布）。
Self-Test 4（最大/最小值事件的转换）、14（Boole 不等式）、20（对称性巧解）。

第 3 章条件概率与独立性（Conditional Probability and Independence）（PDF p.69–124）

3.1 引言（PDF p.69）

条件概率（conditional probability）的重要性有两方面：一是已知试验结果的部分信息时，所求概率本身就是条件概率；二是即使没有部分信息，借助条件概率（"条件化"，conditioning）也常常能更容易地算出所求概率。

3.2 条件概率（PDF p.69–75）

引例：掷两颗骰子，36 种结果等可能。已知第一颗是 3，求两颗之和为 8 的概率。在此信息下只剩 $(3,1),\dots,(3,6)$ 六个结果，仍应等可能，各为 $1/6$，其余 30 点条件概率为 0，故答案为 $1/6$。记 $E$=和为 8，$F$=第一颗为 3，此即 $P(E\mid F)$。

一般推导：已知 $F$ 发生，$E$ 要发生则结果必须属于 $EF$；$F$ 成为新的"缩小后的样本空间"，所以 $EF$ 的概率要相对 $F$ 的概率计算。

定义：若 $P(F)>0$，

P(E\mid F)=\frac{P(EF)}{P(F)}\tag{2.1}

例 2a：Joe 80% 确信钥匙在夹克的两个口袋之一，左右各 40%。搜左口袋没找到，钥匙在右口袋的条件概率：$P(R\mid L^c)=\frac{P(RL^c)}{P(L^c)}=\frac{P(R)}{1-P(L)}=\frac{.4}{.6}=2/3$。

缩小样本空间法：若有限样本空间各结果等可能，则在 $F$ 发生的条件下，$F$ 中各结果仍等可能，可直接把 $F$ 当作样本空间计算。

例 2b：抛两次硬币。(a) 已知第一次正面，两次都正面的概率 $\frac{1/4}{2/4}=1/2$；(b) 已知至少一次正面，两次都正面的概率 $\frac{1/4}{3/4}=1/3$。常见误区：认为"至少一次正面"下只有"两次正面"和"一次正面"两种等可能情形，实际上剩下的是 $(h,h),(h,t),(t,h)$ 三个等可能结果。

例 2c（桥牌）：南北两家共有 8 张黑桃，东家拿到剩余 5 张中 3 张的概率。在缩小样本空间中，东西两家共 26 张牌、其中 5 张黑桃等可能分配：$\binom53\binom{21}{10}/\binom{26}{13}\approx.339$。

乘法公式：由 (2.1)，

P(EF)=P(F)P(E\mid F)\tag{2.2}

例 2d：Celine 以掷硬币决定选法语课（得 A 的概率 1/2）还是化学课（2/3），她选化学且得 A 的概率 $P(CA)=P(C)P(A\mid C)=\frac12\cdot\frac23=\frac13$。

例 2e：瓮中 8 红 4 白，无放回取 2 个。(a) 等可能抽取时，两个都是红球：$P(R_1R_2)=P(R_1)P(R_2\mid R_1)=\frac{8}{12}\cdot\frac{7}{11}=\frac{14}{33}$，也等于 $\binom82/\binom{12}2$。(b) 红球重 $r$、白球重 $w$，被取中的概率与重量成正比：$P(R_1)=\frac{8r}{8r+4w}$，$P(R_2\mid R_1)=\frac{7r}{7r+4w}$，两个都是红球的概率为二者乘积。

乘法法则（multiplication rule）：

P(E_1E_2\cdots E_n)=P(E_1)P(E_2\mid E_1)P(E_3\mid E_1E_2)\cdots P(E_n\mid E_1\cdots E_{n-1})

证明：右边代入条件概率定义，逐项约分。

例 2f（配对问题续）：第 2 章已得无人配对的概率 $P_N=\sum_{i=0}^N(-1)^i/i!$。求恰有 $k$ 人配对的概率。固定一个 $k$ 人集合，$E$=这 $k$ 人都配对，$G$=其余 $N-k$ 人都不配对。由乘法法则 $P(E)=\frac1N\cdot\frac1{N-1}\cdots\frac1{N-k+1}=\frac{(N-k)!}{N!}$；给定 $E$，其余人在自己的 $N-k$ 顶帽子中随机选，$P(G\mid E)=P_{N-k}$。共有 $\binom Nk$ 个这样的集合，故

P(\text{恰 }k\text{ 个配对})=\frac{P_{N-k}}{k!}\approx\frac{e^{-1}}{k!}\quad(N\text{ 大})

（即参数为 1 的 Poisson 分布，第 4 章会再出现。）

例 2g：52 张牌随机分成 4 堆各 13 张，每堆恰一张 A 的概率（第 2 章例 5h(b) 的另一解法）。设 $E_1$=黑桃 A 在某一堆（必然事件），$E_2$=黑桃 A 与红心 A 在不同堆，$E_3$=黑桃、红心、方块 A 两两不同堆，$E_4$=四张 A 都在不同堆。黑桃 A 所在堆的另外 12 张是其余 51 张中的随机 12 张，故 $P(E_2\mid E_1)=1-\frac{12}{51}=\frac{39}{51}$；同理 $P(E_3\mid E_1E_2)=1-\frac{24}{50}=\frac{26}{50}$，$P(E_4\mid E_1E_2E_3)=1-\frac{36}{49}=\frac{13}{49}$。结果 $\frac{39\cdot26\cdot13}{51\cdot50\cdot49}\approx.105$。

注（频率解释的一致性）：重复 $n$ 次（$n$ 很大），$F$ 约发生 $nP(F)$ 次，$EF$ 约发生 $nP(EF)$ 次，于是在 $F$ 发生的那些试验中 $E$ 也发生的比例约为 $P(EF)/P(F)$，与定义 (2.1) 一致。

3.3 Bayes 公式（Bayes's Formula）（PDF p.75–88）

全概率公式（两事件形式）：由 $E=EF\cup EF^c$（互斥），

P(E)=P(E\mid F)P(F)+P(E\mid F^c)[1-P(F)]\tag{3.1}

即 $P(E)$ 是两个条件概率的加权平均，权重是所条件事件的概率。很多事件直接算概率很难，但知道另一事件是否发生后就容易算，这正是"条件化"技巧。

例 3a（保险，两部分）：人群分为易出事故者（30%）和非易出事故者，一年内出事故的概率分别为 .4 和 .2。(1) 新投保人一年内出事故的概率：$P(A_1)=(.4)(.3)+(.2)(.7)=.26$。(2) 已知出了事故，此人是易出事故者的概率：$P(A\mid A_1)=\frac{(.3)(.4)}{.26}=\frac{6}{13}$。

例 3b（猜黑桃 A）：52 张牌逐张翻开，玩家可在任一时刻猜"下一张是黑桃 A"，猜中则赢；若到只剩一张牌时黑桃 A 仍未出现且未猜过，也算赢。结论：任何策略的胜率都是 1/52。归纳证明 $n$ 张牌时胜率为 $1/n$：$n=1$ 显然。固定任一策略，设它猜第一张的概率为 $p$；猜第一张时胜率 $1/n$；不猜第一张时，胜率 = 第一张不是黑桃 A 的概率 $\frac{n-1}{n}$ × 剩 $n-1$ 张时的胜率 $\frac1{n-1}$ = $\frac1n$。故 $P\{\text{赢}\}=\frac1np+\frac1n(1-p)=\frac1n$。

例 3c（选择题）：学生知道答案的概率 $p$，否则在 $m$ 个选项中随机猜。已知答对，确实知道答案的概率

P(K\mid C)=\frac{p}{p+(1/m)(1-p)}=\frac{mp}{1+(m-1)p}

$m=5,p=1/2$ 时为 $5/6$。

例 3d（医学检测，基础率谬误）：检测对患者的检出率 95%，对健康人的假阳性率 1%，人群患病率 0.5%。阳性者真患病的概率

P(D\mid E)=\frac{(.95)(.005)}{(.95)(.005)+(.01)(.995)}=\frac{95}{294}\approx.323

只有约 32%。直观解释：每检测 200 人，平均 1 人患病，检出 .95 人；199 名健康人中误判 $199\times.01=1.99$ 人。阳性中真患病的比例 $\frac{.95}{.95+1.99}\approx.323$。误区：忽视基础率（base rate）。

全概率公式也用于根据新信息修正主观概率：

例 3e（医生的决策）：医生的规则是至少 80% 确信才建议手术。起初 60% 确信 Jones 患病；A 检验对患者总是阳性，对健康的非糖尿病人几乎不会阳性，但对未患病的糖尿病人有 30% 阳性。Jones 是糖尿病人且检验阳性：$P(D\mid E)=\frac{(.6)(1)}{1(.6)+(.3)(.4)}=.833>.8$，应建议手术。

例 3f（刑侦）：侦探 60% 确信嫌疑人有罪；新证据表明罪犯有某特征（人群中 20% 有此特征），嫌疑人恰有此特征：$P(G\mid C)=\frac{1(.6)}{1(.6)+(.2)(.4)}\approx.882$（假设无辜者有此特征的概率等于人群比例 .2）。

例 3g（桥牌作弊案）：1965 年世界桥牌锦标赛中，英国选手 Reese 和 Schapiro 被指控用手指信号传递红心张数。控方称他们的打法"与有罪假设一致"，所以应算作有罪证据；辩方指出这些打法同样符合他们的常规打法。分析：设假设 $H$、新证据 $E$，

P(H\mid E)=\frac{P(E\mid H)P(H)}{P(E\mid H)P(H)+P(E\mid H^c)[1-P(H)]}\tag{3.2}

$P(H\mid E)\ge P(H)$ 当且仅当 $P(E\mid H)\ge P(E\mid H^c)$。也就是说，证据支持某假设，当且仅当该证据在假设成立时比不成立时更可能出现；"与假设一致"本身不构成证据。等价写法：

P(H\mid E)=\frac{P(H)}{P(H)+[1-P(H)]\dfrac{P(E\mid H^c)}{P(E\mid H)}}

控方从未证明打法在作弊时更可能出现，所以其论证无效。

例 3h（估计同卵双胞胎比例，第 9 版新增）：同卵双胞胎总是同性别；异卵双胞胎与普通兄弟姐妹一样，同性别的概率为 1/2。医院数据显示约 64% 的双胞胎同性别。由全概率公式 $P(SS)=1\cdot P(I)+\frac12[1-P(I)]=\frac12+\frac12P(I)$，代入 $P(SS)\approx.64$ 得 $P(I)\approx.28$。要点：用可观测量通过全概率公式反推不可观测的比例。

赔率（odds）：事件 $A$ 的赔率定义为

\frac{P(A)}{P(A^c)}=\frac{P(A)}{1-P(A)}

表示 $A$ 发生比不发生可能多少倍。如 $P(A)=2/3$ 时赔率为 2。赔率为 $\alpha$ 时常说"$\alpha$ 比 1 支持该假设"。

Bayes 公式的赔率形式：

\frac{P(H\mid E)}{P(H^c\mid E)}=\frac{P(H)}{P(H^c)}\cdot\frac{P(E\mid H)}{P(E\mid H^c)}\tag{3.3}

即后验赔率 = 先验赔率 × 似然比（likelihood ratio）。证据在 $H$ 为真时更可能出现，赔率上升；反之下降。

例 3i：瓮中 2 枚 A 型硬币（正面概率 1/4）、1 枚 B 型硬币（正面概率 3/4）。随机取一枚抛出正面，是 A 型的赔率 $\frac{2/3}{1/3}\cdot\frac{1/4}{3/4}=\frac23$，即概率 $2/5$。

全概率公式（一般形式，law of total probability）：若 $F_1,\dots,F_n$ 互斥且 $\bigcup F_i=S$（恰有一个发生），则 $E=\bigcup EF_i$，

P(E)=\sum_{i=1}^nP(EF_i)=\sum_{i=1}^nP(E\mid F_i)P(F_i)\tag{3.4}

例 3j：用条件化重新证明第 2 章例 5j（第一张 A 之后的牌是指定牌 $x$ 的概率为 1/52）。忽略牌 $x$，对其余 51 张的相对顺序 $O$ 取条件：$P(E)=\sum_OP(E\mid O)P(O)$。给定 $O$，$x$ 插在 52 个位置中任一位置等可能，只有一个位置使其紧跟第一张 A，故 $P(E\mid O)=1/52$，从而 $P(E)=1/52$。

命题 3.1（Bayes 公式）：$F_1,\dots,F_n$ 互斥且穷尽，则

P(F_j\mid E)=\frac{P(EF_j)}{P(E)}=\frac{P(E\mid F_j)P(F_j)}{\sum_{i=1}^nP(E\mid F_i)P(F_i)}\tag{3.5}

以英国哲学家 Thomas Bayes 命名。把 $F_j$ 看作关于某事物的"假设"，Bayes 公式说明试验前对各假设的看法 $P(F_j)$ 应如何根据试验证据修正。

例 3k（搜寻失踪飞机）：飞机等可能坠落在 3 个区域之一；若飞机在区域 $i$，搜索该区域能找到的概率为 $1-\beta_i$（$\beta_i$ 称为漏检概率，overlook probability）。搜索区域 1 未果后：

P(R_1\mid E)=\frac{\beta_1/3}{\beta_1/3+1/3+1/3}=\frac{\beta_1}{\beta_1+2},\qquad P(R_j\mid E)=\frac1{\beta_1+2},\ j=2,3

区域 1 的后验概率下降、其他区域上升；$P(R_1\mid E)$ 随 $\beta_1$ 递增（漏检概率越大，越可以把搜索失败归于"运气不好"），$P(R_j\mid E)$ 随 $\beta_1$ 递减。

例 3l（三张卡片）：一张两面红、一张两面黑、一张一红一黑。随机抽一张放下，朝上一面是红色，背面是黑色的概率：

P(RB\mid R)=\frac{(1/2)(1/3)}{(1)(1/3)+(1/2)(1/3)+0\cdot(1/3)}=\frac13

误区：以为"全红卡或红黑卡"两种情况等可能，答 1/2。正确看法：6 个面等可能，红面有 3 个（全红卡 2 面、红黑卡 1 面），背面为黑的只有 1 个。

例 3m（两个孩子问题）：新搬来的一家有两个孩子，遇到母亲带着一个女孩散步，两个都是女孩的概率是多少？设 $G_1,G_2$ 为老大、老二是女孩，$G$ 为同行的孩子是女孩。四种性别组合等可能时

P(G_1G_2\mid G)=\frac{1}{1+P(G\mid G_1B_2)+P(G\mid B_1G_2)}

答案取决于"哪个孩子陪母亲"的模型：若与性别无关、以概率 $p$ 带老大，则 $P(G\mid G_1B_2)=p=1-P(G\mid B_1G_2)$，答案为 $1/2$；若一男一女时以概率 $q$ 带女孩，则答案为 $\frac{1}{1+2q}$，$q=1$ 时为 $1/3$（等价于"至少一个女孩"，与例 2b 一致）。结论：原题信息不足，无法求解。样本空间应是 $(s_1,s_2,i)$，还必须对"给定性别时哪个孩子同行"的条件概率做假设。要点：信息是如何获得的（观察机制）会影响条件概率。

例 3n（手电筒）：三类手电筒使用超过 100 小时的概率分别为 .7、.4、.3，占比 20%、30%、50%。(a) $P(A)=(.7)(.2)+(.4)(.3)+(.3)(.5)=.41$。(b) $P(F_1\mid A)=14/41\approx.341$，$P(F_2\mid A)=12/41$，$P(F_3\mid A)=15/41$。

例 3o（DNA 数据库匹配）：单独作案的罪犯留下 DNA，只能识别 5 条链，每个无辜者独立地以 $10^{-5}$ 的概率全部匹配。镇上 100 万居民都可能是罪犯，其中 1 万名近 10 年出狱者的 DNA 在库。检察官先验：每名前科者有罪概率 $\alpha$，其余 99 万人各为 $\beta$，$\alpha=c\beta$。比对后只有 A. J. Jones 一人匹配。由 $10000\alpha+990000\beta=1$ 得 $\beta=\frac1{10000c+990000}$，$\alpha=\frac{c}{10000c+990000}$。设 $G$=A. J. 有罪，$M$=库中只有他一人匹配：$P(M\mid G)=(1-10^{-5})^{9999}$；$P(M\mid G^c)=10^{-5}\cdot\frac{1-10000\alpha}{1-\alpha}\cdot(1-10^{-5})^{9999}$（他本人碰巧匹配 × 给定他无辜时库中其他人也都无辜 × 其他人都不匹配）。于是

P(G\mid M)=\frac{\alpha}{\alpha+10^{-5}(1-10000\alpha)}=\frac{1}{.9+\frac{10^{-5}}{\alpha}}

$c=100$：$\alpha=1/19900$，$P\approx.9099$；$c=10$：$\alpha=1/109000$，$P\approx.5025$；$c=1$：$\alpha=10^{-6}$，$P\approx.0917$。要点：同样的证据下，后验概率对先验极其敏感，从 9% 到 91% 不等。

3.4 独立事件（Independent Events）（PDF p.88–102）

一般情况下 $P(E\mid F)\ne P(E)$。若 $P(E\mid F)=P(E)$，即知道 $F$ 发生不改变 $E$ 的概率，称 $E$ 独立于 $F$。由 $P(E\mid F)=P(EF)/P(F)$，这等价于

P(EF)=P(E)P(F)\tag{4.1}

该式关于 $E,F$ 对称，因此作为定义：

定义：若 (4.1) 成立，称事件 $E$ 与 $F$ 独立（independent），否则称为相依（dependent）。（此定义不要求 $P(F)>0$。）

例 4a：从一副牌中随机抽一张，$E$=A，$F$=黑桃：$P(EF)=1/52=\frac4{52}\cdot\frac{13}{52}$，独立。
例 4b：抛两枚硬币，"第一枚正面"与"第二枚反面"独立。
例 4c：掷两颗骰子，$E_1$=和为 6，$F$=第一颗为 4：$P(E_1F)=1/36\ne\frac5{36}\cdot\frac16=\frac5{216}$，不独立（直观上，第一颗为 6 时就不可能和为 6，所以和为 6 依赖于第一颗）。$E_2$=和为 7：$P(E_2F)=1/36=\frac16\cdot\frac16$，独立（无论第一颗是几，都恰有一个第二颗的值使和为 7）。
例 4d：下任总统是共和党人与明年发生大地震，多数人会认为独立；但与"选举后两年内出现衰退"是否独立就有争议。说明独立性常常是建模假设。

命题 4.1：若 $E,F$ 独立，则 $E,F^c$ 也独立。证明：$P(E)=P(EF)+P(EF^c)=P(E)P(F)+P(EF^c)$，故 $P(EF^c)=P(E)[1-P(F)]=P(E)P(F^c)$。含义：$F$ 是否发生的信息都不改变 $E$ 的概率。

两两独立不足以推出整体独立。例 4e：掷两颗骰子，$E$=和为 7，$F$=第一颗为 4，$G$=第二颗为 3。$E$ 与 $F$ 独立，$E$ 与 $G$ 独立，但 $P(E\mid FG)=1$，$E$ 与 $FG$ 不独立。

定义（三事件独立）：$E,F,G$ 独立，当且仅当

P(EFG)=P(E)P(F)P(G),\ P(EF)=P(E)P(F),\ P(EG)=P(E)P(G),\ P(FG)=P(F)P(G)

此时 $E$ 与由 $F,G$ 构成的任何事件独立，例如 $P[E(F\cup G)]=P(EF)+P(EG)-P(EFG)=P(E)[P(F)+P(G)-P(FG)]=P(E)P(F\cup G)$。

一般定义：$E_1,\dots,E_n$ 独立，当且仅当对其任一子集 $E_{1'},\dots,E_{r'}$（$r\le n$）都有 $P(E_{1'}\cdots E_{r'})=P(E_{1'})\cdots P(E_{r'})$。无穷个事件独立，当且仅当其每个有限子集独立。

独立子试验与试验（trials）：若试验由一系列子试验组成，且只要 $E_i$ 完全由第 $i$ 个子试验结果决定，$E_1,E_2,\dots$ 就必然独立，则称子试验独立。若各子试验的可能结果集相同，称为试验（trials），如重复抛硬币。

例 4f（独立重复试验，Bernoulli 试验）：每次成功概率 $p$。(a) 前 $n$ 次至少一次成功：$1-(1-p)^n$。(b) 前 $n$ 次恰 $k$ 次成功：每个含 $k$ 次成功的特定序列概率为 $p^k(1-p)^{n-k}$，共 $\binom nk$ 个这样的序列，

P\{\text{恰 }k\text{ 次成功}\}=\binom nkp^k(1-p)^{n-k}

（即二项分布，第 4 章正式引入。）(c) 所有试验都成功：由 2.6 节的连续性，$P(\bigcap_{i=1}^\infty E_i^c)=\lim_np^n$，$p<1$ 时为 0，$p=1$ 时为 1。

例 4g（并联系统，parallel system）：$n$ 个独立元件，元件 $i$ 正常工作的概率为 $p_i$，至少一个正常系统就工作：

P\{\text{系统工作}\}=1-\prod_{i=1}^n(1-p_i)

例 4h（5 先于 7）：反复掷两颗骰子，看点数和，求 5 先于 7 出现的概率。方法一：$E_n$=前 $n-1$ 次既无 5 也无 7、第 $n$ 次为 5。$P(5)=4/36$，$P(7)=6/36$，$P(E_n)=(1-\frac{10}{36})^{n-1}\frac{4}{36}$，求和得 $\frac19\cdot\frac{1}{1-13/18}=\frac25$。方法二（对第一次结果取条件）：$F$=第一次为 5，$G$=第一次为 7，$H$=都不是。$P(E\mid F)=1$，$P(E\mid G)=0$，$P(E\mid H)=P(E)$（独立性使局面"重新开始"），故 $P(E)=\frac19+\frac{13}{18}P(E)$，$P(E)=\frac25$。直观上，赔率应为 4 比 6。

一般结论：若 $E,F$ 是一次试验中的互斥事件，独立重复试验时 $E$ 先于 $F$ 发生的概率为

\frac{P(E)}{P(E)+P(F)}

例 4i（优惠券收集，coupon collecting）：共 $n$ 种优惠券，每张独立地以概率 $p_i$ 为第 $i$ 种，收集 $k$ 张，$A_i$=至少有一张第 $i$ 种。

$P(A_i)=1-(1-p_i)^k$；
$P(A_i\cup A_j)=1-(1-p_i-p_j)^k$；
由加法公式得 $P(A_iA_j)=1-(1-p_i)^k-(1-p_j)^k+(1-p_i-p_j)^k$，于是 $P(A_i\mid A_j)=\frac{1-(1-p_i)^k-(1-p_j)^k+(1-p_i-p_j)^k}{1-(1-p_j)^k}$

点数问题（problem of the points）的历史：两人下注比赛，中途被迫停止，此时各有部分得分，赌注应如何分配？1654 年职业赌徒 de Méré 向 Pascal 提出此问题。Pascal 提出关键思想：应按若继续比赛各自获胜的概率分配奖金。Pascal 与 Fermat 的通信完整解决了此问题，并为许多机会博弈问题建立了框架，被一些人视为概率论的诞生；随后 Huygens 也到巴黎讨论这些问题。

例 4j（点数问题）：独立试验，成功概率 $p$，求 $n$ 次成功先于 $m$ 次失败出现的概率 $P_{n,m}$（A 还需 $n$ 分、B 还需 $m$ 分时 A 获胜的概率）。

Pascal 解法：对第一次试验取条件，$P_{n,m}=pP_{n-1,m}+(1-p)P_{n,m-1}$（$n,m\ge1$），边界 $P_{n,0}=0$，$P_{0,m}=1$。
Fermat 解法：$n$ 次成功先于 $m$ 次失败，当且仅当前 $m+n-1$ 次试验中至少有 $n$ 次成功（可以想象比赛结束后仍继续把 $m+n-1$ 次试验做完）。因为若至少 $n$ 次成功，则失败至多 $m-1$ 次；反之则至少有 $m$ 次失败。故 $P_{n,m}=\sum_{k=n}^{m+n-1}\binom{m+n-1}{k}p^k(1-p)^{m+n-1-k}$ 技巧："假设比赛继续进行到固定的总局数"把随机停止的问题变成固定次数的二项问题。

例 4k（发球–回合制比赛的发球规则，第 9 版新增）：A、B 进行回合制比赛（排球、羽毛球、壁球），每个回合的胜者得 1 分，先得 $n$ 分者获胜。A 发球时 A 赢该回合的概率为 $p_A$，B 发球时 A 赢的概率为 $p_B$。A 先发球。两种规则：胜者发球（winner serves）或轮流发球（alternating serve）。若你是 A，选哪种？结论：两种规则下 A 获胜的概率相同。证明：假设比赛一直打满 $2n-1$ 个回合，先得 $n$ 分者即在 $2n-1$ 个回合中至少赢 $n$ 个者。轮流发球时，A 恰好发球 $n$ 次、B 发 $n-1$ 次。胜者发球规则下，修改规则：胜负决定后多余的回合都由输家发球（不影响胜者）。情形 1（A 赢）：A 的第 2 次发球紧接 A 的第 1 分之后……A 的第 $n$ 次发球紧接 A 的第 $n-1$ 分之后，这是比赛决出前 A 的最后一次发球（要么这一分赢下得 $n$ 分，要么丢分后发球权转给 B 并一直留在 B 手中直到 A 得到第 $n$ 分），之后 A 不再发球，所以 A 恰发球 $n$ 次。情形 2（B 赢）：B 的第 $k$ 次发球紧接 B 的第 $k$ 分之后，B 的第 $n-1$ 次发球是比赛决出前 B 的最后一次发球，之后 B 不再发球，所以 B 恰发 $n-1$ 次，A 恰发 $n$ 次。因此两种规则下 A 获胜的概率都等于"$n$ 次成功率为 $p_A$、$n-1$ 次成功率为 $p_B$ 的独立试验中至少 $n$ 次成功"的概率。

（以下至本节末为选读内容。）

例 4l（多人赌博的最终胜者）：$r$ 名玩家，玩家 $i$ 初始有 $n_i>0$ 单位，$n=\sum n_i$。每阶段任选两人对赌一局，胜者从负者处得 1 单位，各局独立且公平；资金为 0 者出局，直到一人拥有全部 $n$ 单位。求玩家 $i$ 最终获胜的概率 $P_i$。巧妙解法：先设有 $n$ 名玩家各有 1 单位，每人每次参赛都等可能赢或输 1 单位，直到资金为 0 或 $n$，对所有人情形相同，故每人获胜概率为 $1/n$。再把 $n$ 人分成 $r$ 队，第 $i$ 队 $n_i$ 人：队 $i$ 的初始总资金为 $n_i$，不同队成员之间的每局公平，赢者所在队资金 +1、输者所在队 −1，与原问题同构。故 $P_i=n_i/n$，且与每阶段如何选对手无关。

例 4m（赌徒破产问题，gambler's ruin problem）：A、B 对抛硬币下注，正面（概率 $p$）A 从 B 得 1 单位，反面 A 付 B 1 单位，直到一方输光。A 初始 $i$ 单位，B 初始 $N-i$ 单位，求 A 赢得全部资金的概率 $P_i$。对第一次抛掷取条件：正面后局面等价于 A 从 $i+1$ 开始（独立性），故（$q=1-p$）

P_i=pP_{i+1}+qP_{i-1},\quad i=1,\dots,N-1\tag{4.2}

边界 $P_0=0$，$P_N=1$。由 $p+q=1$ 改写为

P_{i+1}-P_i=\frac qp(P_i-P_{i-1})\tag{4.3}

递推得 $P_i-P_{i-1}=(q/p)^{i-1}P_1$ (4.4)，前 $i-1$ 式相加：$P_i=\frac{1-(q/p)^i}{1-(q/p)}P_1$（$q/p\ne1$）或 $P_i=iP_1$（$q/p=1$）。用 $P_N=1$ 定出 $P_1$，最终

P_i=\begin{cases}\dfrac{1-(q/p)^i}{1-(q/p)^N}, & p\ne\frac12\\[2mm] \dfrac iN, & p=\frac12\end{cases}\tag{4.5}

由对称性（$p\leftrightarrow q$，$i\leftrightarrow N-i$），B 赢得全部资金的概率 $Q_i=\frac{1-(p/q)^{N-i}}{1-(p/q)^N}$（$q\ne1/2$）或 $\frac{N-i}{N}$。直接验证 $P_i+Q_i=1$：即以概率 1 总有一方输光，游戏永远进行下去（A 的资金始终在 1 到 $N-1$ 之间）的概率为 0。注意先验上有三种可能结局，第三种的概率被证明为 0。

数值例：A 有 5、B 有 10。$p=1/2$ 时 A 获胜概率 $1/3$；$p=.6$ 时为 $\frac{1-(2/3)^5}{1-(2/3)^{15}}\approx.87$。即单局的小优势在长期对赌中被放大成压倒性优势。

历史：Fermat 于 1657 年向 Huygens 提出该问题的特例（持续时间问题，problem of duration of play）：A、B 各 12 枚硬币，掷 3 颗骰子，掷出 11 则 A 给 B 一枚，掷出 14 则 B 给 A 一枚。$P(11)=27/216$，$P(14)=15/216$，由例 4h 的结论，对 A 而言即 $p=\frac{15}{42}$、$i=12$、$N=24$ 的赌徒破产问题。一般形式由 James Bernoulli 解决，于其去世后 8 年（1713）发表。

应用：序贯药物试验。两种新药治愈率 $P_1,P_2$ 未知。成对给药，记 $X_j,Y_j$ 为第 $j$ 对中服药 1、药 2 的患者是否治愈（1/0）。预先确定正整数 $M$，当累计治愈差 $\sum(X_j-Y_j)$ 首次达到 $M$ 时判定 $P_1>P_2$，达到 $-M$ 时判定 $P_2>P_1$。每对之后差值以概率 $P_1(1-P_2)$ 加 1、以 $(1-P_1)P_2$ 减 1、否则不变。只看发生变化的那些对，差值上升的条件概率

P=\frac{P_1(1-P_2)}{P_1(1-P_2)+(1-P_1)P_2}

当 $P_1>P_2$ 时错误判定 $P_2>P_1$ 的概率，等于胜率为 $P$ 的赌徒先输 $M$ 再赢 $M$ 的概率；由 (4.5) 取 $i=M,N=2M$：

P\{\text{判定 }P_2>P_1\}=1-\frac{1-(\frac{1-P}{P})^M}{1-(\frac{1-P}{P})^{2M}}=\frac{1}{1+\gamma^M},\quad\gamma=\frac{P}{1-P}=\frac{P_1(1-P_2)}{P_2(1-P_1)}

例：$P_1=.6,P_2=.4$ 时，$M=5$ 的错判概率为 .017，$M=10$ 时降为 .0003。（这是序贯检验 SPRT 思想的一个例子。）

概率方法（probabilistic method）：要证明集合中至少有一个元素具有某性质，可以按使每个元素都有正概率被选中的方式随机选一个元素；若它不具有该性质的概率小于 1，则至少有一个元素具有该性质。

例 4n（Ramsey 型着色问题）：$n$ 个顶点的完全图有 $\binom n2$ 条边，每条边涂红或蓝。对固定的 $k$，能否使任何 $k$ 个顶点之间的 $\binom k2$ 条边不全同色？令每条边独立地等可能涂红或蓝，$E_i$ 为第 $i$ 个 $k$ 顶点子集的边全同色，$P(E_i)=2\cdot(1/2)^{k(k-1)/2}$。由 Boole 不等式

P\Big(\bigcup_iE_i\Big)\le\binom nk\Big(\frac12\Big)^{k(k-1)/2-1}

若 $\binom nk<2^{k(k-1)/2-1}$，则该概率小于 1，故存在一种着色使没有 $k$ 个顶点的边全同色。注：(a) 论证只证明存在性，不给出构造方法（可以随机着色、检查、重复）；(b) 在纯确定性问题中引入概率的方法称为概率方法（参见 Alon、Spencer、Erdős 的专著），其他例子见理论练习 24 和第 7 章例 2t、2u。

3.5 $P(\cdot\mid F)$ 是概率（PDF p.102–110）

命题 5.1：条件概率满足三条公理：(a) $0\le P(E\mid F)\le1$（因为 $EF\subset F$）；(b) $P(S\mid F)=P(F)/P(F)=1$；(c) 若 $E_i$ 互斥，则 $P(\bigcup E_i\mid F)=\sum P(E_i\mid F)$（因为 $(\bigcup E_i)F=\bigcup E_iF$，且 $E_iF$ 互斥）。

因此 $Q(E)=P(E\mid F)$ 是 $S$ 上的概率函数，此前所有命题都适用，例如 $P(E_1\cup E_2\mid F)=P(E_1\mid F)+P(E_2\mid F)-P(E_1E_2\mid F)$。再定义 $Q(E_1\mid E_2)=Q(E_1E_2)/Q(E_2)$，可得 $Q(E_1\mid E_2)=P(E_1\mid E_2F)$，于是全概率公式的条件版本为

P(E_1\mid F)=P(E_1\mid E_2F)P(E_2\mid F)+P(E_1\mid E_2^cF)P(E_2^c\mid F)

例 5a（保险续）：例 3a 中，已知第一年出了事故，第二年出事故的概率。对是否易出事故取条件：$P(A_2\mid A_1)=P(A_2\mid AA_1)P(A\mid A_1)+P(A_2\mid A^cA_1)P(A^c\mid A_1)$。其中 $P(A\mid A_1)=6/13$，$P(A^c\mid A_1)=7/13$，故 $P(A_2\mid A_1)=(.4)\frac6{13}+(.2)\frac7{13}\approx.29>.26=P(A_2)$。（隐含假设：给定是否易出事故，各年是否出事故条件独立。）

例 5b（亲子鉴定）：先验：1 号雄猩猩是父亲的概率 $p$，2 号为 $1-p$。母亲基因型 (A,A)，1 号 (a,a)，2 号 (A,a)，幼崽 (A,a)。

P(M_1\mid B_{A,a})=\frac{1\cdot p}{1\cdot p+\frac12(1-p)}=\frac{2p}{1+p}

因 $\frac{2p}{1+p}>p$（$p<1$），证据支持 1 号是父亲（1 号为父时幼崽必为 (A,a)，2 号为父时概率为 1/2）。

例 5c（游程竞赛）：独立试验成功概率 $p$、失败概率 $q=1-p$，求连续 $n$ 次成功先于连续 $m$ 次失败出现的概率。$H$=第一次成功。$P(E)=pP(E\mid H)+qP(E\mid H^c)$ (5.2)。给定 $H$，令 $F$=第 2 到第 $n$ 次都成功：$P(E\mid FH)=1$；若 $F^cH$ 发生，中途出现的失败抹掉之前的成功，局面等同于以失败开始，$P(E\mid F^cH)=P(E\mid H^c)$。故

P(E\mid H)=p^{n-1}+(1-p^{n-1})P(E\mid H^c)\tag{5.4}

同理令 $G$=第 2 到第 $m$ 次都失败：$P(E\mid GH^c)=0$，$P(E\mid G^cH^c)=P(E\mid H)$，

P(E\mid H^c)=(1-q^{m-1})P(E\mid H)\tag{5.6}

联立解得 $P(E\mid H)=\frac{p^{n-1}}{p^{n-1}+q^{m-1}-p^{n-1}q^{m-1}}$，$P(E\mid H^c)=\frac{(1-q^{m-1})p^{n-1}}{p^{n-1}+q^{m-1}-p^{n-1}q^{m-1}}$，

P(E)=\frac{p^{n-1}(1-q^m)}{p^{n-1}+q^{m-1}-p^{n-1}q^{m-1}}\tag{5.7}

对称地，连续 $m$ 次失败先出现的概率为 $\frac{q^{m-1}(1-p^n)}{q^{m-1}+p^{n-1}-q^{m-1}p^{n-1}}$ (5.8)。两者之和为 1，即以概率 1 其中之一终将出现。数值：公平硬币，连续 2 次正面先于连续 3 次反面的概率为 $7/10$；先于连续 4 次反面为 $5/6$。

例 5d（配对问题，条件概率解法）：(a) $P_n$=无配对概率。对第一个人是否拿到自己的帽子取条件：$P_n=P(E\mid M^c)\frac{n-1}{n}$ (5.9)。给定 $M^c$，剩下 $n-1$ 人在 $n-1$ 顶帽子中选，其中有一顶"多余的帽子"（第一人的）不属于他们，而有一个"多余的人"（帽子被第一人拿走的那个人）。无配对有两种互斥方式：多余的人不拿多余的帽子且无配对（把多余的帽子视为多余的人的，概率 $P_{n-1}$），或多余的人拿多余的帽子且其余无配对（概率 $\frac1{n-1}P_{n-2}$）。于是

P_n=\frac{n-1}{n}P_{n-1}+\frac1nP_{n-2}\iff P_n-P_{n-1}=-\frac1n(P_{n-1}-P_{n-2})\tag{5.10}

由 $P_1=0,P_2=1/2$ 递推得 $P_n=\frac1{2!}-\frac1{3!}+\cdots+\frac{(-1)^n}{n!}$。(b) 恰 $k$ 个配对：$\binom nk\frac{(n-k)!}{n!}P_{n-k}=\frac{P_{n-k}}{k!}$。

条件独立（conditional independence）：若在 $F$ 发生的条件下，$E_2$ 是否发生不改变 $E_1$ 的条件概率，称 $E_1,E_2$ 在给定 $F$ 时条件独立：

P(E_1\mid E_2F)=P(E_1\mid F)\tag{5.11}

等价地

P(E_1E_2\mid F)=P(E_1\mid F)P(E_2\mid F)\tag{5.12}

例 5a 隐含使用了此概念：给定是否易出事故，各年是否出事故条件独立。注意：条件独立不意味着无条件独立。例 5a 中 $A_1,A_2$ 无条件下是相依的（$P(A_2\mid A_1)=.29\ne.26$），因为第一年出事故提供了关于"类型"的信息。

例 5e（Laplace 继承法则，Laplace's rule of succession）：盒中 $k+1$ 枚硬币，第 $i$ 枚正面概率 $i/k$（$i=0,\dots,k$）。随机取一枚反复抛，前 $n$ 次都是正面，第 $n+1$ 次也是正面的条件概率。$C_i$=取到第 $i$ 枚，$F_n$=前 $n$ 次都正面，$H$=第 $n+1$ 次正面。给定 $C_i$，各次结果条件独立，$P(H\mid F_nC_i)=i/k$；$P(C_i\mid F_n)=\frac{(i/k)^n}{\sum_j(j/k)^n}$。故

P(H\mid F_n)=\frac{\sum_{i=0}^k(i/k)^{n+1}}{\sum_{j=0}^k(j/k)^n}\approx\frac{\int_0^1x^{n+1}dx}{\int_0^1x^ndx}=\frac{n+1}{n+2}\quad(k\text{ 大})

例 5f（序贯更新信息，updating information sequentially）：$n$ 个互斥穷尽假设 $H_i$，先验（prior）$P(H_i)$。得知 $E$ 后的后验（posterior）概率

P(H_i\mid E)=\frac{P(E\mid H_i)P(H_i)}{\sum_jP(E\mid H_j)P(H_j)}\tag{5.13}

先得知 $E_1$、再得知 $E_2$ 时，能否把 $P(H_j\mid E_1)$ 当作新的先验、再用 (5.13) 处理 $E_2$？答案：当对每个 $j$，$E_1,E_2$ 在给定 $H_j$ 下条件独立时可以。证明：$P(E_1E_2\mid H_j)=P(E_1\mid H_j)P(E_2\mid H_j)$，于是

P(H_i\mid E_1E_2)=\frac{P(E_2\mid H_i)P(E_1\mid H_i)P(H_i)}{P(E_1E_2)}=\frac{P(E_2\mid H_i)P(H_i\mid E_1)}{Q(1,2)},\quad Q(1,2)=\frac{P(E_1E_2)}{P(E_1)}

对 $i$ 求和等于 1，得 $Q(1,2)=\sum_iP(E_2\mid H_i)P(H_i\mid E_1)$，因此

P(H_i\mid E_1E_2)=\frac{P(E_2\mid H_i)P(H_i\mid E_1)}{\sum_{i}P(E_2\mid H_i)P(H_i\mid E_1)}

例：两枚硬币之一被选来抛，正面概率分别为 $p_1,p_2$。每次抛后只需保存"当前是硬币 1 的条件概率"，无需记录所有历史结果。这正是递推 Bayes 滤波的思想。

第 3 章小结（PDF p.110）

条件概率 $P(E\mid F)=P(EF)/P(F)$；乘法法则；条件化公式 $P(E)=P(E\mid F)P(F)+P(E\mid F^c)P(F^c)$；赔率 $P(H)/P(H^c)$ 及其更新公式（新赔率 = 旧赔率 × 似然比）；Bayes 公式与全概率公式；独立性 $P(EF)=P(E)P(F)$，等价于 $P(E\mid F)=P(E)$ 和 $P(F\mid E)=P(F)$；多个事件独立要求任意子集的乘积公式成立；固定 $F$ 时 $P(\cdot\mid F)$ 是概率。

第 3 章习题概述（PDF p.110–124）

Problems 3.1–3.91（题型归类）：
- 基本条件概率与缩小样本空间（3.1–3.11，如"已知两骰不同点，至少一个 6"；国王有一个兄弟姐妹，另一个是姐妹的概率 3.7；已知老大是女孩时两个都是女孩 3.8）。
- 乘法法则（3.12 精算考试连过三关；3.13 每手一张 A；3.14、3.40 Pólya 瓮模型：取出后放回并加入同色球）。
- 全概率与 Bayes 公式的大量应用（3.15–3.23、3.26、3.30、3.33–3.38、3.42–3.43、3.45、3.47–3.52）：宫外孕与吸烟、剖腹产生存率、选民投票、色盲性别、PSA 前列腺癌检测在不同先验下的后验（3.49）、保险风险分级（3.50）、推荐信与录取（3.51）、按天等待录取信的序贯更新（3.52）。
- 抽样偏差：街头计数估计 50 岁以上人口（3.25，估计的其实是按上街时间加权的比例）；按员工抽样 vs 按汽车抽样估计每车平均人数（3.27，规模偏差 size-biased sampling）。
- 观察机制问题：两个球涂色，"知道用了金漆" vs "掉出一个金球"（3.24）；医生打电话的策略（3.31，求 $\beta$ 与 $\alpha$ 的关系）；三囚犯问题（3.44，狱卒的推理错误，与 Monty Hall 同构）；两个抽屉柜（3.48）。
- 独立性判断与建模（3.54–3.55）；优惠券新类型（3.56）。
- 股价随机游走（3.57：每天涨 1 的概率 $p$、跌 1 的概率 $1-p$，求 2 天后回到原价、3 天后涨 1，以及已知 3 天后涨 1 时第一天上涨的条件概率）。
- 用有偏硬币模拟公平硬币（3.58，von Neumann 去偏法：连抛两次、相同则重抛、不同则取最后一次；(b) 问能否简化为"抛到最后两次不同为止"——不能）。
- 模式先出现问题：THHH 先于 HHHH（3.59）。
- 遗传学：眼色、白化病、多基因表型/基因型、血友病（3.60、3.61、3.69、3.70）。
- 可靠性：射击、决斗、继电器电路（3.66 桥式电路，对继电器 3 取条件）、$k$-out-of-$n$ 系统（3.67）。
- 夫妻答题策略（3.64）；1982 年棒球分区冠军概率（3.71）；委员会中某票为决定票的概率（3.72）。
- 交替掷骰（3.74）；长子比例（3.75）；$E$ 先于 $F$ 的一般公式（3.76）；"领先 2 局即获胜"的比赛（3.78）；2 次 7 先于 6 次偶数（3.79）；淘汰赛中两指定选手相遇的概率（3.80）。
- 投资者止损止盈（3.81：股价 25，跌到 10 或涨到 40 时卖出，每步涨 1 的概率 .55、跌 1 的概率 .45，求以盈利离场的概率，直接套用赌徒破产公式，$i=15$，$N=30$）。
- 轮流抛硬币（3.82）；骰子 A/B 与条件独立（3.83）；有放回/无放回轮流取球（3.84、3.85）；随机子集 $P\{A\subset B\}=(3/4)^n$（3.86）；口袋找钥匙含漏检（3.87）；Laplace 继承法则中后验与独立性（3.88、3.89：给定硬币时条件独立，但无条件下不独立）；三法官投票的独立与条件独立（3.90）；三结果试验中 1 和 2 都至少出现一次（3.91）。
Theoretical Exercises 3.1–3.31：$P(AB\mid A)\ge P(AB\mid A\cup B)$（3.1）；$A\subset B$ 时的条件概率化简（3.2）；按家庭抽样比按孩子抽样更容易抽到长子（3.3）；含检出率的一般搜索问题 $P(\text{在 }j\mid\text{搜 }i\text{ 未果})$（3.4）；$P(E\mid E\cup F)=P(E)/(P(E)+P(F))$（3.5）；独立事件并的概率 $1-\prod(1-P(E_i))$（3.6）；最后剩下的球全为白色的概率 $n/(n+m)$、三种鱼谁先灭绝（3.7）；条件概率不等式的反例，类似 Simpson 悖论的结构（3.8）；两两独立但不相互独立的经典例子（3.9：$A$=第一次正面，$B$=第二次正面，$C$=两次相同）；乳腺 X 光筛查的 Bayes 计算（3.10）；至少一次正面所需次数（3.11）；首次正面恒等式 $\sum_ia_i\prod_{j<i}(1-a_j)+\prod(1-a_i)=1$（3.12）；轮流抛硬币累计正面（3.13）；与无限富有的对手对赌：破产概率在 $p\le1/2$ 时为 1，$p>1/2$ 时为 $(q/p)^i$（3.14）；负二项概率 $\binom{n-1}{r-1}p^r(1-p)^{n-r}$ 并用来解点数问题（3.15）；$n$ 次 Bernoulli 试验成功次数为偶数的概率 $P_n=\frac{1+(1-2p)^n}{2}$（3.16）；第 $i$ 次成功率 $1/(2i+1)$ 时成功次数为奇数的概率（3.17）；无连续 3 次正面的概率递推（3.18）；限定局数的赌徒破产（3.19）；两瓮交替抽取的递推与极限（3.20，两状态 Markov 链的雏形）；选票问题（ballot problem）：A 得 $n$ 票、B 得 $m$ 票，计票过程中 A 始终领先的概率，猜想并归纳证明 $P_{n,m}=\frac{n-m}{n+m}$（3.21）；天气持续模型 $P_n=\frac12+\frac12(2p-1)^n$（3.22）；换色取球最后剩白球的概率恒为 1/2（3.23）；循环赛中的概率方法（3.24）；条件版全概率公式（3.25）；(5.11) 与 (5.12) 等价（3.26）；推广条件独立（3.27）；独立不蕴含条件独立（3.28）；Laplace 法则推广：再连续 $m$ 次正面的概率 $\frac{n+1}{n+m+1}$（3.29）；$n$ 次中 $r$ 次正面后下一次正面的概率 $\frac{r+1}{n+2}$，需用 Beta 积分 $\int_0^1y^n(1-y)^mdy=\frac{n!m!}{(n+m+1)!}$（3.30）；对 Laplace 法则"男孩与祖父存活概率"悖论的回应（3.31，法则只适用于对未知概率完全无知、可交换试验的情形）。
Self-Test 3.1–3.31：桥牌中已知西家无 A 时同伴的 A 数（3.1）；电池寿命的条件概率（3.2，无记忆性的反例）；两瓮放球使抽到白球概率最大（3.3：一瓮只放 1 个白球，另一瓮放其余 19 个）；换球后的 Bayes（3.4）；无放回抽样中 $P(R_i)$ 与 $i$ 无关、$P(R_5\mid R_3)=P(R_3\mid R_5)$（3.5，可交换性）；Pólya 瓮的逆向条件概率（3.6）；问朋友手中两张牌的不同问法导致不同条件概率（3.7）；两个假设的后验赔率（3.8）；浇花问题（3.9）；电池类型（3.11）；书籍喜好（3.12）；颜色耗尽顺序（3.13）；传话可靠性（3.14）；黑鼠纯种的序贯 Bayes 更新（3.15）；继电器条件概率（3.16、3.17）；赌徒谬误：轮盘连续 10 次黑之后才押红（3.18，独立性下前序结果不改变下一次概率）；"怪人出局"（3.19）；两次独立试验第二次结果较大的概率（3.20）；$A$ 抛 $n+1$ 枚、$B$ 抛 $n$ 枚，$A$ 正面更多的概率为 1/2（3.21）；独立性的证明/反例判断（3.22）；互斥与独立的关系（3.23：正概率事件互斥则必不独立）；概率大小排序（3.24）；同一工厂两台收音机（3.25，条件独立导致无条件相关）；$P(A\mid B)=1\Rightarrow P(B^c\mid A^c)=1$（3.26）；Pólya 瓮 $n$ 步后红球数在 $1..n+1$ 上均匀（3.27）；声明有 A 后对方无 A 的概率及其极限（3.28）；优惠券与恒等式 $n!=\sum_k(-1)^k\binom nk(n-k)^n$（3.29）；$P(E\mid E\cup F)\ge P(E\mid F)$（3.30）；简单的条件化（3.31）。

第 3 章本章要点

条件概率 $P(E\mid F)=P(EF)/P(F)$ 等于"把 $F$ 当作新样本空间"；固定 $F$ 时它本身满足全部公理。
三个核心工具：乘法法则（把联合概率拆成条件概率链）、全概率公式（对一个分割取条件，"条件化"）、Bayes 公式（由 $P(E\mid H)$ 反推 $P(H\mid E)$）。赔率形式"后验赔率 = 先验赔率 × 似然比"最便于理解证据的作用。
证据支持假设当且仅当 $P(E\mid H)>P(E\mid H^c)$；"与假设一致"不等于证据（例 3g）。后验对先验和基础率很敏感（例 3d、3o）。
观察机制（信息是如何得到的）会改变答案（例 3m、两个孩子问题、三囚犯问题），建模时样本空间必须包含"信息来源"。
独立：$P(EF)=P(E)P(F)$；多事件独立要求所有子集的乘积公式，两两独立不够（例 4e、理论练习 3.9）。独立与互斥是两回事，正概率的互斥事件一定不独立。
条件独立不意味着独立，独立也不意味着条件独立（例 5a、理论练习 3.28）。给定"类型"时条件独立的观测，在无条件下往往正相关。
经典问题和模型：点数问题（Fermat 的"继续比赛"技巧）、赌徒破产公式 (4.5)、"$E$ 先于 $F$"公式 $\frac{P(E)}{P(E)+P(F)}$、游程竞赛 (5.7)、配对问题递推、Laplace 继承法则 $\frac{n+1}{n+2}$、序贯 Bayes 更新的条件（条件独立）、概率方法证存在性。
"对第一步取条件 + 利用独立性使局面重新开始"是建立递推方程的通用方法（例 4h、4j、4m、5c、5d）。

第 3 章与量化交易的关联

赌徒破产与止损止盈（风控、执行、回测）：把价格（或账户净值）建模为每步 $\pm1$ 的随机游走，在下方止损位、上方止盈位之间运行，触及上方的概率就是公式 (4.5)；习题 3.81 正是这一场景。这给出：(1) 带止损/止盈的策略胜率与赔率之间的关系；(2) 单笔优势 $p$ 略大于 1/2 时，资金越充足（$N$ 越大）获胜概率越接近 1，反之资金有限时即使有正期望也可能先破产，这是仓位管理和破产风险（risk of ruin）分析的基础；(3) 理论练习 3.14 给出与"无限富有对手"（即市场）对赌时的破产概率 $(q/p)^i$，$p\le1/2$ 时必然破产。
Bayes 更新（因子研究、信号融合、状态识别）：例 5f 的序贯更新是 Bayes 滤波、隐 Markov 模型中市场状态（牛/熊、高/低波动）识别的基本递推：只需保存当前后验，每来一个新观测乘以似然比再归一化，前提是给定状态时观测条件独立。赔率形式便于把多个弱信号的似然比相乘（朴素 Bayes 信号合成）。
基础率谬误（策略评估）：例 3d 说明"准确率很高的信号"在事件本身稀有时，阳性预测值可能很低。量化中的对应场景包括：预测暴跌或违约的预警信号、异常交易检测、回测中"显著因子"的真实有效概率（大量因子中真因子稀少，即便检验功效高，显著者中大部分也可能是假阳性）。
条件独立与相关（风险建模）：例 5a 和 Self-Test 3.25 说明，给定共同因子（类型、工厂、宏观状态）时独立的事件，在无条件下会相关。这正是因子模型和信用组合模型（单因子 Gaussian copula 等）中"给定系统性因子条件独立、无条件下违约相关"的概率基础，也提醒我们不能因为个体之间看似独立就忽视共同驱动带来的聚集风险。
游程与模式（策略诊断）：例 5c（连续 $n$ 次成功先于连续 $m$ 次失败）可用于估计策略出现连亏 $m$ 笔的风险，评估回撤期长短；理论练习 3.18 的无连续正面概率递推可推广用于计算"最长连亏"的分布。
独立性假设与赌徒谬误（回测）：Self-Test 3.18 的轮盘系统提醒：若收益确实独立，连续下跌后"该涨了"的推理是错的；反过来，若要利用均值回复，必须先在数据中证明不独立。
抽样偏差（习题 3.25、3.27、理论练习 3.3）：对应回测中的幸存者偏差、按成交量或按时间加权导致的估计偏差。
点数问题与公平分配（定价）：Pascal 提出"按若继续进行时的获胜概率分配赌注"，正是"按风险中性概率计算期望收益来定价"思想的历史源头；习题 3.57 的二项价格模型是二叉树定价的雏形。
遗传学、可靠性电路等例题与交易没有直接关联，只用于练习条件化技巧。

第 3 章推荐习题

Problems 3.24、3.44（观察机制：金漆问题、三囚犯问题）；3.25、3.27（抽样偏差）；3.49、3.52（Bayes 序贯更新的完整练习）；3.57（二项价格模型）；3.58（von Neumann 去偏）；3.59（模式先出现）；3.66–3.67（条件化求可靠性）；3.81（止损止盈 = 赌徒破产，量化最相关）；3.90（独立 vs 条件独立）。
Theoretical Exercises 3.7（最后一个球的技巧）；3.8（Simpson 型反例）；3.9（两两独立不等于独立）；3.14（对无限富有对手的破产概率）；3.15（负二项）；3.16（偶数次成功的递推）；3.20、3.22（两状态 Markov 链的递推与稳态）；3.21（选票问题）；3.28（独立不蕴含条件独立）；3.30（Laplace 法则推广，Beta 积分）。
Self-Test 3.5（可交换性）、3.7（不同提问方式）、3.18（赌徒谬误）、3.25（条件独立导致相关）、3.27（Pólya 瓮）。