本科课程 · 随机数学引论

随机数学引论

从"一个随机变量"到"一条随机演化的轨道":泊松过程数清偶然到达的事件,马尔可夫链刻画只看眼前的状态跳转,布朗运动描绘花粉的 drunken walk——它们是排队论、PageRank 与金融模型的共同起点。

1 随机过程的概念

概念一族带下标的随机变量

随机过程 {X(t), t ∈ T}:每个时刻 t 是一个随机变量,固定一次试验则得到一条样本轨道(sample path)。
分类:T 离散(随机序列:马尔可夫链、时间序列);T 连续(泊松过程、布朗运动)。状态空间离散/连续交叉出四类。
有限维分布族完全刻画过程;独立性、平稳增量、马尔可夫性是三大常用结构假设。

2 泊松过程

定义"完全随机"的到达流

三条公理:① N(0)=0;② 独立平稳增量(不相交时段的到达数互相独立、只与时长有关);③ 长为 t 的时间段内到达数 N(t) ~ P(λt):P(N(t)=k) = e^{−λt}(λt)ᵏ/k!。
黄金搭档:到达间隔 i.i.d. ~ Exp(λ)(指数分布,均值 1/λ,无记忆性 P(X>s+t|X>s) = P(X>t))。
λ 的意义:单位时间平均到达率。E[N(t)] = λt。

操作泊松到达模拟器 ⭐

上半部分:一条时间轴上模拟的到达事件(每点一次到达);下半部分:500 次独立模拟中 N(10) 的频数直方图 vs 理论泊松分布 P(λ·10):

随堂检测泊松过程

3 马尔可夫链

定义未来只依赖现在

马尔可夫性(无记忆性):P(Xₙ₊₁ = j | Xₙ = i, Xₙ₋₁, …, X₀) = P(Xₙ₊₁ = j | Xₙ = i) = pᵢⱼ
转移矩阵 P = (pᵢⱼ)(行和为 1);n 步转移由 C-K 方程 P⁽ⁿ⁾ = Pⁿ 给出。
分类:不可约(任意两状态互通)、非周期;首达概率、常返与非常返。

操作马尔可夫链实验室 ⭐⭐(天气模型)

晴 / 云 / 雨三状态。调节 6 个转移概率(每行自动归一化),点击「走一步」看天气跳转,长跑 5000 步的频率与理论平稳分布对比:

先随便设一组概率跑 5000 步:无论从哪个天气出发,长期频率都会收敛到同一组数——这就是平稳分布(遍历定理)。

4 平稳分布与遍历性

定理时间平均 = 空间平均

平稳分布:πP = π 且 Σπᵢ = 1——"留在原地"的分布律。
遍历定理:不可约 + 非周期的有限链,平稳分布存在唯一,且任意初始分布都收敛到 π;进一步,时间平均 ≈ 期望(1/n Σf(Xₖ) → Σπᵢf(i))。
应用:PageRank(带阻尼的马尔可夫链平稳分布 = 网页排名)、MCMC(用马尔可夫链按目标分布采样)。

随堂检测马尔可夫链

5 布朗运动

定义连续的随机游走极限

标准布朗运动 B(t):① B(0)=0;② 独立平稳增量;③ B(t)−B(s) ~ N(0, t−s);④ 轨道连续。
性质:E[B(t)] = 0,Var = t(扩散幅度 ∝ √t);轨道处处连续但处处不可微(分形维数 2);B(t) ~ N(0,t)。
对称随机游走每步 ±1/√n、每 √n 步并作 1 步,极限即布朗运动(Donsker 定理)——股票价格、物理扩散的数学模型。

操作布朗运动模拟器(多路径 + √t 包络)

6 平稳过程

概念统计特性不随时间平移改变

(宽)平稳过程:均值函数为常数、自相关函数只依赖时间差 τ:R(τ) = E[X(t)X(t+τ)]。
各态历经性:一条轨道的时间平均等于集合平均——使"从一段观测推断整个过程统计特性"合法化。
应用:信号处理(白噪声 R(τ)=σ²δ(τ))、ARMA 时间序列建模。功率谱密度与自相关函数构成傅里叶对(维纳-辛钦定理)。