本科课程 · 随机数学引论
随机数学引论
从"一个随机变量"到"一条随机演化的轨道":泊松过程数清偶然到达的事件,马尔可夫链刻画只看眼前的状态跳转,布朗运动描绘花粉的 drunken walk——它们是排队论、PageRank 与金融模型的共同起点。
1 随机过程的概念
概念一族带下标的随机变量
随机过程 {X(t), t ∈ T}:每个时刻 t 是一个随机变量,固定一次试验则得到一条样本轨道(sample path)。
分类:T 离散(随机序列:马尔可夫链、时间序列);T 连续(泊松过程、布朗运动)。状态空间离散/连续交叉出四类。
有限维分布族完全刻画过程;独立性、平稳增量、马尔可夫性是三大常用结构假设。
分类:T 离散(随机序列:马尔可夫链、时间序列);T 连续(泊松过程、布朗运动)。状态空间离散/连续交叉出四类。
有限维分布族完全刻画过程;独立性、平稳增量、马尔可夫性是三大常用结构假设。
2 泊松过程
定义"完全随机"的到达流
三条公理:① N(0)=0;② 独立平稳增量(不相交时段的到达数互相独立、只与时长有关);③ 长为 t 的时间段内到达数 N(t) ~ P(λt):P(N(t)=k) = e^{−λt}(λt)ᵏ/k!。
黄金搭档:到达间隔 i.i.d. ~ Exp(λ)(指数分布,均值 1/λ,无记忆性 P(X>s+t|X>s) = P(X>t))。
λ 的意义:单位时间平均到达率。E[N(t)] = λt。
黄金搭档:到达间隔 i.i.d. ~ Exp(λ)(指数分布,均值 1/λ,无记忆性 P(X>s+t|X>s) = P(X>t))。
λ 的意义:单位时间平均到达率。E[N(t)] = λt。
随堂检测泊松过程
3 马尔可夫链
定义未来只依赖现在
马尔可夫性(无记忆性):P(Xₙ₊₁ = j | Xₙ = i, Xₙ₋₁, …, X₀) = P(Xₙ₊₁ = j | Xₙ = i) = pᵢⱼ
转移矩阵 P = (pᵢⱼ)(行和为 1);n 步转移由 C-K 方程 P⁽ⁿ⁾ = Pⁿ 给出。
分类:不可约(任意两状态互通)、非周期;首达概率、常返与非常返。
转移矩阵 P = (pᵢⱼ)(行和为 1);n 步转移由 C-K 方程 P⁽ⁿ⁾ = Pⁿ 给出。
分类:不可约(任意两状态互通)、非周期;首达概率、常返与非常返。
4 平稳分布与遍历性
定理时间平均 = 空间平均
平稳分布:πP = π 且 Σπᵢ = 1——"留在原地"的分布律。
遍历定理:不可约 + 非周期的有限链,平稳分布存在唯一,且任意初始分布都收敛到 π;进一步,时间平均 ≈ 期望(1/n Σf(Xₖ) → Σπᵢf(i))。
应用:PageRank(带阻尼的马尔可夫链平稳分布 = 网页排名)、MCMC(用马尔可夫链按目标分布采样)。
遍历定理:不可约 + 非周期的有限链,平稳分布存在唯一,且任意初始分布都收敛到 π;进一步,时间平均 ≈ 期望(1/n Σf(Xₖ) → Σπᵢf(i))。
应用:PageRank(带阻尼的马尔可夫链平稳分布 = 网页排名)、MCMC(用马尔可夫链按目标分布采样)。
随堂检测马尔可夫链
5 布朗运动
定义连续的随机游走极限
标准布朗运动 B(t):① B(0)=0;② 独立平稳增量;③ B(t)−B(s) ~ N(0, t−s);④ 轨道连续。
性质:E[B(t)] = 0,Var = t(扩散幅度 ∝ √t);轨道处处连续但处处不可微(分形维数 2);B(t) ~ N(0,t)。
对称随机游走每步 ±1/√n、每 √n 步并作 1 步,极限即布朗运动(Donsker 定理)——股票价格、物理扩散的数学模型。
性质:E[B(t)] = 0,Var = t(扩散幅度 ∝ √t);轨道处处连续但处处不可微(分形维数 2);B(t) ~ N(0,t)。
对称随机游走每步 ±1/√n、每 √n 步并作 1 步,极限即布朗运动(Donsker 定理)——股票价格、物理扩散的数学模型。
6 平稳过程
概念统计特性不随时间平移改变
(宽)平稳过程:均值函数为常数、自相关函数只依赖时间差 τ:R(τ) = E[X(t)X(t+τ)]。
各态历经性:一条轨道的时间平均等于集合平均——使"从一段观测推断整个过程统计特性"合法化。
应用:信号处理(白噪声 R(τ)=σ²δ(τ))、ARMA 时间序列建模。功率谱密度与自相关函数构成傅里叶对(维纳-辛钦定理)。
各态历经性:一条轨道的时间平均等于集合平均——使"从一段观测推断整个过程统计特性"合法化。
应用:信号处理(白噪声 R(τ)=σ²δ(τ))、ARMA 时间序列建模。功率谱密度与自相关函数构成傅里叶对(维纳-辛钦定理)。