本科课程 · 概率论与数理统计
概率论与数理统计
概率论从公理出发预测随机性的规律，数理统计从数据出发反推背后的参数——"正问题"与"逆问题"互为镜像。中心极限定理则保证：无论总体长什么样，平均值的分布总是正态的。
1 随机变量与分布函数
概念把随机结果数量化
随机变量 X: Ω → R；分布函数 F(x) = P(X ≤ x)：单调不减、右连续、F(−∞)=0、F(+∞)=1。
离散型：分布律 pₖ = P(X = xₖ)，Σpₖ = 1；连续型：密度 f(x)，F(x) = ∫f，P(a<X≤b) = ∫ₐᵇf。
注意：连续型 P(X = x₀) = 0（点概率为零但事件并非不可能）。
离散型：分布律 pₖ = P(X = xₖ)，Σpₖ = 1；连续型：密度 f(x)，F(x) = ∫f，P(a<X≤b) = ∫ₐᵇf。
注意：连续型 P(X = x₀) = 0（点概率为零但事件并非不可能）。
2 离散型分布
概念三大离散模型
| 分布 | 分布律 | 期望 | 方差 | 典型场景 |
|---|---|---|---|---|
| 二项 B(n,p) | C(n,k)pᵏqⁿ⁻ᵏ | np | npq | n 次独立试验成功次数 |
| 泊松 P(λ) | λᵏe^{−λ}/k! | λ | λ | 单位时间到达数；n 大 p 小的极限 |
| 几何 G(p) | q^{k−1}p | 1/p | q/p² | 首次成功等待次数（无记忆） |
泊松定理：n → ∞、np → λ 时 B(n,p) → P(λ)（"稀有事件律"）。二项的泊松近似：n ≥ 50 且 p ≤ 0.1。
3 连续型分布
概念三大连续模型
| 分布 | 密度 / 记号 | 期望 | 方差 | 要点 |
|---|---|---|---|---|
| 均匀 U(a,b) | 1/(b−a) | (a+b)/2 | (b−a)²/12 | 等可能落点 |
| 指数 E(λ) | λe^{−λx} | 1/λ | 1/λ² | 无记忆性 |
| 正态 N(μ,σ²) | φ((x−μ)/σ)/(σ√2π) | μ | σ² | CLT 的极限；3σ 规则 |
3σ 规则：P(|X−μ|<σ) ≈ 68.3%，2σ ≈ 95.4%，3σ ≈ 99.7%。标准化：Z = (X−μ)/σ ~ N(0,1)。
随堂检测分布
4 多维随机变量与数字特征
概念联合、边缘、独立与相关
联合分布 F(x,y)、边缘分布（对另一变量求和/积分）；独立 ⇔ F(x,y) = F_X·F_Y。
期望线性性 E(aX+bY) = aE X + bE Y（无需独立）；方差 Var(X±Y) = VarX + VarY ± 2Cov(X,Y)。
协方差 Cov = E(XY)−EX·EY；相关系数 ρ = Cov/(σₓσᵧ) ∈ [−1,1]；|ρ|=1 ⇔ 线性关系；独立 ⇒ 不相关（反之不真）。
条件期望与重期望公式 E X = E[E(X|Y)]。
期望线性性 E(aX+bY) = aE X + bE Y（无需独立）；方差 Var(X±Y) = VarX + VarY ± 2Cov(X,Y)。
协方差 Cov = E(XY)−EX·EY；相关系数 ρ = Cov/(σₓσᵧ) ∈ [−1,1]；|ρ|=1 ⇔ 线性关系；独立 ⇒ 不相关（反之不真）。
条件期望与重期望公式 E X = E[E(X|Y)]。
5 大数定律与中心极限定理
定理平均的魔力
辛钦大数定律：i.i.d. 且 E X = μ 有限 ⇒ 样本均值依概率收敛于 μ——"频率稳定于概率"的理论根据。
列维-林德伯格 CLT：i.i.d.，EX=μ，VarX=σ² > 0 ⇒ √n (X̄ₙ − μ)/σ → N(0,1)。
实务形式：n 大时 X̄ ≈ N(μ, σ²/n)；n ≥ 30 常作近似门槛。
列维-林德伯格 CLT：i.i.d.，EX=μ，VarX=σ² > 0 ⇒ √n (X̄ₙ − μ)/σ → N(0,1)。
实务形式：n 大时 X̄ ≈ N(μ, σ²/n)；n ≥ 30 常作近似门槛。
6 抽样分布
概念统计量自己的分布
正态总体 N(μ,σ²) 下：
① X̄ ~ N(μ, σ²/n)；② (n−1)S²/σ² ~ χ²(n−1) 且与 X̄ 独立；
③ √n(X̄−μ)/S ~ t(n−1)；④ F 分布 = (χ₁²/d₁)/(χ₂²/d₂)。
χ² 分布：标准正态平方和；E = n，Var = 2n。t 分布比正态"胖尾"，n 大时 ≈ N(0,1)。
① X̄ ~ N(μ, σ²/n)；② (n−1)S²/σ² ~ χ²(n−1) 且与 X̄ 独立；
③ √n(X̄−μ)/S ~ t(n−1)；④ F 分布 = (χ₁²/d₁)/(χ₂²/d₂)。
χ² 分布：标准正态平方和；E = n，Var = 2n。t 分布比正态"胖尾"，n 大时 ≈ N(0,1)。
7 参数估计
概念点估计与区间估计
矩法（令样本矩 = 总体矩解参数）；极大似然（让观察到的数据最可能：求 L(θ) 最大值）。例：正态 μ̂ = X̄、σ̂² = S²（MLE 除 n）；指数 λ̂ = 1/X̄。
评价：无偏性 E θ̂ = θ（S² 无偏、MLE σ̂² 有偏）、有效性（方差小）、相合性（n→∞ 收敛）。
置信区间（σ 已知）：X̄ ± z_{α/2}·σ/√n；σ 未知用 t 分布。置信水平 1−α = 长期覆盖率。
评价：无偏性 E θ̂ = θ（S² 无偏、MLE σ̂² 有偏）、有效性（方差小）、相合性（n→∞ 收敛）。
置信区间（σ 已知）：X̄ ± z_{α/2}·σ/√n；σ 未知用 t 分布。置信水平 1−α = 长期覆盖率。
随堂检测CLT 与估计
8 假设检验
概念小概率反证
流程：提 H₀（原假设）/ H₁ → 选统计量（u 检验、t 检验）→ 定显著水平 α 定拒绝域 → 计算观察值 / p 值 → 判断。
两类错误：第一类 = 弃真（H₀ 真却拒绝，概率 = α）；第二类 = 取伪（概率 β）。同时减小只有增大 n。
p 值：在 H₀ 下，出现"当前样本或更极端"的概率；p < α ⇒ 拒绝 H₀。p 值越小证据越强，不等于 H₀ 为真的概率。
两类错误：第一类 = 弃真（H₀ 真却拒绝，概率 = α）；第二类 = 取伪（概率 β）。同时减小只有增大 n。
p 值：在 H₀ 下，出现"当前样本或更极端"的概率；p < α ⇒ 拒绝 H₀。p 值越小证据越强，不等于 H₀ 为真的概率。