中心极限定理:原理

标准表述(最常用的独立同分布版本)

设 X1,X2,…,XnX_1, X_2, \ldots, X_n是从同一个分布里独立抽出来的随机样本,不管这个分布是什么形状,只要:

  • 期望存在:𝔼[Xi]=μ\mathbb{E}[X_i] = \mu
  • 方差有限且不为零:Var(Xi)=σ2>0\mathrm{Var}(X_i) = \sigma^2 > 0

那么当 nn 越来越大时,标准化后的样本均值会依分布收敛到标准正态:Zn=X‾n−μσ/n→dN(0,1)Z_n = \frac{\bar{X}_n – \mu}{\sigma/\sqrt{n}} \;\xrightarrow{d}\; N(0,1)

其中 X‾n=1n∑i=1nXi\bar{X}_n = \frac{1}{n}\sum_{i=1}^n X_i是样本均值。

符号读法大白话
→d\xrightarrow{d}​“依分布收敛”随着 n 变大,这个统计量的概率密度形状越来越像 N (0,1),不是指它的值逼近某个数
X‾n−μ\bar{X}_n – \mu样本均值减总体均值抽样误差(中心偏移)
σ/n\sigma / \sqrt{n}标准误(standard error)抽样误差本身的 “典型大小”—— 除以 √n 就是说样本越大,均值越稳
N(0,1)N(0,1)标准正态分布均值 0、方差 1 的钟形曲线
  1. 不管母分布是什么形状(均匀的、指数的、偏态的、甚至抛硬币的 0/1),只要独立、方差有限,把 n 个加起来再平均,结果的形状会自动 “长成” 钟形正态曲线。
  2. 为什么要除以 n\sqrt{n} 而不是 n:独立变量求和时,方差是相加的Var(∑Xi)=nσ2\mathrm{Var}(\sum X_i) = n\sigma^2,所以标准差按n \sqrt{n}增长;除以σ/n \sigma/\sqrt{n}是在 “标准化”,把尺度拉回统一坐标系。
  3. 收敛速度:一般 n≥30n ≥ 30 就够用,n≥100n ≥ 100 已经很稳。但如果母分布严重偏态或有厚尾,需要更大的 n。这也是为什么泊松当年能拿出柯西分布当反例 —— 柯西分布连方差都不存在,CLT 直接失效。
硬币投掷与正态分布
硬币投掷实验室
COIN TOSS → NORMAL

正面次数如何长成钟形?

每次投掷正面概率 p = 0.5;改变投掷次数 n,观察概率分布。

正面 k 次的实际概率正态近似曲线

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注