1 大数定律
如果对任意 𝜖 > 0, 都有
lim
𝑛→∞
𝑃(
|
𝜉
𝑛
− 𝜉
|
≥ 𝜖) = 0
则称随机变量序列 {𝜉
𝑛
, 𝑛 ∈ N}, 依概率收敛到随机变量 𝜉
设 {𝑋
𝑛
} 是一列
独立同分布
的随机变量序列, 具有公共的数学期望 𝜇 和方差 𝜎
2
, 则
𝑋 =
1
𝑛
𝑛
Õ
𝑘=1
𝑋
𝑘
→ 𝜇
需要马尔可夫不等式
𝑃(𝑌 ≥ 𝜖 ) ≤
𝐸𝑌
𝜖
也就是
∫
+∞
𝜖
𝑓
𝑌
(𝑦)𝑑𝑦 ≤
1
𝜖
∫
+∞
0
𝑦 𝑓
𝑌
(𝑦)𝑑𝑦 =
1
𝜖
∫
+∞
𝜖
𝑦 𝑓
𝑌
(𝑦) +
1
𝜖
∫
𝜖
0
𝑦 𝑓
𝑌
(𝑦)𝑑𝑦𝑑𝑦
由于
1
𝜖
∫
+∞
𝜖
𝑦 𝑓
𝑌
(𝑦) ≤
1
𝜖
∫
+∞
𝜖
𝜖 𝑓
𝑌
(𝑦)
得知成立. 由此可以证明切比雪夫不等式
𝑃(
|
𝑌 − 𝐸𝑌
|
≥ 𝜖) ≤
𝑉𝑎𝑟𝑌
𝜖
2
由马尔可夫, 左边等于
𝐿𝐻𝑆 = 𝑃(
|
𝑌 − 𝐸𝑌
|
2
≥ 𝜖
2
) ≤
𝐸 (𝑌 − 𝐸𝑌)
𝜖
= 𝑅𝐻𝑆
因此即证. 那么由此
lim
𝑛→+∞
𝑃(
𝑋 − 𝜇
≥ 𝜖) = 0 ⇒ lim
𝑛→∞
𝑃(
𝑋 − 𝐸 (𝑋)
≥ 𝜖) ≤
𝑉𝑎𝑟 𝑋
𝜖
2
=
𝜎
2
𝑛𝜖
2
→ 0
即证
2 中心极限定理
设 {𝑋
𝑛
} 为独立同分布的随机变量序列, 具有共同的数学期望 𝜇 和方差 𝜎
2
, 则 𝑋
1
, 𝑋
2
, ··· , 𝑋
𝑛
的标准化形
式
1
√
𝑛𝜎
(𝑋
1
+ ··· + 𝑋
𝑛
− 𝑛𝜇) ∼ 𝐹
𝑛
(𝑥)
满足中心极限定理, 即
lim
𝑛→∞
𝐹
𝑛
(𝑥) = Φ(𝑥)
其中 𝐹
𝑛
(𝑥) 为
1
√
𝑛𝜎
(𝑋
1
+ ··· + 𝑋
𝑛
− 𝑛𝜇) 的分布函数,Φ(𝑥) 为 𝑁 (0, 1) 的分布函数, 记为
1
√
𝑛𝜎
(𝑋
1
+ ··· + 𝑋
𝑛
− 𝑛𝜇) → Φ(𝑥)
取 𝑋
𝑖
∼ 𝐵𝑒𝑟 (𝑝), 则
𝑌
𝑛
=
Õ
𝑋
𝑖
∼ 𝐵(𝑛, 𝑝)
那么由上述定理
𝑃(𝑡
1
≤ 𝑌
𝑛
≤ 𝑡
2
) = 𝑃
𝑡
1
− 𝑛𝑝
√
𝑛𝑝𝑞
≤
𝑌
𝑛
− 𝑛𝑝
√
𝑛𝑝𝑞
≤
𝑡
2
− 𝑛𝑝
√
𝑛𝑝𝑞
记为
𝑃(𝑡
1
≤ 𝑌
𝑛
≤ 𝑡
2
) = 𝑃
𝑇
1
≤
𝑌
𝑛
− 𝑛𝑝
√
𝑛𝑝𝑞
≤ 𝑇
2
则
𝑃(𝑡
1
≤ 𝑌
𝑛
≤ 𝑡
2
) = Φ(𝑇
2
) − Φ(𝑇
1
)
由于二项分布是离散的, 正态分布是连续的, 所有需要修正.取中间值得到
𝑇
∗
1
=
𝑡
1
−
1
2
− 𝑛𝑝
√
𝑛𝑝𝑞
, 𝑇
∗
2
=
𝑡
2
+
1
2
− 𝑛𝑝
√
𝑛𝑝𝑞
当然也可以不修正
设 {𝑋
𝑛
} 为独立的随机变量序列, 具有数学期望 𝐸 𝑋
𝑘
= 𝜇
𝑘
, 方差 𝑉 𝑎𝑟 𝑋
𝑘
= 𝜎
2
𝑘
. 记
𝐵
2
𝑛
=
𝑛
Õ
𝑘=1
𝜎
2
𝑘
若存在 𝛿 > 0 使得 𝑛 → +∞ 时
1
𝐵
2+𝛿
𝑛
𝑛
Õ
𝑘=1
𝐸
|
𝑋
𝑘
− 𝐸 𝑋
𝑘
|
2+𝛿
→ 0
则有
lim
𝑛→∞
𝑃
Õ
𝑘
𝑋
𝑘
− 𝜇
𝑘
𝐵
𝑛
≤ 𝑥
!
= Φ(𝑥)
