参数估计
目录
1 点估计 3
1.1 矩估计 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2 最大似然估计 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2.1 最大似然估计 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2.2 导数法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.2.3 单调似然函数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.2.4 计数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
2 点估计优良性准则 6
2.1 无偏性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
2.1.1 正态分布 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
2.1.2 均匀分布 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
2.2 有效性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
3 区间估计 8
3.1 置信区间 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
3.2 一个正态总体的置信区间 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
3.2.1 方差已知求均值 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
3.2.2 方差未知求均值 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
3.2.3 均值未知求方差 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
3.2.4 均值已知求方差 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
1
3.3 两样本正态总体 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
3.3.1 方差已知求均值 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
3.3.2 方差未知求均值 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
3.3.3 方差未知求方差 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
3.3.4 均值已知求方差 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
3.4 大样本法求解置信区间 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
3.5 置信界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1 点估计
1.1 矩估计
对于一个样本, 可以求出其 𝑘 阶的原点矩和中心矩
𝛼
𝑘
=
1
𝑛
𝑛
Õ
𝑖=1
𝑋
𝑘
𝑖
, 𝑚
𝑘
=
1
𝑛
𝑛
Õ
𝑖=1
(𝑋
𝑖
− 𝑋)
𝑘
对于总体而言, 也有 𝑘 阶原点矩与中心矩
𝛼
𝑘
= 𝐸 𝑋
𝑘
, 𝜇
𝑘
= 𝐸 (𝑋 − 𝐸 𝑋)
𝑘
由大数律样本矩依概率收敛到总体矩
𝑎
𝑘
𝑝
→ 𝛼
𝑘
, 𝑚
𝑘
𝑝
→ 𝜇
𝑘
总体矩是参数的函数, 可以借此得出参数的估计量.矩估计能用低阶矩处理的就不用高阶矩
对于贝努利变量
𝐸 𝑋 = 𝑝 ⇒
ˆ
𝑝 = 𝑋
对于正态分布
𝐸 𝑋 = 𝜇, 𝑉 𝑎𝑟 𝑋 = 𝜎
2
⇒
ˆ
𝜇 = 𝑋,
ˆ
𝜎
2
=
1
𝑛 −1
Õ
(𝑋
𝑘
− 𝑋)
2
还可以利用
𝐸 𝑋
2
= 𝜇
2
+ 𝜎
2
⇒
1
𝑛
Õ
𝑋
2
𝑘
=
ˆ
𝜇
2
+
ˆ
𝜎
2
此处需要注意, 虽然样本矩收敛到总体矩, 但是正态分布的总体矩并不等于 𝜎
2
对于指数分布
𝐸 𝑋 =
1
𝜆
⇒
ˆ
𝜆 =
1
𝑋
其他分布也类似处理
1.2 最大似然估计
1.2.1 最大似然估计
最大似然方法将样本视为联合分布 𝑋 = (𝑋
1
, ··· , 𝑋
𝑛
), 那么 𝑋 就服从一个联合分布
𝑓 (𝑥; 𝜃) = 𝑓 (𝑥; 𝜃
1
, ··· , 𝜃
𝑘
)
其中 𝜃 作为参数对于该分布而言是确定的, 那么 𝑓 (𝑥; 𝜃) 就能认为是在当前分布下样本取 𝑥 的可能性, 而
样本已经取出, 因此需要
选取 𝜃 使得 𝑓 (𝑥; 𝜃) 最大
. 此时视 𝑥 为固定的, 那么
𝑓 (𝑥; 𝜃) = 𝐿(𝜃)
𝐿(𝜃) 称为似然函数, 使得似然函数取最大值的
ˆ
𝜃 就是估计量, 即
𝐿(
ˆ
𝜃) = 𝑚𝑎𝑥𝐿 (𝑥; 𝜃)
称
ˆ
𝜃 为最大似然估计量.
若待估计的参数为 𝜃 的函数 𝑔(𝜃), 则其最大似然估计量为 𝑔(
ˆ
𝜃)
ˆ
𝜃 是样本的函数, 因而也是统计量, 它是样本 𝑋 的函数. 当取样本 𝑋 为一个特定的样本 𝑥 时, 代入就得到
最大似然估计值
由于似然函数作为概率密度函数当然有 𝐿 (𝜃) > 0, 其对数就是存在的, 因而可以定义对数似然函数
𝑙(𝜃) = log 𝐿(𝜃)
由于对数函数单调, 两函数具有相同的最大值点. 有些情况对数似然函数处理更方便 (比如累乘)
最大似然估计量
1.2.2 导数法
当似然函数不单调时, 可以利用导数求驻点得到最大值点
𝑑𝐿 (𝜃)
𝑑𝜃
= 0 𝑜𝑟
𝑑𝑙(𝜃)
𝑑𝜃
= 0
对于正态总体 𝑁 (𝜇, 𝜎
2
), 简单样本 𝑋
1
, ··· , 𝑋
𝑛
, 则
𝐿(𝑥; 𝜇, 𝜎
2
) = (2𝜋)
−
𝑛
2
(𝜎
2
)
−
𝑛
2
exp
−
1
2𝜎
2
Õ
(𝑥
𝑘
− 𝜇)
2
显然取对数方便处理
𝑙(𝑥; 𝜇, 𝜎
2
) = 𝑙𝑛𝐿 = −
𝑛
2
𝑙𝑛2𝜋 −
𝑛
2
𝑙𝑛𝜎
2
−
1
2𝜎
2
Õ
(𝑥
𝑘
− 𝜇)
2
由于密度函数为正,𝐿 极大时 𝑙 也极大. 求偏导
𝜕𝑙(𝑥; 𝜃)
𝜕𝜇
= 0 ⇒
1
𝜎
2
Õ
(𝑥
𝑘
− 𝜇) =
1
𝜎
2
Õ
𝑥
𝑘
− 𝑛𝜇
= 0
𝜕𝑙(𝑥; 𝜃)
𝜕
ˆ
𝜎
2
= 0 ⇒ −
𝑛
2
1
𝜎
2
+
1
2(𝜎
2
)
2
Õ
(𝑥
𝑘
− 𝜇)
2
= 0
于是就能得到
ˆ
𝜇 =
1
𝑛
Õ
𝑥
𝑘
= 𝑥,
ˆ
𝜎
2
=
1
𝑛
Õ
(𝑥
𝑘
− 𝑥)
2
指数分布也是同样取对数似然, 得到
ˆ
𝜆 =
1
𝑥
对于离散分布似然函数是取样本的概率, 如
泊松分布
𝑃(𝑋
1
= 𝑥
1
, ··· , 𝑋
𝑛
= 𝑥
𝑛
) =
Ö
𝜆
𝑥
𝑘
𝑥
𝑘
!
𝑒
−𝜆
= 𝐿 (𝑥; 𝜆)
取对数
𝑙(𝑥; 𝜆) =
Õ
(
𝑥
𝑘
ln 𝜆 − ln(𝑥
𝑘
!) − 𝜆
)
= ln 𝜆
Õ
𝑥
𝑘
− 𝑛 ln(𝑥
𝑘
!) − 𝑛𝜆
求导为零
𝜕𝑙(𝑥; 𝜆)
𝜕𝜆
= 0 ⇒
1
𝜆
Õ
𝑥
𝑘
− 𝑛 = 0
就得到了
ˆ
𝜆 = 𝑋
1.2.3 单调似然函数
考察均匀分布. 设 𝑋 服从 [−𝜃, 𝜃] 上的均匀分布, 那么就有似然函数
𝐿(𝜃) =
1
(2𝜃)
𝑛
那么似然函数就关于 𝜃 单调递减,𝜃 应该取最小的可能值. 而能得到该样本的 𝜃 的最小值为 𝑚𝑎𝑥𝑋
𝑖
(再小
就不可能取出这个样本了!), 因而就得到了 𝜃 的估计量
ˆ
𝜃 = max 𝑥
𝑖
1.2.4 计数
当 𝑋 是离散随机变量时, 固然可以利用乘积的方式将似然函数写出. 但是当 𝑋 取值较少时, 利用计数的
方式构造新的随机变量可能更便利, 如贝努利变量 𝑋 ∼ 𝐵𝑒𝑟 (𝑝), 记 1 的数目为 𝑛
1
, 总数为 𝑛, 那么似然函
数就是
𝐿(𝑝) = (1 − 𝑝)
𝑛−𝑛
1
𝑝
𝑛
1
利用导数就可以得到
ˆ
𝑝 =
𝑛
1
𝑛
参数也可以写为新参数的函数. 如 𝑥 = 0, 1, 2 服从
𝑓 (0) =
1
2
[(1 − 𝜃)
2
+ 𝜃
2
], 𝑓 (1) = 1 − [(1 − 𝜃)
2
+ 𝜃
2
], 𝑓 (2) =
1
2
[(1 − 𝜃)
2
+ 𝜃
2
]
可以取 𝑛
𝑖
= #{𝑋
1
, ··· , 𝑋
𝑛
中等于 i 的个数}, 并取
𝜂 = (1 − 𝜃)
2
+ 𝜃
2
那么似然函数就是
𝐿(𝜂) = 𝜂
𝑛
0
+𝑛
2
(1 − 𝜂)
𝑛
1
= 𝜂
𝑛−𝑛
1
(1 − 𝜂)
𝑛
1
若是还给定了 𝜃 的上界为 1/2, 那么 𝜂 的上界也为 1/2, 于是
ˆ
𝜂 = min
𝑛
1
𝑛
,
1
2
进而由函数关系得到 𝜃 的最大似然估计量就是
ˆ
𝜃 =
1 −
p
1 − 2
ˆ
𝜂
2
2 点估计优良性准则
2.1 无偏性
设
ˆ
𝑔(𝑋
1
, ··· , 𝑋
𝑛
) 为待估函数 𝑔(𝜃) 的一个估计量, 它作为样本的函数自然可以取期望. 若有
𝐸
ˆ
𝑔(𝑋
1
, ··· , 𝑋
𝑛
) = 𝑔(𝜃)
则称
ˆ
𝑔(𝑋
1
, ··· , 𝑋
𝑛
) 为 𝑔(𝜃) 的无偏估计量
2.1.1 正态分布
考察正态分布 𝑋 ∼ 𝑁 (𝜇, 𝜎), 则
ˆ
𝜎
2
=
1
𝑛
Õ
(𝑋
𝑘
− 𝑋)
2
其期望为
𝐸
ˆ
𝜎
2
= 𝐸𝑚
2
=
1
𝑛
Õ
(𝑥
𝑘
− 𝑥)
2
=
1
𝑛
𝐸
Õ
𝑥
2
𝑘
+ 𝐸𝑥
2
利用正态分布的性质有 𝐸
Í
𝑥
2
𝑘
= 𝑛(𝜎
2
+ 𝜇
2
), 因此对于每一个随机变量 𝑋
𝑘
𝐸 𝑋
2
𝑘
= 𝜇
2
+ 𝜎
2
它们是独立同分布的, 因此
𝐸
Õ
𝑋
2
𝑘
= 𝑛(𝜇
2
+ 𝜎
2
)
同样, 由于独立同分布有
𝑥 ∼ 𝑁
𝜇,
r
𝜎
𝑛
⇒ 𝐸 𝑋
2
= 𝜇
2
+
𝜎
𝑛
因此得到
𝐸
ˆ
𝜎
2
=
𝑛 − 1
𝑛
𝜎
2
因此
ˆ
𝜎
2
为有偏估计, 但可以对其做修正
𝐸
𝑛
𝑛 − 1
ˆ
𝜎
2
= 𝜎
2
这是一个无偏估计量
𝑛
𝑛 − 1
ˆ
𝜎
2
=
1
𝑛 − 1
Õ
(𝑥
𝑘
− 𝑥)
2
= 𝑆
2
2.1.2 均匀分布
对于均匀分布 𝑋 ∼ 𝑈
[0, 𝜃 ]
𝑀𝐸 :
ˆ
𝜃
1
= 2𝑥 ⇒ 𝐸
ˆ
𝜃
1
= 𝐸2𝑋 = 𝜃
因此
ˆ
𝜃
1
是一个无偏估计量
实际上,矩估计得到的估计量一般都为无偏估计量. 考察最大似然给出的估计量
𝑀 𝐿𝐸 :
ˆ
𝜃
2
= 𝑋
(𝑛)
当 𝑋
(𝑛)
小于 𝑥 时, 全部 𝑋
𝑘
都小于 𝑥, 由此可以得到分布函数
𝐹
𝑋
(𝑛)
=
Ö
𝐹
𝑋
𝑘
(𝑥) =
𝑥
𝑛
𝜃
𝑛
求导得到分布函数
𝑓
𝑋
(𝑛)
=
𝑛
𝜃
𝑛
𝑥
𝑛−1
积分得到期望
𝐸
ˆ
𝜃
2
=
∫
𝜃
0
𝑥 ·
𝑛
𝜃
𝑛
𝑥
𝑛−1
𝑑𝑥 =
𝑛
𝑛 + 1
𝜃
这是一个有偏估计, 可以修正为无偏估计量
𝑛 + 1
𝑛
𝑋
(𝑛)
2.2 有效性
设
ˆ
𝑔
1
(𝑋
1
, ··· , 𝑋
𝑛
), 和
ˆ
𝑔
2
(𝑋
1
, ··· , 𝑋
𝑛
) 为待估计函数 𝑔(𝜃) 的两个不同的无偏估计量, 若对任意的 𝜃 ∈ Θ, 有
𝑉𝑎𝑟
ˆ
𝑔
1
(𝑋
1
, ··· , 𝑋
𝑛
) ≤ 𝑉 𝑎𝑟
ˆ
𝑔
2
(𝑋
1
, ··· , 𝑋
𝑛
)
并且至少对于某个 𝜃
0
∈ Ω 使得不等式严格成立, 则称
ˆ
𝑔
1
较
ˆ
𝑔
2
有效
一般而言
最大似然估计得出的估计量要比矩估计更有效
. 如对于均匀分布 𝑈 (0, 𝜃)
𝑀𝐸 :
ˆ
𝜃
𝑀
=
1
2
𝑋, 𝑀 𝐿𝐸 :
ˆ
𝜃
𝐿
= max 𝑋
𝑖
对于
ˆ
𝜃
𝑀
𝑉𝑎𝑟
ˆ
𝜃
𝑀
= 𝑉 𝑎𝑟
1
2
𝑋 =
1
4𝑛
𝑉𝑎𝑟 𝑋 =
𝜃
2
48𝑛
对于
ˆ
𝜃
𝐿
𝑉𝑎𝑟
ˆ
𝜃
𝐿
= 𝑉 𝑎𝑟 𝑋
(𝑛)
此处借用上文得出的分布
𝑓
𝑋
(𝑛)
=
𝑛
𝜃
𝑛
𝑥
𝑛−1
因而
𝐸 𝑋
2
(𝑛)
=
∫
𝜃
0
𝑛
𝜃
𝑛
𝑥
𝑛+1
𝑑𝑥 =
𝑛𝜃
2
𝑛 + 2
得到方差
𝑉𝑎𝑟 𝑋
(𝑛)
= 𝐸 𝑋
2
(𝑛)
− (𝐸 𝑋
(𝑛)
)
𝑛
=
𝑛𝜃
2
𝑛 + 2
−
𝑛
2
𝜃
2
(𝑛 + 1)
2
=
𝑛𝜃
2
(𝑛 + 1)
2
(𝑛 + 2)
𝑛 ≥ 7 时就有 𝑉𝑎𝑟
ˆ
𝜃
𝐿
< 𝑉𝑎𝑟
ˆ
𝜃
𝑀
, 在 𝑛 较大时
ˆ
𝜃
𝐿
更有效
3 区间估计
3.1 置信区间
对于样本 𝑋
1
, ··· , 𝑋
𝑛
是从总体中抽取的样本, 希望找到统计量 𝜃, 𝜃 (它们是样本的函数!)使得
𝑃(𝜃 ≤ 𝜃 ≤ 𝜃) = 1 − 𝛼
称 1 − 𝛼 为置信系数或置信水平,[𝜃, 𝜃] 为置信区间
区间长度反应精确性, 当然越短越好;1 − 𝛼 是概率, 反应可靠性当然越大越好. 当然这两个事情是矛盾的,
要求
在保障可靠性的前提下提高精确性
求解置信区间一般采取枢轴变量法, 一般分为以下步骤
1. 找到一个与 𝜃 有关的统计量 𝑇, 一般取其的良好点估计 (多数通过最大似然构造).𝜃 不一定必须是分
布中的参数, 也可以是它们的一个函数
2. 用 𝜃 与 𝑇 构造一个变量 𝑆, 它服从一个无参数分布 𝐹
3. 取 𝐹 的上 𝛼/2 分位数与下 𝛼/2 分位数, 得到 𝑆, 进而得到 𝜃
实际上, 此处 𝐹 的分位数有更好的取法可以使得区间更精确, 但是效果有限, 简单起见采取 𝛼/2 分位数
3.2 一个正态总体的置信区间
3.2.1 方差已知求均值
求参数 𝜇 的 1 − 𝛼 置信区间,𝜎 已知
𝜇 的点估计为 𝑋. 构造无参数分布 (就是标准化)
𝑇 =
𝑋 − 𝜇
𝜎
p
1/𝑛
∼ 𝑁 (0, 1)
设 𝑁 (0, 1) 的上 𝛼/2 分位数是 𝑈
𝛼
2
, 那么由于正态分布的对称性就有那么
𝑃
−𝑈
𝛼
2
≤ 𝑇 ≤ 𝑈
𝛼
2
= 1 − 𝛼
它对应的 𝜇 的区间 (出现了, 置信区间!) 就是
𝑋 −
1
√
𝑛
𝑈
𝛼
2
≤ 𝜇 ≤ 𝑋 +
1
√
𝑛
𝑈
𝛼
2
于是
𝜃 = 𝑋 −
1
√
𝑛
𝑈
𝛼
2
, 𝜃 = 𝑋 +
1
√
𝑛
𝑈
𝛼
2
3.2.2 方差未知求均值
若 𝜎 未知,𝜇 的点估计为样本均值 𝑋. 可以利用样本方差构造无参数分布
𝑇 =
√
𝑛(𝑋 − 𝜇)
𝑆
∼ 𝑡
𝑛−1
那么同样地, 记 𝑡
𝑛−1
的上 𝛼/2 分位数为 𝑡
𝑛−1
𝛼
2
𝑃
−𝑡
𝑛−1
𝛼
2
≤ 𝑇 ≤ 𝑡
𝑛−1
𝛼
2
= 1 − 𝛼
对应 𝜇 的区间就是
𝑋 −
𝑆
√
𝑛
𝑡
𝑛−1
𝛼
2
≤ 𝜇 ≤ 𝑋 +
𝑆
√
𝑛
𝑡
𝑛−1
𝛼
2
3.2.3 均值未知求方差
若 𝜇 未知, 希望求 𝜎
2
的置信区间,𝜎 的良好点估计为样本标准差 𝑆
ˆ
𝜎
2
= 𝑆
2
=
1
𝑛 − 1
Õ
(𝑋
𝑘
− 𝑋)
2
可以构造无参数分布
𝑇 =
(𝑛 − 1)𝑆
2
𝜎
2
∼ 𝜒
2
𝑛−1
记 𝜒
2
𝑛−1
的上 𝛼/2 分位数为 𝜒
2
𝑛−1
𝛼
2
, 那么
𝑃
−𝜒
2
𝑛−1
𝛼
2
≤ 𝑇 ≤ 𝜒
2
𝑛−1
𝛼
2
= 1 − 𝛼
对应的 𝜎
2
的区间就是
(𝑛 − 1)𝑆
2
𝜒
2
𝑛−1
𝛼
2
≤ 𝜎
2
≤
(𝑛 − 1)𝑆
2
𝜒
2
𝑛−1
1 −
𝛼
2
3.2.4 均值已知求方差
若 𝜇 已知, 就可以直接用定义构造 𝜒
2
分布
𝑇 =
Õ
(𝑥
𝑘
− 𝜇
0
)
2
𝜎
2
∼ 𝜒
2
𝑛
那么
𝑃
𝜒
2
𝑛
1 −
𝛼
2
≤ 𝑇 ≤ 𝜒
2
𝑛
𝛼
2
对应 𝜎
2
的区间就是
Í
(𝑥
𝑘
− 𝜇
0
)
𝜒
2
𝑛
𝛼
2
≤ 𝜎
2
≤
Í
(𝑥
𝑘
− 𝜇
0
)
𝜒
2
𝑛
1 −
𝛼
2
3.3 两样本正态总体
3.3.1 方差已知求均值
若 𝜎
2
1
, 𝜎
2
2
已知,𝜇
1
− 𝜇
2
的置信区间.𝜇
1
− 𝜇
2
有点估计
ˆ
𝜇
1
−
ˆ
𝜇
2
= 𝑋 −𝑌
做标准化得到无偏估计 (标准正态)
𝑇 =
(𝑋 −𝑌 ) − (𝜇
1
− 𝜇
2
)
r
𝜎
2
1
𝑛
+
𝜎
2
2
𝑚
∼ 𝑁 (0, 1)
有
𝑃
|
𝑇
|
≤ 𝑈
𝛼
2
= 1 − 𝛼
就得到了所求的范围
𝑋 −𝑌 −
s
𝜎
2
1
𝑛
+
𝜎
2
2
𝑚
𝑈
𝛼
2
≤ 𝜇
1
− 𝜇
2
≤ 𝑋 −𝑌 +
s
𝜎
2
1
𝑛
+
𝜎
2
2
𝑚
𝑈
𝛼
2
3.3.2 方差未知求均值
若 𝜎
2
1
= 𝜎
2
2
= 𝜎
2
未知(必须相等, 不然消不掉 𝜎!), 可以依照定义构造 𝑡 分布
h
𝑋 −𝑌
− (𝜇
1
− 𝜇
2
)
i
r
𝜎
2
𝑛
+
𝜎
2
𝑚
s
(𝑛 − 1)𝑆
2
𝑥
𝜎
2
+
(𝑚 − 1)𝑆
2
𝑌
𝜎
2
(𝑚 + 𝑛 − 2)
∼ 𝑡
𝑚+𝑛−2
与前面相同可以得到所求区间 (不用 ± 写就写不下了)
𝜇
1
− 𝜇
2
∈ 𝑋 −𝑌 ±
r
1
𝑛
+
1
𝑚
·
s
(𝑛 − 1)𝑆
2
𝑋
+ (𝑚 − 1)𝑆
2
𝑌
𝑚 + 𝑛 − 2
𝑡
𝑚+𝑛−2
𝛼
2
由于该构造需要方差相等, 因此若是都不知道应该先检验方差
3.3.3 方差未知求方差
若 𝜇
1
, 𝜇
2
未知, 希望得到
𝜎
2
1
𝜎
2
2
的置信区间. 由于 𝜎 的优良点估计是 𝑆
ˆ
𝜎
2
1
𝜎
2
2
=
𝑆
2
1
𝑆
2
2
于是可以依照定义构造 𝐹 分布 (卡方除以自由度)
(𝑛 − 1)𝑆
2
1
𝜎
2
1
(𝑛 − 1)
(𝑚 − 1)𝑆
2
2
𝜎
2
2
(𝑚 − 1)
∼ 𝐹
𝑛−1,𝑚−1
⇔
𝑆
2
2
𝑆
2
1
𝜎
2
1
𝜎
2
2
∼ 𝐹
𝑚−1,𝑛−1
有
𝑃
©
«
1
𝐹
𝑛−1,𝑚−1
𝛼
2
≤ 𝑇 ≤ 𝐹
𝑚−1,𝑛−1
𝛼
2
ª
®
®
¬
= 1 − 𝛼
注意此处运用了关于 𝐹 的分位数的结论
𝐹 ∼ 𝐹
𝑚,𝑛
⇔
1
𝐹
∼ 𝐹
𝑛,𝑚
⇒ 𝐹
𝑚,𝑛
(1 − 𝛼/2) =
1
𝐹
𝑛,𝑚
(𝛼/2)
得到所求的区间
𝑆
2
1
𝑆
2
2
·
1
𝐹
𝑛−1,𝑚−1
𝛼
2
≤
𝜎
2
1
𝜎
2
2
≤
𝑆
2
1
𝑆
2
2
· 𝐹
𝑚
−
1
,𝑛
−
1
𝛼
2
3.3.4 均值已知求方差
若 𝜇
1
, 𝜇
2
已知, 同样可以依照定义构造 𝐹 分布
1
𝑛
Í
(𝑋
𝑖
− 𝜇
1
)
2
𝜎
2
1
1
𝑚
Í
(𝑌
𝑗
− 𝜇
2
)
2
𝜎
2
2
∼ 𝐹
𝑛,𝑚
得到所求区间
1
𝑛
Í
(𝑋
𝑖
− 𝜇
1
)
2
1
𝑚
Í
(𝑌
𝑗
− 𝜇
2
)
2
1
𝐹
𝑛,𝑚
𝛼
2
≤
𝜎
2
1
𝜎
2
2
≤
1
𝑛
Í
(𝑋
𝑖
− 𝜇
1
)
2
1
𝑚
Í
(𝑌
𝑗
− 𝜇
2
)
2
𝐹
𝑚,𝑛
𝛼
2
3.4 大样本法求解置信区间
由中心极限定理可知, 总体 𝑋 及简单随机样本 𝑋
1
, ··· , 𝑋
𝑛
, 已知 𝑋 的方差为 𝜎
2
, 那么
𝑋 − 𝜇
p
𝜎
2
/𝑛
→ 𝑁 (0, 1)
对于任意总体, 有期望 𝜇, 方差未知时
𝑋 − 𝜇
p
𝑆
2
/𝑛
∼ 𝑡
𝑛−1
→ 𝑁 (0, 1)
𝑛 ⇒ ∞,𝑡 分布变为正态分布, 那么
𝜇 ∈ 𝑋 ±
𝑆
√
𝑛
𝑈
𝛼
2
3.5 置信界
有时只对参数 𝜃 的一端感兴趣. 若
𝑃(𝜃 ≤ 𝜃) ≥ 1 − 𝛼
则称 𝜃 为 𝜃 的一个置信上界. 若
𝑃(𝜃 ≥ 𝜃) ≥ 1 − 𝛼
则称 𝜃 为 𝜃 的一个置信下界. 置信界的求解方法与置信区间相同
