机器学习|双正态总体的区间估计（均值、方差的置信区间求法）+ 最优置信区间取法| 15mins 入门 |概统学习笔记（二十九）

双正态总体$N({\mu }_i,{\sigma }_i^2)$的区间估计

1. 两个总体均值差${\mu }_1?{\mu }_2$的置信区间

   （1）${\sigma }_1^2、{\sigma }_2^2$均为已知

   因为$\overline{X}、\overline{Y}$分别为${\mu }_1、{\mu }_2$的无偏估计，故$\overline{X}?\overline{Y}$是${\mu }_1?{\mu }_2$的无偏估计

   由$\overline{X}、\overline{Y}$的独立性及$\overline{X}?N({\mu }_1,\frac{{\sigma }_1^2}{n_1})、\overline{Y}?N({\mu }_2,\frac{{\sigma }_2^2}{n_2})$得
   $$\overline{X}?\overline{Y}?N({\mu }_1?{\mu }_2,\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2})$$
   于是
   $$\frac{(\overline{X}?\overline{Y})?({\mu }_1?{\mu }_2)}{\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}}?N(0,1)$$
   故${\mu }_1?{\mu }_2$在置信度为$1?\alpha$时的置信区间为
   $$[(\overline{X}?\overline{Y})?{\mu }_{a/2}\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}},(\overline{X}?\overline{Y})+{\mu }_{a/2}\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}]$$

   实际应用

   设超大牵伸纺机所纺的纱的断裂强度服从$N({\mu }_1,2.18^2)$，普通纺机所纺的纱的断裂强度服从$N({\mu }_2,1.76^2)$。现对前者抽取容量为200 的样本$X_1,X_2,...,X_{200}$，算得$\overline{X}=5.32$;对后者抽取容量为100的样本$Y_1,Y_2,...,Y_{100}$，算得$\overline{Y}=5.76$。求置信度为0.95时，$\mu_1-\mu_2 $的区间估计。

   解：这是方差已知时求双正态样本的均值差的区间估计。

   依题意得：${\sigma }_1^2=2.18^2;{\sigma }_2^2=1.76^2;n_1=200;n_2=100$
   $$\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}=0.234;\overline{X}?\overline{Y}=?0.44$$
   查正态分布表得：${\mu }_{a/2}={\mu }_{0.025}=1.96$
   $$\begin{gathered} (\overline{X}?\overline{Y})?{\mu }_{a/2}\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}=?0.899 \\ (\overline{X}?\overline{Y})+{\mu }_{a/2}\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}=0.019 \end{gathered}$$
   故所求的${\mu }_1?{\mu }_2$的置信区间为$[?0.899,0.019]$

   （2）${\sigma }_1^2={\sigma }_2^2={\sigma }^2$,但${\sigma }^2$为未知

   由前面提到的定理，可知
   $$T=\frac{(\overline{X}?\overline{Y})?({\mu }_1?{\mu }_2)}{S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}}?t(n_1+n_2?2)$$
   于${\mu }_1?{\mu }_2$在置信度为$1?a$时的置信区间为
   $$[(\overline{X}?\overline{Y})?t_{a/2}(n_1+n_2?2)S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}},(\overline{X}?\overline{Y})+t_{a/2}(n_1+n_2?2)S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}]$$
   其中：
   $$S_w=\sqrt{\frac{(n_1?1)S_1^2+(n_2?1)S_2^2}{n_1+n_2?2}}$$

2. 两个总体方差比${\sigma }_1^2/{\sigma }_2^2$的置信区间

   根据实际情况需要，只需要介绍${\mu }_1、{\mu }_2$未知下的$\frac{{\sigma }_1^2}{{\sigma }_2^2}$的置信区间，由于分布$F(n_1?1,n_2?1)$不依赖任何未知参数，由此得
   P { F 1 ? a / 2 ( n 1 ? 1 , n 2 ? 1 ) < S 1 2 / S 2 2 σ 1 2 / σ 2 2 < F a / 2 ( n 1 ? 1 , n 2 ? 1 ) } = 1 ? a P { S 1 2 S 2 2 ? 1 F a / 2 ( n 1 ? 1 , n 2 ? 1 ) < σ 1 2 σ 2 2 < S 1 2 S 2 2 ? 1 F 1 ? a / 2 ( n 1 ? 1 , n 2 ? 1 ) } = 1 ? a P\{F_{1-a/2}(n_1-1,n_2-1)<\frac{S_1^2/S_2^2}{\sigma_1^2/\sigma_2^2}<F_{a/2}(n_1-1,n_2-1)\}=1-a \\ P\{\frac{S_1^2}{S_2^2}·\frac{1}{F_{a/2}(n_1-1,n_2-1)}<\frac{\sigma^2_1}{\sigma_2^2}<\frac{S_1^2}{S_2^2}·\frac{1}{F_{1-a/2}(n_1-1,n_2-1)}\} = 1-a P{ F1?a/2?(n1??1,n2??1)<σ12?/σ22?S12?/S22??<Fa/2?(n1??1,n2??1)}=1?aP{ S22?S12???Fa/2?(n1??1,n2??1)1?<σ22?σ12??<S22?S12???F1?a/2?(n1??1,n2??1)1?}=1?a
   进而得出$\frac{{\sigma }_1^2}{{\sigma }_2^2}$的置信区间为
   $$[\frac{S_1^2}{S_2^2}?\frac{1}{F_{a/2}(n_1?1,n_2?1)},\frac{S_1^2}{S_2^2}?\frac{1}{F_{1?a/2}(n_1?1,n_2?1)}]$$

• 若样本容量很大，即是总体分布未知，应用中心极限定理，可得总体的近似分布，于是也可以近似求得参数的区间估计

• 给定样本，给定置信水平，置信区间也不是唯一的。对同一个参数，我们可以构造许多置信区间

  e.g 设$X_1,...,X_n$是取自$N(\mu ,{\sigma }^2)$的样本，$\sigma$已知，求参数$\mu$的置信水平为$1?a$的置信区间。

  取枢轴量
  $$U=\frac{\overline{X}?\mu }{\sigma /\sqrt{n}}?N(0,1)$$
  由正态分布表，对任意$a、b$，我们可以求得$P(a<U<b)$.

  如，由$P(?1.96\le U\le 1.96)=0.95$

我们得到均值$\mu$的置信水平为$1?a$的置信区间为
$$[\overline{X}?1.96\sigma /\sqrt{n},\overline{X}+1.96\sigma /\sqrt{n}]$$
同样的，由$P(?1.75\le U\le 2.33)=0.95$

我们得到均值$\mu$的置信水平为$1?a$的置信区间为
$$[\overline{X}?1.75\sigma /\sqrt{n},\overline{X}+2.33\sigma /\sqrt{n}]$$
这个区间比前面一个要长一些。

类似的，我们可以得到若干个不同的置信区间。

任意两个数$a$和$b$，只要它们的纵坐标包含$f(u)$下$95$的面积，就确定一个$95$的置信区间。

但是，我们总是希望置信区间尽可能短。

在概率密度为单峰且对称的情形下，当$a=?b$时，求得的置信区间的长度为最短。

即使是在概率密度不对称的情形下，如${\chi }^2$分布，$F$分布，习惯上仍取对称的百分位点来计算未知参数的置信区间。

我们可以得到未知参数的任何置信水平小于1的置信区间，并且置信水平越高，相应的置信区间的平均长度越长。

也就是说，要想得到的区间估计可靠度高，区间长度就长，估计的精度就差。这是一对矛盾。

实用中应在保证足够可靠的前提下，尽量使得区间的长度短一些。