概率论(四)——抽样分布

一、基本概念

假设有一个整体 𝑋 ,从中选取一组样本 𝑋1,𝑋2,…,𝑋𝑛 ,由这些随机变量组成的函数 𝑔(𝑋1,𝑋2,…,𝑋𝑛) 亦是一个随机变量,称为统计量。

而若这些随机变量的样本值分别取值为 𝑥1,𝑥2,…,𝑥𝑛 ,那么将这些样本值代入统计量函数中,统计量也会落入一个确定的值中,这个值称为观察值。

一些常用的统计量是:

(1)样本均值

(2)样本方差

(3)样本标准差

(4)样本 𝑘 阶(原点)矩

𝐴𝑘=1𝑛∑𝑖=1𝑛𝑋𝑖𝑘

(5)样本 𝑘 阶中心矩

11 值得注意的是,样本方差及标准差与随机变量的方差标准差有些区别。在随机变量中,方差前乘的是 1𝑛 ,而样本方差则是 1𝑛−1 。随机变量的二阶中心矩是它的方差,而统计量的样本二阶中心矩不是它的样本方差。

总体 𝑋 不仅具有理论分布函数 𝐹(𝑥) ,由于样本的选取还会产生经验分布函数。假设从总体本身有 𝑛 个观察值 𝑥1,𝑥2,…,𝑥𝑛 (注意是观察值不是样本值),以符号 #(𝑥𝑖≤𝑥) 表示这组观察值中小于等于 𝑥 的值的个数,那么经验分布函数 𝐹𝑛(𝑥) 就写为:

𝐹𝑛(𝑥)=#(𝑥𝑖≤𝑥)𝑛,−∞<𝑥<+∞

当样本容量趋于正无穷时,实际就是在用频率趋近概率。此时经验分布函数也会逼近理论分布函数。


二、 𝜒2 分布

假设 𝑋1,𝑋2,…,𝑋𝑛 都是来自标准正态分布 𝑁(0,1) 的样本,那么统计量:

𝜒2=𝑋12+𝑋22+…+𝑋𝑛2

服从自由度为 𝑛 的 𝜒2 分布,简记为 𝜒2∼𝜒2(𝑛) 。 𝜒2 分布的概率密度函数为:

𝑓(𝑥)={𝑥𝑛2−1𝑒−𝑥22𝑛2𝛤(𝑛2)𝑥>00Other Cases

𝜒2 分布的期望和方差很简单,分别是 𝐸(𝜒2)=𝑛,𝐷(𝜒2)=2𝑛 。 𝜒2 分布还具有可加性,若有两个相互独立的 𝜒2 变量: 𝜒12∼𝜒2(𝑛1),𝜒22∼𝜒2(𝑛2) ,那么这两个变量之和依旧服从 𝜒2 分布:

𝜒12+𝜒22∼𝜒2(𝑛1+𝑛2)

𝜒2 分布的上 𝛼 分位数记为 𝜒𝛼(𝑛)2 ,需要同时给出 𝛼,𝑛 的值才能确定其值。当 𝑛 充分大时,可以利用标准正态分布的上 𝛼 分位数 𝑧𝛼 来估算之:

𝜒𝛼2(𝑛)≈12(𝑧𝛼+2𝑛−1)2
注 1.(上 𝛼 分位数)

复习:上 𝛼 分位数,是指下式中:

𝑃(𝑋>𝑧𝛼)=𝛼,0<𝛼<1
当 𝑋 服从某种分布,那么 𝑧𝛼 就称为这种分布的上 𝛼 分位数。特别地,总以 𝑧𝛼 代表标准正态分布的上 𝛼 分位数, 𝜒𝛼2(𝑛) 代表 𝜒2 分布的上 𝛼 分位数。

三、 𝑡 分布

若两随机变量分别服从标准正态分布与 𝜒2 分布: 𝑋∼𝑁(0,1),𝑌∼𝜒2(𝑛) ,那么随机变量:

𝑡=𝑋𝑌𝑛

服从自由度为 𝑛 的 𝑡 分布,又称为学生氏分布,简记为 𝑡∼𝑡(𝑛) 。其概率密度函数 ℎ(𝑡) 是一个类似于正态分布的以 𝑦 轴为轴的轴对称图形,因此定义域是整个实数域:

ℎ(𝑡)=𝛤(𝑛+12)𝜋𝑛𝛤(𝑛2)(1+𝑡2𝑛)−𝑛+12

当 𝑛→+∞ 时,上式就趋于标准正态分布。在实用时,当 𝑛>45 就以标准正态分布来近似之。

由于其轴对称性,其上 𝛼 分位数具有性质 𝑡1−𝛼(𝑛)=−𝑡𝛼(𝑛) 。当 𝑛>45 时,取 𝑡𝛼(𝑛)≈𝑧𝛼 。


四、 𝐹 分布

若两个相互独立的随机变量都服从 𝜒2 分布: 𝑋∼𝜒2(𝑛1),𝑌∼𝜒2(𝑛2) ,那么随机变量:

𝐹=𝑋𝑛1𝑌𝑛2

服从自由度为 (𝑛1,𝑛2) 的 𝐹 分布,简记为 𝐹∼𝐹(𝑛1,𝑛2) 。其概率密度函数:

𝜓(𝑥)={𝛤(𝑛1|𝑛22)(𝑛1𝑛2)𝑛12𝑥𝑛12−1𝛤(𝑛12)𝛤(𝑛22)(1+𝑛1𝑥𝑛2)𝑛1+𝑛22𝑥>00Other Cases

由此,若 𝐹∼𝐹(𝑛1,𝑛2) ,那么 1𝐹∼𝐹(𝑛2,𝑛1) 。同样,对于 𝐹 分布的上 𝛼 分位数 𝐹𝛼(𝑛1,𝑛2) ,也有 𝐹1−𝛼(𝑛1,𝑛2)=1𝐹𝛼(𝑛2,𝑛1) 。


五、正态总体的样本均值与样本方差的分布

对于总体 𝑋 (不限定其分布),若其有期望和方差 𝐸(𝑋)=𝜇,𝐷(𝑋)=𝜎2 ,而其一个样本 𝑋1,𝑋2,…,𝑋𝑛 的样本均值和样本方差分别为 ,那么:

现在我们限定总体 𝑋 服从正态分布 𝑁(𝜇,𝜎2) 。其样本均值与样本方差是相互独立的。那么:

(𝑛−1)𝑆2𝜎2∼𝜒2(𝑛−1)

现在我们再限定样本 𝑋1∼𝑛1,𝑌1∼𝑛2 分别来自正态分布 𝑁(𝜇1,𝜎12),𝑁(𝜇2,𝜎22) 且相互独立,这两组样本的样本均值和样本方差分别记为 。那么:

𝑆12𝑆22𝜎12𝜎22∼𝐹(𝑛1−1,𝑛2−1)

而当 𝜎12=𝜎22=𝜎2 时,记 𝑆𝑊2=(𝑛1−1)𝑆12+(𝑛2−1)𝑆22𝑛1+𝑛2−2 ,还有: