概率论与数理统计复习

概率论与数理统计复习 一、概率论的基本概念：

1、事件的运算律：

交换律：，；

结合律：，；

分配律：，；

德·摩根法则：，；

减法运算：。

2、概率的性质：

性质1 ；

性质2（有限可加性）当个事件两两互不相容时，；

性质3 对于任意一个事件，；

性质4 当事件满足时，；

性质5 对于任意两个随机事件，；

性质6 对于任意一个事件；

性质7（广义加法法则）对于任意两个事件。

3、条件概率：

在已知发生的条件下，事件的概率为：

（）。

注意：所有概率的性质对条件概率依然适用，但使用公式必须在同一条件下进行。

4、全概率公式与贝叶斯公式：

设个事件构成样本空间的一个划分，是一个事件，当（）时，全概率公式：；

贝叶斯公式：当时。

应用全概率公式和贝叶斯公式计算事件的概率或其在已知条件下的条件概率时，关键的问题是找到一个完备事件组，使得能且仅能与之一同时发生，然后运用古典概型、概率的加法和乘法法则计算出和，并套用全概率公式或贝叶斯公式即可。若一个较复杂的事件是由多种“原因”产生的样本点构成时，多考虑用全概率公式，而这些样本点就构成一个完备事件组；

若已知试验结果而要追查“原因”时，往往使用贝叶斯公式，这些“原因”的全体即是所求的完备事件组。

5、随机事件的独立性：

事件独立性的结论：

（1）事件与独立；

（2）若事件与独立，则与，与，与中的每一对事件都相互独立；

（3）若事件与独立，且，则，；

（4）若事件相互独立，则；

（5）若事件相互独立，则。

注意：

（1）事件相互独立只要求满足，而事件互斥（互不相容）只要求，这两个概念前一个与事件的概率有关，后一个与事件有关，两者之间没有必然的联系；

（2）如果事件相互独立，则与不相关，反之一般不成立。

（3）对于任意个随机事件，相互独立则两两独立，反之未必；

（4）对于任意个相互独立的随机事件，它们中任意一部分事件的运算结果（和、差、积、逆等）与其他一部分事件或它们的运算结果都相互独立，如：与，与，与都相互独立；

6、贝努利概型与二项概率公式：

设一次试验中事件发生的概率为，则重贝努利试验中，事件恰好发生次的概率为。

贝努利试验每次试验相互独立，只关心某一次试验中事件或是否发生，且每次事件发生的概率都相同。

二、随机变量及其分布：

（一）离散型随机变量及其分布：

1、分布律（概率函数）及其性质：

离散型随机变量的分布律（概率函数）为：。

分布律也可以写成表格形式，列表法是求解离散型随机变量问题的常用方法。

离散型随机变量的分布律（概率函数）的性质：

（1），；

（2）。

注意：确定分布律中的未知常数大多考虑随机变量分布律的性质。

2、离散型随机变量的分布律与分布函数和事件概率的关系：

如果已知的分布律为，则的分布函数 ；

而事件的概率为。

3、离散型随机变量函数的分布：

如果已知的分布律为，则当的所有取值为（）时，随机变量有分布律。

注意：

（1）若和均为无限可列的离散型随机变量，需要注意函数关系的转化求分布律，如：已知，要求的分布律，则 ；

（2）求离散型随机变量函数分布时，要注意对应不同的时，的值有没有重复，若的值有重复，则。

（二）连续型随机变量及其概率密度：

1、连续型随机变量的概率密度函数的性质：

（1）；

（2）；

（3）。

2、连续性随机变量的概率密度与分布函数和事件概率之间的关系：

（1）若的概率密度为，则的分布函数为，当为分段函数时其分布函数要做分段讨论；

（2）；

（3）若的分布函数为，则在连续点处有。

3、连续性随机变量函数的分布：

方法一：

设随机变量的概率密度函数为，那么的分布函数为，其概率密度函数为。

方法二：

设随机变量的概率密度函数为，那么的概率密度为 其中是的反函数。

三、多维随机变量及其分布：

（一）二维离散型随机变量：

1、联合分布律（概率函数）：

二维离散型随机变量的联合分布律为：，；

联合概率函数可以计算概率：对于平面上任意一个集合。

2、边缘分布律：

二维离散型随机变量关于和的边缘分布律分别为：，；。

注意：

（1）求离散型随机变量的边缘分布函数，常先求出其边缘分布律，将其化为求一元离散型随机变量的分布函数；

（2）列表法是解决联合分布和边缘分布问题常用的方法。

3、条件分布律：

是二维离散型随机变量，在条件下随机变量的条件分布律为：，；

在条件下随机变量的条件分布律为：。

4、随机变量的独立性：

离散型随机变量相互独立的条件是。

5、随机变量函数的分布律：

已知离散型随机变量的分布律，则的分布为：。

（二）二维连续型随机变量：

1、联合概率密度：

若为的联合概率密度，则分布函数为；

联合概率函数可以计算概率：对于平面上任意一个区域。

2、边缘概率密度：

二维连续型随机变量关于和的边缘概率密度分别为：

和。

3、条件概率密度：

是二维连续型随机变量，在条件下随机变量的条件概率密度为：，；

在条件下随机变量的条件概率密度为：，；

4、随机变量的独立性：

连续型随机变量相互独立的充要条件是。

5、随机变量函数的分布：

设连续型随机变量的概率密度为，则的分布函数为：，其概率密度为。

注意：

几种特殊类型的的分布函数：

（1），特别地，当与相互独立时。

实际运算时，通常使用以下变形：，其中。通过求导可得。

计算其他略微复杂的时也可用类似方法，关键在于确定重积分的积分区域。

（2）以及 设相互独立，分布函数分别为和，则。

这个结论可以推广到个事件的情况。

四、随机变量的数字特征：

（一）数学期望：

1、数学期望的计算公式：

离散型随机变量的分布律为，则 ；

连续型随机变量的概率密度为，则。

2、数学期望的性质：

设，都是常数。

（1）；

（2）；

（3）；

（4）当相互独立时。

3、随机变量函数的数学期望：

（1）是连续函数，当为离散型随机变量，其分布律为，则 ；

当为连续型随机变量，其概率密度为，则。

（2）是连续函数，当为离散型二维随机变量，其分布律为，则 ；

当为连续型二维随机变量，其概率密度为，则。

4、对于不易求分布律的随机变量计算数学期望，往往将分解为数个随机变量之和，然后利用数学期望的性质求；

如：书上例题4.8。

（二）方差：

1、方差的定义式：；

方差的计算公式：。

注意：

公式变换：。

2、方差的性质：

设，都是常数。

（1）；

（2）；

结合性质（1）、（2）有，；

（3）当相互独立时，；

（4），反之，如果某个随机变量的方差为，则，且。

3、切比雪夫不等式：

假设随机变量具有数学期望以及方差，则对于任意的，有，或者。

（三）协方差：

1、协方差的定义式：；

协方差的计算公式：。

注意：

由协方差定义以及计算公式得出的一些推论：

（1）；

（2）当与相互独立时，；

（3）。

2、协方差的性质：

设，都是常数。

（1）；

（2）；

（3）；

（4）。

注意：性质（4）的应用，如。

（四）相关系数：

1、相关系数的计算公式：。

注意：

相关系数计算公式的变换：。

2、相关系数的性质：

设，（1）；

（2）；

（3）设之间有线性关系，即存在不为零的常数与常数使，则，且时，时。

3、相关性与独立性：

当时，与不相关，可以等价的表示为 或 或 ；

也就是说与不相关是数字特征相关性质成立的充分必要条件。

当时，与相互独立，如果与相互独立，那么，与不相关；

反之一般不成立。也就是说与相互独立只是上述四个性质成立的一个充分条件。

当服从二维正态分布时，不相关与独立等价。

（五）矩与协方差矩阵：

1、原点矩与中心矩：

为阶原点矩，为阶中心矩。是一阶原点矩，是二阶中心矩。

注意：

若，则的原点矩与中心矩相同，即。

2、协方差矩阵：的协方差矩阵为：。

3、柯西—许瓦兹不等式：

设是任意一个二维随机变量。

由柯西—许瓦兹不等式可得，即高阶矩的存在保证低阶矩一定存在，反之未必。

五、几种重要的分布：

（一）二项分布：

记作，随机变量表示次试验中事件发生的次数，为事件在每次试验中出现的概率。

1、二项分布的概率函数：。

注意：

事件最多发生次的概率：；

事件发生次数不少于不大于的概率：。

2、二项分布的数字特征：。

3、二项分布的性质：

（分布的可加性）设与相互独立，当，时，；

（二）0—1分布：

记作，表示事件发生的概率，凡是样本空间仅有两个样本点构成的贝努利试验都可以用服从0—1分布的随机变量来刻画。

1、0—1分布的概率函数：。

2、0—1分布的数字特征：。

3、0—1分布的性质：

设是独立同分布的随机变量，且。记。那么。

（三）泊松分布：

记作，其中。

1、泊松分布的概率函数：，2、泊松分布的数字特征：。

3、泊松分布的性质：

（1）（分布的可加性）设与相互独立，当，时，；

（2）（泊松定理）设，对于任意一个非负整数有。

由泊松定理可知，利用二项分布求概率时，如果遇到多个概率的和式不易求，可以利用泊松分布求其近似值，即，当较大，较小（）时，近似服从；

当时，一般考虑使用中心极限定理。

（四）均匀分布：

记作，表示服从区间上的均匀分布。

1、均匀分布的概率密度函数：；

均匀分布的分布函数：。

2、均匀分布的数字特征：。

（五）指数分布：

记作，其中。

1、指数分布的概率密度函数：；

指数分布的分布函数：。

注意：

在积分计算中出现形如，时，将其变形为指数分布的概率密度函数通常可以简化运算。

2、指数分布的数字特征：。

3、指数分布的性质：

（无记忆性）当时，有。

（六）正态分布：

记作，其中。当一个变量受到大量微小的、独立的随机因素影响时，这个变量一般服从或近似服从正态分布。

1、正态分布的概率密度函数及其性质：

正态分布的概率密度函数为：。

具有如下的性质：

（1）关于对称；

（2）在处有最大值；

（3）当时。

2、标准正态分布：

正态分布称为标准正态分布，其概率密度函数为：。

（1）标准正态分布的分布函数及其性质：

标准正态分布的分布函数记作，即。

具有如下的性质：

①，即，；

②当时，；

注意：由性质①可得，当，且时，；

（2）一般正态分布与标准正态分布的关系：

当时，；

可得正态概率计算公式：。

注意：

在积分计算中出现形如，时，通过令，将其变形为标准正态分布的概率密度函数，即 通常可以简化运算。

（3）标准正态分布的分位数及其性质：

为标准正态分布的分位数。

注意：

当，且，时，若，则；

若，则。

3、正态分布的数字特征：，；

标准正态分布的阶原点矩：。

注意：标准正态分布的阶原点矩也经常可以用来简化积分运算。

4、正态分布的性质：

（1）（正态随机变量线性函数的分布）当时，其中是常数，且；

特别地。

（2）（正态分布的可加性）设相互独立，当，时。

注意：

（1）；

（2）性质（2）的推论：当，时。

六、大数定律与中心极限定理：

1、依概率收敛：

设是一个随机变量序列。如果存在一个常数，使得对于任意一个，总有 或，那么，称随机变量序列依概率收敛于，记作。

2、大数定律：

大数定律要注意针对其成立的的条件和结论。

（1）切比雪夫大数定律：

设是两两不相关的随机变量序列，且存在常数使得，则对任意给定的，有，即。

切比雪夫大数定律的成立条件是：随机变量序列两两不相关，且方差有界。

（2）辛钦大数定律（独立同分布情形下的大数定律）：

设是一个独立同分布的随机变量序列，且，，则对任意给定的，有，即。

辛钦大数定律是切比雪夫大数定律的一个特例。辛钦大数定律成立的条件是：随机变量序列独立同分布，且数学期望，存在。因此对独立同分布的随机变量序列，只要验证数学期望是否存在，就可判定其是否服从大数定律，即使方差不存在，结论依然成立。

（3）贝努利大数定律：

设是一个独立同分布的随机变量序列，且每一个都服从0—1分布，则对任意给定的，有，即。

贝努利大数定律是辛钦大数定律的一个特例。

3、中心极限定理：

（1）列维—林德伯格中心极限定理（独立同分布情形下的中心极限定理）：

设是一个独立同分布的随机变量序列，且，，则对任意实数，有 或者。

列维—林德伯格中心极限定理的成立条件是：随机变量序列独立同分布，且各随机变量的数学期望和方差都存在。

列维—林德伯格中心极限定理说明，一个独立同分布的随机变量序列（，）不论原来服从什么分布，只要足够大，总可近似的认为 或者 或者。

近似计算的求解步骤：

①求出原分布的数学期望和方差；

②根据所要求解的随机变量函数是和式还是均值选取合适的近似的正态分布；

③将近似的正态分布标准化为标准正态分布，根据标准正态分布的分布函数进行求解。中心极限定理公式中的、实际即是一个一般正态分布标准化的过程。

（2）德莫弗—拉普拉斯中心极限定理：

设是一个独立同分布的随机变量序列，且每一个都服从0—1分布，则对任意实数，有。

德莫弗—拉普拉斯中心极限定理是列维—林德伯格中心极限定理的一个特例。由其可得，如果，那么当较大时。

如果求解的随机变量服从二项分布或0—1分布，可考虑用德莫弗—拉普拉斯中心极限定理。

七、数理统计的基本概念：

1、样本的特性：

（1）代表性：每一个应该与总体有相同的分布，；

（2）独立性：应该是相互独立的随机变量。

也就是说，若总体的密度函数为，则样本的联合密度函数为：。

2、统计量：

设是一个样本。

样本均值：；

样本方差：；

阶原点矩：；

阶中心矩：；

最小次序统计量：；

最大次序统计量：。

特别地，记。

注意：常用公式：。

3、统计量的数字特征：

设是取自总体的一个样本，记，那么，（1），；

（2），；

（3）当时，。

4、服从重要分布时的总体下的样本：

总体的分布 样本的联合概率函数 样本统计量的特征值 5、数理统计的几个常用分布：

确定随机变量服从哪种分布、自由度以及分布参数等，主要是利用定义然后结合不同分布的性质以及分布之间的推导关系来求解，因此要熟悉各分布的定义和性质。

分布：

（1）分布的定义：

设是独立同分布的随机变量，且都服从。称随机变量 所服从的分布为自由度为的分布，记作。

（2）分布的性质：

①当时，；

②（分布的可加性）设与相互独立，且，那么。

注意：性质②可以推广到个相互独立的随机变量之和。

（3）分布的分位数：

分布的分位数记作，即当时。

分布：

（1）分布的定义：

设随机变量与相互独立，且，称随机变量 所服从的分布为自由度为的分布，记作。

（2）分布的性质：

①当时，；

②当足够大时，分布近似于；

③若，则。

注意：当时，不存在。

（3）分布的分位数：

分布的分位数记作，且有。

分布：

（1）分布的定义：

设随机变量与相互独立，且，称随机变量 所服从的分布为自由度为的分布，记作。

（2）分布的性质：

当时。

（3）分布的分位数：

分布的分位数记作，且有。

6、正态总体下的抽样分布：

设是取自正态总体的一个样本。

（1），或等价地表示为；

（2）；

（3）；

（4）；

（5）与相互独立。

八、参数估计：

1、矩估计：

求矩估计量的基本思想是“替换”，即用样本的原点矩替换相应总体的原点矩。

设是取自总体的一个样本，为未知参数，则求解矩估计量的一般步骤为：

（1）从样本的一阶原点矩（即）开始计算，求出与参数的之间关系；

（2）求反函数；

（3）用样本均值替换，即得参数的矩估计；

（4）若不存在，则依次取阶原点矩，直至阶原点矩（即）可求得参数的矩估计为止。

注意：

（1）若有个未知参数，则需要联立个方程组，即解方程组，；

（2）若为参数的矩估计，则为的矩估计；

如已知参数的矩估计，则只需将代入即可求得的矩估计量。

2、极大似然估计：

（1）似然函数：

设是取自总体的一个样本，的密度（或概率）函数为，则似然函数为非负函数，；

当为离散型随机变量时。

（2）设是取自总体的一个样本，为未知参数，则求解极大似然估计量的一般步骤为：

①求出似然函数；

②解方程，即得极大似然估计值；

③若似然函数的驻点或者倒数不存在，则需要通过参数的取值范围求得，一般为与或者有关的代数式。

注意：

（1）若有个未知参数，则需要联立个方程组，即解方程组，；

（2）若为参数的极大似然估计，则为的极大似然估计；

如已知参数的极大似然估计，则只需将代入即可求得的极大似然估计量。

3、估计量的评选标准：

（1）无偏性：

①定义：

如果未知参数的估计量满足，那么，称为的无偏估计；

如果满足，那么，称为的渐近无偏估计。

②有偏估计的修正：

如果，那么，必定是的无偏估计。

注意：一般用求导方法求得的极大似然估计值多为无偏估计，而其他方法求得的极大似然估计（尤其是与或者有关的代数式）多为有偏估计。

（2）有效性：

设与都是未知参数的无偏估计。如果，那么，称比有效。

（3）相合性：

如果未知参数的估计量满足，即对于任意一个，那么为的相合估计。

如果已知是未知参数的一个无偏估计量，且满足，那么为的相合估计。

4、一个正态总体下未知参数的置信区间：

未知参数 双侧置信区间上、下限 单侧置信下限 单侧置信上限 已知 未知 已知，未知，注意：若为未知参数，的置信区间为，则求的置信区间时需要考虑函数关系的转化。如的置信区间为，则，的置信区间为。

大学,概率论与数理统计,练习卷

基础课程概率论与数理统计、高等数学教学工作总结

大学文献-概率论与数理统计-练习卷,2

大学文献-概率论与数理统计-练习卷,13

大学文献-概率论与数理统计-练习卷,5