还剩27页未读,继续阅读
本资源只提供10页预览,全部文档请下载后查看!喜欢就下载吧,查找使用更方便
文本内容:
《概率论第3讲》ppt课件•概率论的基本概念contents•随机变量及其分布•多维随机变量及其分布目录•大数定律与中心极限定理•参数估计与假设检验•贝叶斯推断简介01概率论的基本概念概率的定义与性质概率的定义01概率是描述随机事件发生可能性大小的数值,通常用P表示概率的性质02概率具有非负性、规范性、有限可加性和完全可加性概率的取值范围03概率的取值范围是[0,1],其中0表示事件不可能发生,1表示事件一定发生条件概率与独立性条件概率的定义条件概率的性质事件的独立性在事件B已经发生的条件下,事件条件概率具有非负性、规范性、如果两个事件A和B同时发生的概A发生的概率称为条件概率,记作独立于未提及的随机变量和全概率等于它们各自发生的概率之积,PA|B率公式即PA∩B=PAPB,则称事件A和B是独立的贝叶斯定理贝叶斯定理的表述对于任意两个事件A和B,有1PB|A=PA|BPB/PA贝叶斯定理的应用贝叶斯定理在统计推断、决策理论、机器学习等2领域有广泛的应用,是理解和分析条件概率的重要工具贝叶斯定理的推论如果事件A和B是独立的,那么PA|B=PA,即3事件B的发生不影响事件A的条件概率02随机变量及其分布离散随机变量离散随机变量定义离散随机变量是在一定范围内可以一一列举出来的随机变量,其取值范围称为样本空间,样本空间中的每一个元素称为样本点离散随机变量的概率分布离散随机变量的概率分布是指每个样本点的概率,这些概率满足非负性、归一性,即所有样本点的概率之和为1常见的离散随机变量常见的离散随机变量包括二项式随机变量、泊松随机变量等连续随机变量010203连续随机变量定义连续随机变量的概率常见的连续随机变量密度函数连续随机变量是在一定范围内可以连连续随机变量的概率密度函数描述了常见的连续随机变量包括正态随机变续取值的随机变量,其取值范围称为随机变量在各个取值上的概率,其积量、指数随机变量等样本空间分等于1随机变量的期望与方差期望的定义与性质期望是随机变量取值的概率加权和,其计算公式为EX=∑xpx期望的性质包括线性性质、期望的期望等于期望本身等方差的定义与性质方差是随机变量取值偏离其期望的程度的度量,其计算公式为DX=E[X−EX^2]方差的性质包括线性性质、方差的期望等于方差本身等期望与方差的计算方法期望与方差的计算方法包括定义法、公式法等随机变量的独立性独立性的性质独立性的判断方法独立性的定义如果两个随机变量的取值互不如果两个随机变量独立,则它判断两个随机变量是否独立的影响,则称这两个随机变量是们的联合概率分布等于各自概方法包括定义法、公式法等独立的率分布的乘积,即px,y=pxpy03多维随机变量及其分布二维随机变量的联合概率分布010203定义表达式意义联合概率分布描述了两个或多个对于二维随机变量(X,Y),其联合概率分布提供了多维随机变随机变量同时发生的概率联合概率分布可以表示为PX=x,量的完整描述,是后续计算的基Y=y础边缘概率分布与条件概率分布边缘概率分布描述单个随机变量的概率分布,通过对联合概率分布进行求和或积分得到条件概率分布描述一个随机变量在另一个随机变量给定条件下的概率分布关系条件概率分布在某种程度上可以看作是边缘概率分布在某个特定条件下的表现随机变量的独立性定义性质如果两个随机变量X和Y满足如果X和Y独立,那么它们的联合概率分布可以PX=x|Y=y=PX=x,则称X和Y是独立的拆分为各自概率分布的乘积应用独立性是概率论中的一个重要概念,在许多统计推断和决策问题中都有应用04大数定律与中心极限定理大数定律01大数定律是指在大量重复实验中,某一事件发生的频率将趋近于其发生的概率02大数定律是概率论中的基本定理之一,它描述了当实验次数趋于无穷时,频率的极限值03大数定律的应用非常广泛,例如在统计学、保险精算、决策理论等领域都有应用中心极限定理010203中心极限定理是指无论随机变中心极限定理是概率论中的另中心极限定理的应用包括统计量的分布是什么,只要样本量一个基本定理,它对于理解许学、金融学、社会学等领域,足够大,样本均值的分布就趋多统计方法和概率模型至关重例如在样本均值的推断、回归近于正态分布要分析等方面都有应用棣莫佛-拉普拉斯定理棣莫佛-拉普拉斯定理是指对于任意实数x和正整数n,有1+x^n的二项式展开式的系数之和等于1+x^n+1的系数之和棣莫佛-拉普拉斯定理是概率论中的一个重要定理,它对于理解二项式分布的性质和计算二项式系数有很大帮助棣莫佛-拉普拉斯定理的应用包括组合数学、概率论、统计学等领域,例如在计算组合数、概率计算等方面都有应用05参数估计与假设检验点估计与估计量的评选标准估计量的评选标准有效性无偏性、有效性和方差尽可能小一致性点估计无偏性一致性当样本容量增大时,用单个数值来估计期望值与真实值接估计量逐渐接近真未知参数的值近实值区间估计区间估计根据样本数据推断未知参数的可能取值范围置信区间置信水平给定一个置信水平,求出未知参数的取值范估计区间包含未知参数真实值的概率围假设检验的基本概念与步骤基本概念步骤提出假设根据样本数据对未知参数或总体提出假设、构造检验统计量、确对未知参数或总体分布提出假设分布进行假设检验定临界值、做出决策做出决策确定临界值构造检验统计量根据检验统计量的值和临界值做根据显著性水平确定临界值根据样本数据和假设构造一个统出接受或拒绝假设的决策计量06贝叶斯推断简介贝叶斯推断的基本思想贝叶斯推断是基于贝叶斯定理的一种统计推断方法,它通过利用先验信息和样本信息来更新我们对未知参数的信念先验信息是指在进行观察或实验之前已经存在的信息,后验信息则是通过观察或实验获得的新信息贝叶斯推断的核心思想是将先验概率与样本信息相结合,通过贝叶斯定理计算出后验概率,从而对未知参数进行推断先验概率与后验概率先验概率是指在观察或实验之前对未知参数的信念或01概率估计后验概率是指在观察或实验之后,根据先验信息和样02本信息对未知参数进行更新后的信念或概率估计先验概率和后验概率是贝叶斯推断中的两个关键概念,03它们在贝叶斯推断中起着重要的作用贝叶斯推断的步骤与示例贝叶斯推断的步骤包括确定先验分布、计算似然函数、计算后验分布、进行决策等以下是一个简单的贝叶斯推断示例假设我们有一个硬币,正面朝上的概率为
0.6,反面朝上的概率为
0.4现在我们抛掷这个硬币三次,得到正面朝上两次,反面朝上一次我们要根据这些信息更新我们对硬币正面朝上概率的信念贝叶斯推断的步骤与示例01然后,我们计算似然函数,即硬币正面朝上两次的概率是
0.6*
0.6*
0.4=
0.14402接着,我们计算后验分布,即根据先验分布和似然函数计算出硬币正面朝上的后验概率为
0.144/(
0.144+
0.856)=
0.15803最后,我们进行决策,即根据后验分布得出结论硬币正面朝上的概率约为
0.158THANKS感谢观看。