欢迎光临散文网 会员登陆 & 注册

复习笔记Day114:概率论知识总结(六)

2023-03-05 01:47 作者:间宫_卓司  | 我要投稿

这个天数好像是梗小鬼很喜欢的数字

第八章   特征函数

§8.1 特征函数

定义8.1.1 %5Cxid维随机变量,F%5Cxi的分布函数,那么复值函数

%5Chat%7BF%7D%5Cleft(%20x%20%5Cright)%20%3A%3D%5Cint_%7B%5Cmathbf%7BR%7D%5Ed%7D%5E%7B%7D%7Be%5E%7B%5Cmathrm%7Bi%7Dx%5Ccdot%20y%7D%5Cmathrm%7Bd%7DF%5Cleft(%20y%20%5Cright)%7D%3D%5Cmathbb%7BE%7D%20e%5E%7Bix%5Ccdot%20%5Cxi%7D%2Cx%5Cin%20%5Cmathbf%7BR%7D%5Ed

被称为分布函数F的特征函数,实际上也就是对分布函数做了傅里叶变换

引理8.1.1 介绍了一些分布函数的性质,不过就(6)看起来比较重要:设F是随机变量%5Cxi的分布函数,如果%5Cmathbb%7BE%7D%20%5Cleft%7C%20%5Cxi%20%5Cright%7C%5En%3C%5Cinfty%20,那么%5Chat%7BF%7D0n次可导,且此时有%5Cmathrm%7Bi%7D%5En%5Cmathbb%7BE%7D%20%5Cxi%20%5En%3D%5Chat%7BF%7D%5E%7B%5Cleft(%20n%20%5Cright)%7D%5Cleft(%200%20%5Cright)%20

§8.2 唯一性定理

定理8.2.1 (反演公式)设%5Cxi是随机变量,a%3CbF%5Cxi的分布函数,a%2CbF的连续点,那么有反演公式

F%5Cleft(%20b%20%5Cright)%20-F%5Cleft(%20a%20%5Cright)%20%3D%5Cfrac%7B1%7D%7B2%5Cpi%7D%5Cunderset%7BT%5Crightarrow%20%5Cinfty%7D%7B%5Clim%7D%5Cint_%7B-T%7D%5ET%7B%5Cfrac%7Be%5E%7B-%5Cmathrm%7Bi%7Dax%7D-e%5E%7B-%5Cmathrm%7Bi%7Dbx%7D%7D%7B%5Cmathrm%7Bi%7Dx%7D%5Chat%7BF%7D%5Cleft(%20x%20%5Cright)%20%5Cmathrm%7Bd%7Dx%7D

如果%5Chat%7BF%7D绝对可积,那么F绝对连续且F'%5Cleft(%20y%20%5Cright)%20%3D%5Cfrac%7B1%7D%7B2%5Cpi%7D%5Cint_%7B%5Cmathbf%7BR%7D%7D%5E%7B%7D%7Be%5E%7B%5Cmathrm%7Bi%7Dxy%7D%5Chat%7BF%7D%5Cleft(%20x%20%5Cright)%20%5Cmathrm%7Bd%7Dx%7D

通过这个公式,可以由特征函数来确定分布函数,所以如果知道了特征函数,对应的分布函数也是唯一的

定理8.2.2 随机变量%5Cxi%20_1%2C%5Ccdots%20%2C%5Cxi%20_n相互独立当且仅当%5Cmathbb%7BE%7D%20e%5E%7B%5Cmathrm%7Bi%7Dx%5Ccdot%20%5Cxi%7D%3D%5Cprod_%7Bk%3D1%7D%5En%7B%5Cmathbb%7BE%7D%20e%5E%7B%5Cmathrm%7Bi%7Dx_k%5Cxi%20_k%7D%7D,其中%5Cxi%20%3D%5Cleft(%20%5Cxi%20_1%2C%5Ccdots%20%2C%5Cxi%20_n%20%5Cright)%20

课本好像默认了d维的唯一性,如果承认这个的话,对%5Cxi%5Cxi_k都求一下特征函数就可以证明了

§8.3 连续性定理

定理8.3.1 %5C%7BF_n%5C%7D是分布函数列,若%5Chat%7BF%7D点点收敛于一个在零点连续的函数%5Cvarphi,则%5Cvarphi是一个分布函数F的特征函数且F_n%5Cxrightarrow%7Bw%7DF

这个定理的证明我看的比较懵,完全不知道是怎么想到的。有了这个定理,可以通过特征函数的逐点收敛来判断分布函数的弱收敛

 

第九章   中心极限定理

§9.1 DeMoivre-Laplace的估计

老东西的估计方法早就过时辣

§9.2 独立同分布场合的中心极限定理

定义9.2.1 称平方可积的随机序列%5Cleft%5C%7B%20%5Cxi%20_n%20%5Cright%5C%7D%20满足中心极限定理,如果

%5Cunderset%7Bn%5Crightarrow%20%5Cinfty%7D%7B%5Clim%7D%5Cmathbb%7BP%7D%20%5Cleft(%20%5Cfrac%7B%5Csum_%7Bi%3D1%7D%5En%7B%5Cleft(%20%5Cxi%20_i-%5Cmathbb%7BE%7D%20%5Cxi%20_i%20%5Cright)%7D%7D%7B%5Csqrt%7BD%5Csum_%7Bi%3D1%7D%5En%7B%5Cxi%20_i%7D%7D%7D%5Cle%20x%20%5Cright)%20%3D%5CPhi%20%5Cleft(%20x%20%5Cright)%20

定理9.2.1 (%5Ctext%7BLevy-Lindeberg%7D)设%5Cleft%5C%7B%20%5Cxi%20_n%20%5Cright%5C%7D%20是平方可积的独立同分布的标准话随机变量列,则%5Cfrac%7B1%7D%7B%5Csqrt%7Bn%7D%7D%5Csum_%7Bk%3D1%7D%5En%7B%5Cxi%20_k%7D的分布弱收敛于标准正态分布,即

%5Cunderset%7Bn%5Crightarrow%20%5Cinfty%7D%7B%5Clim%7D%5Cmathbb%7BP%7D%20%5Cleft(%20%5Cfrac%7B%5Csum_%7Bi%3D1%7D%5En%7B%5Cxi%20_i%7D%7D%7B%5Csqrt%7Bn%7D%7D%5Cle%20x%20%5Cright)%20%3D%5Cint_%7B-%5Cinfty%7D%5Ex%7B%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%7De%5E%7B-%5Cfrac%7B1%7D%7B2%7Dt%5E2%7D%5Cmathrm%7Bd%7Dt%7D

作为这个系列的最后一个定理(暂定),我就完整的写一下证明吧!

证明的思路是通过估计%5Cfrac%7B1%7D%7B%5Csqrt%7Bn%7D%7D%5Csum_%7Bk%3D1%7D%5En%7B%5Cxi%20_k%7D的特征函数,证明其收敛于正态分布的概率密度函数

首先来计算一下%5Cfrac%7B1%7D%7B%5Csqrt%7Bn%7D%7D%5Csum_%7Bk%3D1%7D%5En%7B%5Cxi%20_k%7D的特征函数,因为%5Cleft%5C%7B%20%5Cxi%20_n%20%5Cright%5C%7D%20是独立的,所以根据引理8.1.1的性质(4)(懒得打了),其特征函数为

%5Cmathbb%7BE%7D%20e%5E%7B%5Cmathrm%7Bi%7Dx%5Cfrac%7B1%7D%7B%5Csqrt%7Bn%7D%7D%5Csum_%7Bk%3D1%7D%5En%7B%5Cxi%20_k%7D%7D%3D%5Cprod_%7Bk%3D1%7D%5En%7B%5Cmathbb%7BE%7D%20e%5E%7B%5Cmathrm%7Bi%7Dx%5Cfrac%7B%5Cxi%20_k%7D%7B%5Csqrt%7Bn%7D%7D%7D%7D%3D%5Cleft(%20%5Cint_%7B%5Cmathbf%7BR%7D%7D%5E%7B%7D%7Be%5E%7B%5Cmathrm%7Bi%7Dx%5Cfrac%7By%7D%7B%5Csqrt%7Bn%7D%7D%7D%5Cmathrm%7Bd%7DF%5Cleft(%20y%20%5Cright)%7D%20%5Cright)%20%5En%3D%5Cleft(%20%5Cint_%7B%5Cmathbf%7BR%7D%7D%5E%7B%7D%7Be%5E%7B%5Cmathrm%7Bi%7D%5Cfrac%7Bx%7D%7B%5Csqrt%7Bn%7D%7Dy%7D%5Cmathrm%7Bd%7DF%5Cleft(%20y%20%5Cright)%7D%20%5Cright)%20%5En%3D%5Cleft(%20%5Chat%7BF%7D%5Cleft(%20%5Cfrac%7Bx%7D%7B%5Csqrt%7Bn%7D%7D%20%5Cright)%20%5Cright)%20%5En

其中F%5Cxi_k的分布函数,%5Chat%7BF%7D为特征函数,再根据引理8.1.1的性质(6),有

%5Chat%7BF%7D%5E%7B%5Cleft(%200%20%5Cright)%7D%5Cleft(%200%20%5Cright)%20%3D%5Cmathbb%7BE%7D%201%3D1%2C%5Chat%7BF%7D%5E%7B%5Cleft(%201%20%5Cright)%7D%5Cleft(%200%20%5Cright)%20%3D%5Cmathbb%7BE%7D%20%5Cxi%20%3D0%2C%5Chat%7BF%7D%5E%7B%5Cleft(%202%20%5Cright)%7D%5Cleft(%200%20%5Cright)%20%3D-%5Cmathbb%7BE%7D%20%5Cxi%20%5E2%3D-1

所以%5Chat%7BF%7D%5Cleft(%20x%20%5Cright)%20%3D1-%5Cfrac%7B1%7D%7B2%7Dx%5E2%2Bo%5Cleft(%20x%5E2%20%5Cright)%20%2Cx%5Crightarrow%200

另一方面

%5Cleft%7C%20a%5En-b%5En%20%5Cright%7C%3D%5Cleft%7C%20%5Cleft(%20a-b%20%5Cright)%20%5Csum_%7Bi%3D0%7D%5E%7Bn-1%7D%7Ba%5E%7Bn-i-1%7Db%5Ei%7D%20%5Cright%7C%3D%5Cleft%7C%20a-b%20%5Cright%7C%5Cleft%7C%20%5Csum_%7Bi%3D0%7D%5E%7Bn-1%7D%7Ba%5E%7Bn-i-1%7Db%5Ei%7D%20%5Cright%7C%5Cle%20n%5Cleft%7C%20a-b%20%5Cright%7C

于是

%5Cleft%7C%20%5Cleft(%20%5Chat%7BF%7D%5Cleft(%20%5Cfrac%7Bx%7D%7B%5Csqrt%7Bn%7D%7D%20%5Cright)%20%5Cright)%20%5En-%5Cleft(%201-%5Cfrac%7Bx%5E2%7D%7B2n%7D%20%5Cright)%20%5En%20%5Cright%7C%5Cle%20n%5Cleft%7C%20%5Chat%7BF%7D%5Cleft(%20%5Cfrac%7Bx%7D%7B%5Csqrt%7Bn%7D%7D%20%5Cright)%20-1-%5Cfrac%7Bx%5E2%7D%7B2n%7D%20%5Cright%7C%3Dno%5Cleft(%20%5Cfrac%7B1%7D%7Bn%7D%20%5Cright)%20%3Do%5Cleft(%201%20%5Cright)%20

这意味着

%5Cunderset%7Bn%5Crightarrow%20%5Cinfty%7D%7B%5Clim%7D%5Cleft(%20%5Chat%7BF%7D%5Cleft(%20%5Cfrac%7Bx%7D%7B%5Csqrt%7Bn%7D%7D%20%5Cright)%20%5Cright)%20%5En%3D%5Cunderset%7Bn%5Crightarrow%20%5Cinfty%7D%7B%5Clim%7D%5Cleft(%201-%5Cfrac%7Bx%5E2%7D%7B2n%7D%20%5Cright)%20%5En%3De%5E%7B-%5Cfrac%7B1%7D%7B2%7Dx%5E2%7D

接下来用反演公式计算可知特征函数e%5E%7B-%5Cfrac%7B1%7D%7B2%7Dx%5E2%7D的概率密度函数正是它自身,这就证明了定理

§9.3 一般中心极限定理

太复杂了,我这样的笨蛋看不懂啦!


最后写一道习题作为这个系列的终结(暂定)吧

114.1 用中心极限定理证明

%5Cunderset%7Bn%5Crightarrow%20%5Cinfty%7D%7B%5Clim%7De%5E%7B-n%7D%5Csum_%7Bk%3D0%7D%5En%7B%5Cfrac%7Bn%5Ek%7D%7Bk!%7D%3D%5Cfrac%7B1%7D%7B2%7D%7D

看到这个式子很容易想到%5Ctext%7BPoisson%7D分布,而%5Ctext%7BPoisson%7D分布是具有可加性的,即若%5Cxi_1%2C%5Cxi_2独立且服从参数为%5Clambda_1%2C%5Clambda_2%5Ctext%7BPoisson%7D分布的随机变量,那么%5Cxi_1%2B%5Cxi_2是服从参数为%5Clambda_1%2B%5Clambda_2%5Ctext%7BPoisson%7D分布的随机变量

那么取%5Cleft%5C%7B%20%5Cxi%20_n%20%5Cright%5C%7D%20为独立且服从参数为1%5Ctext%7BPoisson%7D分布的随机变量,那么

%5Cmathbb%7BP%7D%20%5Cleft(%20%5Csum_%7Bk%3D1%7D%5En%7B%5Cxi%20_k%7D%5Cle%20n%20%5Cright)%20%3De%5E%7B-n%7D%5Csum_%7Bk%3D0%7D%5En%7B%5Cfrac%7Bn%5Ek%7D%7Bk!%7D%7D

另一方面,依中心极限定理,

%5Cunderset%7Bn%5Crightarrow%20%5Cinfty%7D%7B%5Clim%7D%5Cmathbb%7BP%7D%20%5Cleft(%20%5Csum_%7Bk%3D1%7D%5En%7B%5Cxi%20_k%7D%5Cle%20n%20%5Cright)%20%3D%5Cunderset%7Bn%5Crightarrow%20%5Cinfty%7D%7B%5Clim%7D%5Cmathbb%7BP%7D%20%5Cleft(%20%5Cfrac%7B%5Csum_%7Bk%3D1%7D%5En%7B%5Cleft(%20%5Cxi%20_k-1%20%5Cright)%7D%7D%7B%5Csqrt%7Bn%7D%7D%5Cle%200%20%5Cright)%20%3D%5CPhi%20%5Cleft(%200%20%5Cright)%20%3D%5Cfrac%7B1%7D%7B2%7D

这就证明了

%5Cunderset%7Bn%5Crightarrow%20%5Cinfty%7D%7B%5Clim%7De%5E%7B-n%7D%5Csum_%7Bk%3D0%7D%5En%7B%5Cfrac%7Bn%5Ek%7D%7Bk!%7D%3D%5Cfrac%7B1%7D%7B2%7D%7D


复习笔记Day114:概率论知识总结(六)的评论 (共 条)

分享到微博请遵守国家法律