复习笔记Day110：概率论知识总结

2023-03-01 21:15 作者:间宫_卓司 0人读过 | 我要投稿

和之前说的一样，现在来归纳一下这本概率论的内容，我只写我看了的部分。想要这本书的朋友直接去搜概率论应坚刚，然后第一个搜索结果的简介上面就有了

第一章初等概率论

§1.1~1.5

介绍了一些概率论的历史和一些排列组合的知识

第二章概率空间与随机变量

§2.1 集合

数学基础好的读者可以忽略本节内容

§2.2 概率空间

定义2.2.1 引入了 $%5Csigma-$ 域的概念， $%5Csigma-$ 域是某个集合的一些子集构成的集合。对于子集构成的集合（书上叫子集类） $%5Cmathscr%7BF%7D%20$ ，如果其满足(1)空集，全集都在 $%5Cmathscr%7BF%7D%20$ 里面;(2)如果一个集合在 $%5Cmathscr%7BF%7D%20$ 里面，那么它的子集也在 $%5Cmathscr%7BF%7D%20$ 里面;(3) $%5Cmathscr%7BF%7D%20$ 中元素的可列并仍然是 $%5Cmathscr%7BF%7D%20$ 中的元素

简单来说， $%5Csigma-$ 域是包含了空集和全集，并且对可列并和补集运算保持封闭的子集类

引理2.2.1 $%5Csigma-$ 域对交、并、差、可列交保持封闭

定义2.2.1 引入了概率的概念，概率是衡量 $%5Csigma-$ 域中的集合的“大小”的概念， $%5Csigma-$ 域上的函数 $%5Cmathbb%7BP%7D%20$ 被称为概率测度，如果其满足(1)非负性： $%5Cmathbb%7BP%7D%20$ 作用在定义域中的任何元素都是非负的;(2)规范性： $%5Cmathbb%7BP%7D%20$ 作用在全集上结果为1;(3)可列可加性： $%5Cmathbb%7BP%7D%20$ 作用在可列个互不相交的元素的并的结果等于其分别作用在这些元素上然后再求和（即先取并再作用等于先作用再求和）

引理2.2.2 给出了一些概率测度的性质，比较显然，就懒得写了

这样一来，给定了一个集合 $%5COmega%20$ ，这个集合的一个满足 $%5Csigma-$ 域的条件的子集族 $%5Cmathscr%7BF%7D%20$ 和定义在 $%5Cmathscr%7BF%7D%20$ 上的一个概率测度 $%5Cmathbb%7BP%7D%20$ ，就可以得到一个概率空间 $%5Cleft(%20%5COmega%20%2C%5Cmathscr%7BF%7D%20%2C%5Cmathbb%7BP%7D%20%5Cright)%20$ ，这个定义不能说很理所当然，但我觉得还是比较合理的

§2.3 随机变量与分布

定理2.3.1 给出了逆像的一些性质，说明了逆像运算可以和补、任意交、任意并交换顺序

定义2.3.1 给出了随机变量的定义，随机变量是以概率空间 $%5Cleft(%20%5COmega%20%2C%5Cmathscr%7BF%7D%20%2C%5Cmathbb%7BP%7D%20%5Cright)%20$ 中的 $%5COmega%20$ 为定义域的函数，类似于 $%5Ctext%7BLebesgue%7D$ 可测函数的定义，一个函数 $%5Cxi$ 可以被称为随机变量，如果它满足对任意实数 $x$ ，都成立 $%5Cleft%5C%7B%20%5Cxi%20%5Cle%20x%20%5Cright%5C%7D%20%3A%3D%5Cleft%5C%7B%20w%5Cin%20%5COmega%20%3A%5Cxi%20%5Cleft(%20w%20%5Cright)%20%5Cle%20x%20%5Cright%5C%7D%20%5Cin%20%5Cmathscr%7BF%7D%20$ ，也称这样的 $%5Cxi$ 是 $%5Cmathscr%7BF%7D%20$ 可测的。

这个定义是可以理解的，因为这个集合如果在 $%5Cmathscr%7BF%7D%20$ 之外，就没办法用概率测度去衡量它的大小了。从定义里面可以看出，一个函数是否是随机变量取决于 $%5Cmathscr%7BF%7D%20$ 。举个最极端的例子，对于抛硬币，其样本空间为 $%5COmega%20%3D%5Cleft%5C%7B%20%5Ctext%7B%E6%AD%A3%E9%9D%A2%EF%BC%8C%E5%8F%8D%E9%9D%A2%7D%20%5Cright%5C%7D%20$ ，然后定义随机变量 $%5Cxi$ 满足

$%5Cxi%20%5Cleft(%20%5Ctext%7B%E6%AD%A3%E9%9D%A2%7D%20%5Cright)%20%3D1%2C%5Cxi%20%5Cleft(%20%5Ctext%7B%E5%8F%8D%E9%9D%A2%7D%20%5Cright)%20%3D0$

但是如果把 $%5Cmathscr%7BF%7D%20$ 取成 $%5Cleft%5C%7B%20%5COmega%20%2C%5Cvarnothing%20%5Cright%5C%7D%20$ ， $%5Cleft%5C%7B%20%5Cxi%20%5Cle%20%5Cfrac%7B1%7D%7B2%7D%20%5Cright%5C%7D%20$ 就不在 $%5Cmathscr%7BF%7D%20$ 里面了。不过一般来说对于有限个或者可列个元素的样本空间， $%5Cmathscr%7BF%7D%20$ 一般取成样本空间的幂集的形式，也就是样本空间所有的子集构成的集合，也是对于样本空间而言最大的 $%5Csigma-$ 域，所以一般不用担心这种问题。

定理2.3.2 $%5Cmathscr%7BF%7D%20$ 可测的随机变量全体构成线性空间

证明思路和实变函数中证明 $%5Ctext%7BLebesgue%7D$ 可测函数全体构成线性空间是一样的

和研究 $%5Ctext%7BLebesgue%7D$ 可测函数一样（至少我知道的，实变函数歧视链最底端的程其襄），接下来从比较简单的随机变量开始研究，称值域为至多可列集的随机变量为离散随机变量，如果值域只有有限个值，就称为简单随机变量，随机变量 $%5Cxi$ 的值域用 $R%5Cleft(%20%5Cxi%20%5Cright)%20$ 来表示

引理2.3.1 若 $R%5Cleft(%20%5Cxi%20%5Cright)%20$ 是至多可列集，那么 $%5Cxi$ 是随机变量当且仅当 $%5Cleft%5C%7B%20%5Cxi%20%3Dx%20%5Cright%5C%7D%20%5Cin%20%5Cmathscr%7BF%7D%20%2C%5Cforall%20x%5Cin%20R%5Cleft(%20%5Cxi%20%5Cright)%20$

根据这个引理， $%5Cxi$ 和 $R$ 上的函数 $f$ 的复合 $f(%5Cxi)$ 仍然是随机变量

定义2.3.2 $R$ 上的函数 $F_%7B%5Cxi%7D%5Cleft(%20x%20%5Cright)%20%3A%3D%5Cmathbb%7BP%7D%20%5Cleft(%20%5Cxi%20%5Cle%20x%20%5Cright)%20$ 被称为 $%5Cxi$ 的分布函数

定理2.3.3 分布函数 $F_%7B%5Cxi%7D%5Cleft(%20x%20%5Cright)%20$ 有以下三点性质:(1)它是单调递增的;(2)它是右连续的;(3) $F_%7B%5Cxi%7D%5Cleft(%20-%5Cinfty%20%5Cright)%20%3D0%2CF_%7B%5Cxi%7D%5Cleft(%20%2B%5Cinfty%20%5Cright)%20%3D1$

对于第二点，仍然以抛硬币为例子：

$F_%7B%5Cxi%7D%5Cleft(%20x%20%5Cright)%20%3D%5Cbegin%7Bcases%7D%0A%090%2Cx%3C0%5C%5C%0A%09%5Cfrac%7B1%7D%7B2%7D%2C0%5Cle%20x%3C1%5C%5C%0A%091%2C1%5Cle%20x%5C%5C%0A%5Cend%7Bcases%7D$

如果把分布函数定义中的小于等于换成小于，那应该就是左连续而不是右连续了

定义2.3.3 两个随机变量被称为同分布，如果它们的分布函数相等

虽然书上好像没有讲，但是我猜两个随机变量同分布当且仅当它们几乎处处相等

第三章条件概率与全概率公式

§3.1 独立性

定义3.1.1 称事件 $A_1%2C%5Ccdots%20%2CA_n%2C%5Ccdots%20$ 相互独立，如果其任何的有限多个 $A_%7Bi_1%7D%2C%5Ccdots%20A_%7Bi_k%7D$ ，成立：

$%5Cmathbb%7BP%7D%20%5Cleft(%20A_%7Bi_1%7D%5Ccap%20%5Ccdots%20%5Ccap%20A_%7Bi_k%7D%20%5Cright)%20%3D%5Cmathbb%7BP%7D%20%5Cleft(%20A_%7Bi_1%7D%20%5Cright)%20%5Ccdots%20%5Cmathbb%7BP%7D%20%5Cleft(%20A_%7Bi_k%7D%20%5Cright)%20$

这里的事件其实就是 $%5Cmathscr%7BF%7D%20$ 中的元素，而随机变量 $%5Cxi%20_1%2C%5Ccdots%20%2C%5Cxi%20_n$ 相互独立是指对任意的 $x_i%5Cin%20R%2C1%5Cle%20i%5Cle%20n$ ，有

$%5Cmathbb%7BP%7D%20%5Cleft(%20%5Cxi%20_1%5Cle%20x_1%2C%5Ccdots%20%2C%5Cxi%20_n%5Cle%20x_n%20%5Cright)%20%3D%5Cmathbb%7BP%7D%20%5Cleft(%20%5Cxi%20_1%5Cle%20x_1%20%5Cright)%20%5Ccdots%20%5Cmathbb%7BP%7D%20%5Cleft(%20%5Cxi%20_n%5Cle%20x_n%20%5Cright)%20$

需要注意相互独立并不等于两两独立

引理3.1.1 (1)随机变量 $%5Cxi%20_1%2C%5Ccdots%20%2C%5Cxi%20_n$ 相互独立等价于对任意的 $x_i%5Cle%20y_i%5Cin%20R%2C1%5Cle%20i%5Cle%20n$ ，有

$%5Cmathbb%7BP%7D%20%5Cleft(%20x_1%3C%5Cxi%20_1%5Cle%20y_1%2C%5Ccdots%20%2Cx_n%3C%5Cxi%20_n%5Cle%20y_n%20%5Cright)%20%3D%5Cmathbb%7BP%7D%20%5Cleft(%20x_1%3C%5Cxi%20_1%5Cle%20y_1%20%5Cright)%20%5Ccdots%20%5Cmathbb%7BP%7D%20%5Cleft(%20x_n%3C%5Cxi%20_n%5Cle%20y_n%20%5Cright)%20$

(2)如果它们是离散的，那么独立等价于

$%5Cmathbb%7BP%7D%20%5Cleft(%20%5Cxi%20_1%3Dx_1%2C%5Ccdots%20%2C%5Cxi%20_n%3Dx_n%20%5Cright)%20%3D%5Cmathbb%7BP%7D%20%5Cleft(%20%5Cxi%20_1%3Dx_1%20%5Cright)%20%5Ccdots%20%5Cmathbb%7BP%7D%20%5Cleft(%20%5Cxi%20_n%3Dx_n%20%5Cright)%20$

§3.2 条件概率

定义3.2.1 概率空间上，对于两个给定的事件 $A%2CB$ ，且 $%5Cmathbb%7BP%7D%20%5Cleft(%20A%20%5Cright)%20%3E0$ 。定义事件 $B$ 在条件 $A$ 下发生的条件概率为

$%5Cmathbb%7BP%7D%20%5Cleft(%20B%7CA%20%5Cright)%20%3A%3D%5Cfrac%7B%5Cmathbb%7BP%7D%20%5Cleft(%20A%5Ccap%20B%20%5Cright)%7D%7B%5Cmathbb%7BP%7D%20%5Cleft(%20A%20%5Cright)%7D$

$%5Cmathbb%7BP%7D%20%5Cleft(%20%5Ccdot%20%7CA%20%5Cright)%20$ 也是一个概率测度

引理3.2.1 $%5Cmathbb%7BP%7D%20%5Cleft(%20%5Cleft(%20C%7CB%20%5Cright)%20%7CA%20%5Cright)%20%3D%5Cmathbb%7BP%7D%20%5Cleft(%20C%7CA%5Ccap%20B%20%5Cright)%20$

§3.3 全概率公式与Bayes公式

定理3.3.1 设事件 $%5Cleft%5C%7B%20%5COmega%20_n%3An%5Cge%201%20%5Cright%5C%7D%20%5Csubset%20%5Cmathscr%7BF%7D%20$ 是 $%5COmega%20$ 的一个划分，那么对任何 $A%5Cin%20%5Cmathscr%7BF%7D%20$ ，有

$%5Cmathbb%7BP%7D%20%5Cleft(%20A%20%5Cright)%20%3D%5Csum_n%5E%7B%7D%7B%5Cmathbb%7BP%7D%20%5Cleft(%20A%5Ccap%20%5COmega%20_n%20%5Cright)%7D%3D%5Csum_n%5E%7B%7D%7B%5Cmathbb%7BP%7D%20%5Cleft(%20A%7C%5COmega%20_n%20%5Cright)%20%5Cmathbb%7BP%7D%20%5Cleft(%20%5COmega%20_n%20%5Cright)%7D$

Bayes公式不算一个定理，不过还是写一下吧

$%5Cmathbb%7BP%7D%20%5Cleft(%20%5COmega%20_n%7CA%20%5Cright)%20%3D%5Cfrac%7B%5Cmathbb%7BP%7D%20%5Cleft(%20A%7C%5COmega%20_n%20%5Cright)%20%5Cmathbb%7BP%7D%20%5Cleft(%20%5COmega%20_n%20%5Cright)%7D%7B%5Cmathbb%7BP%7D%20%5Cleft(%20A%20%5Cright)%7D$

其中分母一般是通过全概率公式来计算的

第四章 s'x'q'w

标签：