条件技巧

动机：我们想计算某个随机变量X的各阶矩，比如EX，varX。但是X本身很复杂。一种简化的思想是：把X条件在某个东西上。比如说，X是某个受Y控制的随机过程，条件于某一条Y轨道，X就清楚了。问题来了：如果我们知道X|Y，如何求X的各阶矩？

对于期望EX，我们有law of total expectation：EX=E(E[X|Y])。

对于方差varX，我们期望varX与var[X|Y]之间的联系，但这并不是简单的varX=Evar[X|Y]，而是要多出一项E与var的交换项。具体来说有law of total variance：varX=Evar[X|Y]+varE[X|Y]。可以这样理解：X条件上Y之后，信息增多，方差var[X|Y]比varX小。（注意varE[X|Y]是一个随机变量的方差，是非负的）

注意，条件方差本身是完全按照条件期望定义的，即把方差定义中的全部期望换成条件期望：var[X|Y]=E[(X-E[X|Y])^2|Y]。

对于协方差，我们有law of total covariance，类似地是E与cov的交换：cov(X,Y)=Ecov[X,Y|Z]+cov(E[X|Z],E[Y|Z])。

对于更高阶的定理，首先我们定义累积量。累积量是另一种形式的矩，按照对数生成函数定义：

把这个定义式展开可以得到用中心矩表示的累积量：

累积量的好处（相比于其他类型的矩）在于，它是一个可加量。

有一个把原点矩用累积量表示出来的图形方法（摘自kardar的统计力学）：

这就很舒服了，不用计算，画画图就能得到系数。

为了推广协方差，我们需要定义联合累积量。

这样我们就有最一般的law of total cumulance：

具体算起来跟前面的图示是类似的方法：

这东西想想也知道基本是用不到的...不过它提供了前面几个公式的不同理解：并不是“交换”，而是“partition”。

题图pid35831277.