协方差矩阵，多元高斯分布

回答: 协方差矩阵是用来衡量多元高斯分布中各个变量之间的相关性的矩阵。对于一维随机变量，可以直接用方差来衡量变量与其期望的偏离程度。而对于多维随机变量，协方差矩阵需要用一个矩阵来表示偏离程度。矩阵的对角线是每个维度自己的方差，对角线以外表示不同维度之间的协方差。协方差矩阵是实对称矩阵。[1]

需要注意的是，协方差矩阵与信息矩阵都可以用来表示多元变量之间的相关性。但是，协方差矩阵衡量的是变量之间的边际概率关系，通常是直接相关性；而信息矩阵衡量的是变量之间的条件概率关系，可能存在间接相关性。因此，在计算中可能会发现一些协方差矩阵中相关的两个量在信息矩阵中不相关，或者一些协方差矩阵中不相关的两个量在信息矩阵中相关。[2]

举个例子，当在协方差矩阵中两个变量之间是相关的时候，在信息矩阵中它们可能是相互独立的（相关系数为0）。这是因为在推导信息矩阵时使用了联合分布的链式法则，信息矩阵中的相关性在确定之后计算的，此时它们是相互独立的。[3]所以，协方差矩阵和信息矩阵在衡量多元高斯分布中的相关性时有不同的角度和解释。