多元正态分布详解：从一元到多元

"该资源主要涉及一元正态分布密度函数和多元正态分布的相关概念，包括随机向量、数学期望、协方差矩阵等基础知识。" 在统计学和概率论中，一元正态分布是一种重要的连续概率分布，通常表示为 \( X \sim N(\mu, \sigma^2) \)，其中 \( \mu \) 是均值，\( \sigma^2 \) 是方差。这种分布具有钟形曲线的特征，中心位于均值 \( \mu \)，宽度由方差 \( \sigma^2 \) 决定。一元正态分布的密度函数为： \[ f(x) = \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}} \] 多元正态分布则扩展到多个随机变量的情况。当一个 \( p \) 维随机向量 \( X = (X_1, X_2, ..., X_p)^\prime \) 遵循多元正态分布，记为 \( X \sim N_p(\boldsymbol{\mu}, \Sigma) \)，其中 \( \boldsymbol{\mu} \) 是一个 \( p \) 维均值向量，而 \( \Sigma \) 是 \( p \times p \) 的协方差矩阵。 随机向量的基本概念包括： 1. **数学期望（均值）**：对于一个 \( p \) 维随机向量 \( X \)，其数学期望 \( E[X] \) 或均值 \( \boldsymbol{\mu} \) 是各分量的期望值的向量，即 \( \mu_i = E[X_i] \) 对于 \( i = 1, 2, ..., p \)。 2. **协方差矩阵**：随机向量 \( X \) 的协方差矩阵 \( \Sigma \) 描述了向量各分量之间的变异性和相关性。协方差 \( \text{Cov}(X_i, X_j) \) 衡量的是 \( X_i \) 和 \( X_j \) 的变化程度如何关联。如果 \( i=j \)，则协方差等于对应的方差；如果 \( i \neq j \)，协方差可能为正（表示两个变量同向变化）或负（表示两个变量反向变化）。 随机向量的期望具有以下性质： - **线性性**：对于任意常数 \( A \) 和 \( B \)，以及 \( p \) 维随机向量 \( X \)，有 \( E[AX + B] = A E[X] + B \)。 - **可加性**：对于两个独立的 \( p \) 维随机向量 \( X \) 和 \( Y \)，其和 \( Z = X + Y \) 的期望为 \( E[Z] = E[X] + E[Y] \)。 随机向量的协方差矩阵也有特定的性质，例如它是对称的且半正定的，其对角线元素是对应分量的方差，非对角线元素是协方差。这些性质使得多元正态分布具有丰富的统计特性，并广泛应用于各种数据分析和推断任务中，如回归分析、主成分分析和假设检验等。