UCB STAT150随机过程讲义：概率空间与随机变量

UCB(加州大学伯克利分校) STAT150课程的随机过程讲义，涵盖了随机过程的基础概念，由讲师吉姆·皮特曼讲解。 随机过程是研究随机变量随时间或空间变化的数学工具，它可以看作是随机变量的序列。随机向量如\( (X_0, X_1, ..., X_N) \)表示在特定时间点的随机变量集合，而\( (X_t, t \in \{0,1,...,N\}) \)或\( (X_t, t \in [0,1]) \)则表示在连续时间上的随机过程。概率空间是随机过程的背景框架，由样本空间Ω、事件集合F和概率测度P组成，F必须满足概率公理，包括可数可加性。 离散值的随机变量具有有限或可数无限的值列表，如\( x_0, x_1, x_2, ... \)，概率分布为\( (p_i) \)。期望值\( E(X) \)可以通过求和或积分来计算，对于离散分布，\( E(X) = \sum_{i} x_ip_i \)，而对于连续分布，\( E(X) = \int_{-\infty}^{\infty} xf(x)dx \)。这里\( f(x) \)是概率密度函数，需要满足\( \int_{-\infty}^{\infty} |f(x)|dx = E|g(X)| < \infty \)。 条件概率\( P(A|B) \)定义为\( P(A \cap B) / P(B) \)，只要\( P(B) \neq 0 \)。条件期望\( E(Y|X) \)表示在知道随机变量X取值时Y的期望，离散情况下，\( E(Y|X=x) \)可通过\( \sum_{i} y_i P(Y=y_i|X=x) \)计算，连续情况下则涉及积分。 在概率论中，单调收敛定理指出，如果非负随机变量\( X_n \)逐点收敛于\( X \)，那么\( E(X_n) \)也收敛于\( E(X) \)。此外，期望值的线性性质表明，若\( X \leq Y \)，则\( E(X) \leq E(Y) \)。 当已知条件期望\( E(Y|X=x) \)对所有可能的\( x \)值时，总体期望\( E(Y) \)可以通过加权平均得到，即\( E(Y) = \sum_x E(Y|X=x) P(X=x) \)。 随机过程的深入学习还包括马尔可夫过程、布朗运动、泊松过程等更复杂的概念，它们在统计学、物理学、工程学、经济学等多个领域有广泛应用。这份讲义提供了对随机过程基本概念的介绍，为进一步学习打下基础。