核密度估计：非参数方法与R语言实践

"核密度估计是统计学中一种非参数方法，用于估计未知概率密度函数。这种方法不依赖于任何特定的概率模型，而是基于样本数据直接进行估计。在本主题中，我们将探讨核密度估计的基本概念、EM算法以及如何在R语言中实现它。 在非参数方法中，核密度估计（Kernel Density Estimation, KDE）是一种流行的技术，用于估计一个随机变量的概率密度函数。假设我们有一组独立同分布的样本`x1, x2, ..., xn`，目标是估计其背后的密度函数f(x)。经验分布函数F(x)是f(x)的一个直观估计，它是所有样本值小于或等于x的比例。然而，经验分布函数无法直接提供连续的密度估计。 核密度估计引入了“核”函数K(u)，它是一个非负的、积分等于1的函数，通常选择为高斯（正态）分布。通过将每个样本点xi与核函数结合，并对所有样本点求和，我们可以得到一个连续的密度估计： 1. 首先，对于每个样本点xi，计算核函数K在该点周围的影响，即K((x - xi)/h)，其中h是 bandwidth 或者称作窗宽，它控制了估计的平滑程度。 2. 然后，将所有样本的核函数影响加权求和，得到估计的密度函数： (1) ()() ( ) 1 1 nh h n i f x I x K h dx = ∑ ∫ * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * *