克拉美罗下界和fish

### 克拉美罗下界与费希尔信息量的关系

#### 费希尔信息量的概念
费希尔信息量(Fisher Information)，记作 \( I(\theta) \)，是对某一统计模型中未知参数的信息度量。具体来说，它衡量的是观测数据关于该参数携带了多少有用信息。对于单个样本而言，其定义为似然函数对数的一阶导数平方的期望值[^2]。

I(\theta)=E\left[\left(\frac{\partial}{\partial\theta}\ln f(X;\theta)\right)^{2}\mid\theta\right]

其中 \(f(X;θ)\) 表示给定参数 θ 下随机变量 X 的概率密度函数或质量分布函数；\( ln⁡f(X;θ) \) 是对应的对数似然函数。

#### 克拉美罗下界的正式定义
克拉美罗下界(Cramér-Rao Lower Bound, CRLB)给出了任何无偏估计器所能达到最小均方误差的一个理论极限。如果存在一个无偏估计器 \(\hat{\theta}(X)\)，那么这个估计器的方差满足如下关系：

\[Var(\hat{\theta})≥\frac{1}{nI(\theta)}\]

这里 n 代表独立同分布观察的数量，而 \(I(θ)\) 则是指上述提到的费希尔信息量[^3]。

因此可以看出，通过增加样本数量或者提高每单位样本所提供的费希尔信息量可以降低估计偏差并使得实际应用中的估计更加精确可靠。

#### 关系解释
两者之间的紧密联系体现在以下几个方面：
- **界限设定**：CRLB 使用费希尔信息来设置了一个基于特定参数估计精度上的绝对底线；
- **性能评估标准**：当某个估计方法达到了由费希尔信息决定的 CRLB，则说明此方法已经是最有效率的方法之一，在相同条件下无法被超越；
- **优化目标指引**：为了使估计更接近最优解，研究者们会尝试最大化费希尔信息从而间接缩小与理想情况下的差距[^1]。