python极大似然估计

极大似然估计（Maximum Likelihood Estimation，MLE）是一种常用的参数估计方法，用于根据观测数据来估计概率分布的参数。在Python中，可以使用SciPy库中的stats模块来进行极大似然估计。

以下是一个简单的使用Python实现极大似然估计的示例程序：

import numpy as np
from scipy.stats import norm

# 假设观测到的数据服从正态分布 N(mu, sigma^2)
mu_true = 5.0
sigma_true = 2.0
data = np.random.normal(mu_true, sigma_true, size=100)

# 定义似然函数
def likelihood(mu, sigma, data):
    return np.prod(norm.pdf(data, mu, sigma))

# 极大似然估计
def mle(data):
    mu_hat = np.mean(data)
    sigma_hat = np.std(data)
    return mu_hat, sigma_hat

# 计算似然函数在 mu, sigma 的取值下的值
mu_vals = np.linspace(0, 10, num=100)
sigma_vals = np.linspace(0.1, 5, num=100)
likelihood_vals = np.zeros((100, 100))
for i, mu in enumerate(mu_vals):
    for j, sigma in enumerate(sigma_vals):
        likelihood_vals[i, j] = likelihood(mu, sigma, data)

# 找到最大似然估计的 mu, sigma 值
mu_mle, sigma_mle = mle(data)

# 输出结果
print('True Parameters: mu={:.2f}, sigma={:.2f}'.format(mu_true, sigma_true))
print('MLE Parameters: mu={:.2f}, sigma={:.2f}'.format(mu_mle, sigma_mle))

这段代码中，我们首先生成了服从正态分布的观测数据。然后定义了似然函数likelihood，它计算给定参数mu和sigma下观测数据的似然值。接下来，我们实现了极大似然估计函数mle，它使用观测数据来估计mu和sigma的值。最后，我们计算了似然函数在一定范围内mu和sigma的取值下的值，并找到使似然函数最大化的mu和sigma值，即最大似然估计的结果。

运行这段代码，我们可以得到真实参数和极大似然估计的参数值。

参考文献：
[1] Statistics (scipy.stats) — SciPy v1.4.1 Reference Guide
[2] Scipy：高级科学计算 | SciPy Lecture Notes 中文版
[3] python简单实现最大似然估计&scipy库的使用