python-梯度下降法求函数极小值
时间: 2024-02-23 14:55:28 浏览: 143
梯度下降法求函数极值
梯度下降法是一种常用的优化算法,用于求解函数的极小值。在Python中,可以使用NumPy库来实现梯度下降法。
以下是使用梯度下降法求函数极小值的步骤:
1. 定义目标函数:首先,需要定义一个目标函数,即要求解极小值的函数。例如,我们可以定义一个简单的二次函数作为目标函数:f(x) = x^2。
2. 初始化参数:选择一个初始点作为起始点,并初始化学习率和迭代次数。学习率决定了每次迭代更新参数的步长,迭代次数决定了算法的收敛性。
3. 计算梯度:计算目标函数在当前参数点处的梯度。梯度表示了函数在该点处的变化率和方向。
4. 更新参数:根据梯度和学习率,更新参数的数值。更新规则为:参数 = 参数 - 学习率 * 梯度。
5. 迭代更新:重复步骤3和步骤4,直到达到指定的迭代次数或满足停止条件(例如梯度接近于零)。
下面是一个使用梯度下降法求解目标函数极小值的Python代码示例:
```python
import numpy as np
# 定义目标函数
def target_function(x):
return x**2
# 梯度下降法求解极小值
def gradient_descent(learning_rate, num_iterations):
# 初始化参数
x = 0
# 迭代更新
for i in range(num_iterations):
# 计算梯度
gradient = 2 * x
# 更新参数
x = x - learning_rate * gradient
return x
# 设置学习率和迭代次数
learning_rate = 0.1
num_iterations = 100
# 调用梯度下降法函数
result = gradient_descent(learning_rate, num_iterations)
print("极小值点:", result)
print("极小值:", target_function(result))
```
运行以上代码,将得到目标函数的极小值点和极小值。
阅读全文