基于Python共轭梯度法与最速下降法之间的对比_共轭梯度法与最速下降法比较,最速下降法和共轭梯度法的区别

64 浏览量更新于2023-03-16 评论 2 收藏 122KB PDF 举报

身份认证购VIP最低享 7 折!

领优惠券(最高得80元）

资源详情

资源评论

资源推荐

基于基于Python共轭梯度法与最速下降法之间的对比共轭梯度法与最速下降法之间的对比

主要介绍了基于Python共轭梯度法与最速下降法之间的对比，具有很好的参考价值，希望对大家有所帮助。一

起跟随小编过来看看吧

在一般问题的优化中，最速下降法和共轭梯度法都是非常有用的经典方法，但最速下降法往往以”之”字形下降，速度较慢，不

能很快的达到最优值，共轭梯度法则优于最速下降法，在前面的某个文章中，我们给出了牛顿法和最速下降法的比较，牛顿法

需要初值点在最优点附近，条件较为苛刻。

算法来源：《数值最优化方法》高立，P111

我们选用了64维的二次函数来作为验证函数，具体参见上书111页。

采用的三种方法为：

共轭梯度方法（共轭梯度方法（FR格式）、共轭梯度法（格式）、共轭梯度法（PRP格式）、最速下降法格式）、最速下降法

# -*- coding: utf-8 -*-

"""

Created on Sat Oct 01 15:01:54 2016

@author: zhangweiguo

"""

import sympy,numpy

import math

import matplotlib.pyplot as pl

from mpl_toolkits.mplot3d import Axes3D as ax3

import SD#这个文件里有最速下降法SD的方法，参见前面的博客

#共轭梯度法FR、PRP两种格式

def CG_FR(x0,N,E,f,f_d):

X=x0;Y=[];Y_d=[];

n = 1

ee = f_d(x0)

e=(ee[0]**2+ee[1]**2)**0.5

d=-f_d(x0)

Y.append(f(x0)[0,0]);Y_d.append(e)

a=sympy.Symbol('a',real=True)

print '第%2s次迭代：e=%f' % (n, e)

while n<N and e>E:

n=n+1

g1=f_d(x0)

f1=f(x0+a*f_d(x0))

a0=sympy.solve(sympy.diff(f1[0,0],a,1))

x0=x0-d*a0

X=numpy.c_[X,x0];Y.append(f(x0)[0,0])

ee = f_d(x0)

e = math.pow(math.pow(ee[0,0],2)+math.pow(ee[1,0],2),0.5)

Y_d.append(e)

g2=f_d(x0)

beta=(numpy.dot(g2.T,g2))/numpy.dot(g1.T,g1)

d=-f_d(x0)+beta*d

print '第%2s次迭代：e=%f'%(n,e)

return X,Y,Y_d

def CG_PRP(x0,N,E,f,f_d):

X=x0;Y=[];Y_d=[];

n = 1

ee = f_d(x0)

e=(ee[0]**2+ee[1]**2)**0.5

d=-f_d(x0)

Y.append(f(x0)[0,0]);Y_d.append(e)

a=sympy.Symbol('a',real=True)

print '第%2s次迭代：e=%f' % (n, e)

while n<N and e>E:

n=n+1

g1=f_d(x0)

f1=f(x0+a*f_d(x0))

a0=sympy.solve(sympy.diff(f1[0,0],a,1))

x0=x0-d*a0

X=numpy.c_[X,x0];Y.append(f(x0)[0,0])

ee = f_d(x0)

e = math.pow(math.pow(ee[0,0],2)+math.pow(ee[1,0],2),0.5)

Y_d.append(e)

g2=f_d(x0)

beta=(numpy.dot(g2.T,g2-g1))/numpy.dot(g1.T,g1)

d=-f_d(x0)+beta*d

print '第%2s次迭代：e=%f'%(n,e)

return X,Y,Y_d

if __name__=='__main__':

本内容试读结束，登录后可阅读更多

下载后可阅读完整内容，剩余3页未读，立即下载

weixin_38730840

粉丝: 2
资源: 968

会员权益专享

基于Python共轭梯度法与最速下降法之间的对比

评论0

会员权益专享

最新资源

基于Python共轭梯度法与最速下降法之间的对比

评论0

最优化算法,包括最速下降法,共轭梯度法,拟牛顿法

最速下降法，共轭梯度法，牛顿法，拟牛顿法

共轭梯度法求解二元函数极小值

共轭梯度法求解线性方程组conj_gradient.py

python实现最速下降法

python实现共轭梯度法

共轭梯度法与BFGS法Python实现

SciPy的共扼梯度方法完成逻辑回归的代码

CG共轭梯度算法python实现

python 梯度法求解函数极值的实例

梯度法求解线性方程组gradient.py

Delphi7 神经网络算法之共轭梯度法源码

工程优化算法python实现

共轭梯度和投影梯度study.rar

目标函数极值求解的几种方法 最速下降法，你牛顿法，共轭梯度法编程实现

共轭梯度法教程

最优化算法python实现篇（4）——无约束多维极值（梯度下降法）

Python实现最速下降法、共轭梯度法和信赖域狗腿法源代码

共轭梯度算法 matlab 实现

A4打印模板-画图设计设计师产品草稿图纸-网格纸A4打印模板高清待办练字模板PDF下载.pdf

会员权益专享

最新资源

目标函数极值求解的几种方法最速下降法，你牛顿法，共轭梯度法编程实现