![](https://csdnimg.cn/release/download_crawler_static/18470343/bg1.jpg)
第 35 卷 第 2 期 西 南 师 范 大 学 学 报 (自然科学版) 2010 年 4 月
Vol畅 35 No畅 2 Journal of Southwest China Normal University (Natural Science Edition) Apr畅 2010
文章编号 :1000 5471(2010)02 0076 05
改 进 的 多 参 数 非 线 性 共 轭 梯 度 法 的 全 局 收 敛 性
①
黄 海 , 林穗华
广西民族师范学院 数学与计算机科学系 ,广西 崇左 532200
摘要 : 利用共轭条件 ,提出一个改进的多参数共轭梯度法 ,并证明了算法在 SWP 线性搜索下具有全局收敛性 .
关 键 词 :无约束优化 ;共轭梯度法 ; SWP 线性搜索 ;全局收敛
中图分类号 :O224 文献标识码 : A
考虑无约束优化问题
min
f
(x) ,x
∈
R
n
(1)
f
:R
n
→
R 为连续可微的目标函数 .共轭梯度法是求解问题(1) 的一种重要方法 ,其迭代格式如下 :
x
k
+
1
=
x
k
+
α
k
d
k
(2)
d
k
=
-
g
k
k
=
1
-
g
k
+
β
k
d
k
-
1
k
≥
2
(3)
其中 :
α
k
>
0 是由某种搜索策略获得的步长因子 ,d
k
为第 k 次迭代时的搜索方向 ,
g
k
表示
f
(x) 在 x
k
处的
梯度 磹
f
(x
k
) ,
β
k
为标量参数 .
不同的
β
k
对应着不同的共轭梯度法
[1 2]
,这些方法都是基于依赖精确线搜索的如下共轭条件(H 为 n 阶
对称正定矩阵)
d
i
H d
j
橙 i
≠
j
(4)
发展而来的 ,即对问题(1) 的目标函数为二次模型
f
(x) =
1
2
X
T
H X
+
b
T
X (5)
且采用精确线性搜索时 ,算法产生的搜索方向 d
k
都满足共轭条件(4) .文献[3 5]对 HS ,PRP ,LS 方法进
行改进而得到了 WYL ,M HS ,M LS 方法 ,并将这些修正方法组合而得到了带有两个参数的共轭梯度法 ,对
二次正定目标函数也都符合共轭条件(4) .而实际计算中通常采用非精确线搜索 ,目标函数也不一定有形
式(5) ,无法保证搜索方向的共轭性 .基于这些因素 ,文献[6] 利用微分中值定理及拟牛顿公式 ,提出合理
代替(4) 的共轭条件
d
T
k
y
k
-
1
= -
t
g
T
k
s
k
-
1
(6)
其中 :
y
k
-
1
=
g
k
-
g
k
-
1
,s
k
-
1
=
x
k
-
x
k
-
1
,t
≥
0 为标量 .根据新的共轭条件(6) 得到
β
DL
k
=
β
HS
k
-
t
g
T
k
s
k
-
1
d
T
k
-
1
y
k
-
1
.
类似文献[7] 对 PRP 方法限制
β
PR P
k
≥
0 的做法 ,得到
β
DL
+
k
=
max{
β
H S
k
,0} - t
g
T
k
s
k
-
1
d
T
k
-
1
y
k
-
1
.DL
+
方法在 d
k
满
足充分下降性条件的假设前提下 ,采用 SWP 线搜索时全局收敛 .
文献[3] 中提出了一个共轭梯度法簇
①
收稿日期 : 2009 02 26
基金项目 : 广西民族师范学院科研资助项目 (2007012 ;200909) .
作者简介 : 黄 海 (1969 ) , 男 , 广西武鸣人 , 副教授 , 主要从事最优化理论与数学模型的研究 .