Pytorch实现将模型的所有参数的梯度清0 - CSDN文库

50 浏览量更新于2023-05-04 1 收藏 42KB PDF 举报

身份认证购VIP最低享 7 折!

领优惠券(最高得80元）

资源详情

资源推荐

Pytorch实现将模型的所有参数的梯度清实现将模型的所有参数的梯度清0

有两种方式直接把模型的参数梯度设成0：

model.zero_grad()

optimizer.zero_grad()#当optimizer=optim.Optimizer(model.parameters())时，两者等效

如果想要把某一Variable的梯度置为0，只需用以下语句：

Variable.grad.data.zero_()

补充知识：补充知识：PyTorch中在反向传播前为什么要手动将梯度清零？中在反向传播前为什么要手动将梯度清零？optimizer.zero_grad()的意义的意义

optimizer.zero_grad()意思是把梯度置零，也就是把loss关于weight的导数变成0.

在学习pytorch的时候注意到，对于每个batch大都执行了这样的操作：

optimizer.zero_grad() ## 梯度清零

preds = model(inputs) ## inference

loss = criterion(preds, targets) ## 求解loss

loss.backward() ## 反向传播求解梯度

optimizer.step() ## 更新权重参数

1、由于pytorch的动态计算图，当我们使用loss.backward()和opimizer.step()进行梯度下降更新参数的时候，梯度并不会自动

清零。并且这两个操作是独立操作。

2、backward()：反向传播求解梯度。

3、step()：更新权重参数。

基于以上几点，正好说明了pytorch的一个特点是每一步都是独立功能的操作，因此也就有需要梯度清零的说法，如若不显示

的进 optimizer.zero_grad()这一步操作，backward()的时候就会累加梯度。

以上这篇Pytorch实现将模型的所有参数的梯度清0就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多

多支持软件开发网。

您可能感兴趣的文章您可能感兴趣的文章:对pytorch中的梯度更新方法详解pytorch的梯度计算以及backward方法详解画pytorch模型图,以及参数计

算的方法pytorch获取模型某一层参数名及参数值方式Pytorch中实现只导入部分模型参数的方式

本内容试读结束，登录后可阅读更多

下载后可阅读完整内容，剩余0页未读，立即下载

weixin_38685793

粉丝: 5
资源: 865

会员权益专享

图片转文字

全年可省5，000元立即开通

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈