没有合适的资源?快使用搜索试试~ 我知道了~
首页pytorch 固定部分参数训练的方法
需要自己过滤 optimizer.SGD(filter(lambda p: p.requires_grad, model.parameters()), lr=1e-3) 另外,如果是Variable,则可以初始化时指定 j = Variable(torch.randn(5,5), requires_grad=True) 但是如果是 m = nn.Linear(10,10) 是没有requires_grad传入的 m.requires_grad也没有 需要 for i in m.parameters(): i.requires_grad=False 另外一个小技巧就是在nn.Modu
资源详情
资源评论
资源推荐

pytorch 固定部分参数训练的方法固定部分参数训练的方法
需要自己过滤
optimizer.SGD(filter(lambda p: p.requires_grad, model.parameters()), lr=1e-3)
另外,如果是Variable,则可以初始化时指定
j = Variable(torch.randn(5,5), requires_grad=True)
但是如果是
m = nn.Linear(10,10)
是没有requires_grad传入的
m.requires_grad也没有
需要
for i in m.parameters():
i.requires_grad=False
另外一个小技巧就是在nn.Module里,可以在中间插入这个
for p in self.parameters():
p.requires_grad=False
这样前面的参数就是False,而后面的不变
class Net(nn.Module):
def __init__(self):
super(Net, self).__init__()
self.conv1 = nn.Conv2d(1, 6, 5)
self.conv2 = nn.Conv2d(6, 16, 5)
for p in self.parameters():
p.requires_grad=False
self.fc1 = nn.Linear(16 * 5 * 5, 120)
self.fc2 = nn.Linear(120, 84)
self.fc3 = nn.Linear(84, 10)
以上这篇pytorch 固定部分参数训练的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持
软件开发网。
您可能感兴趣的文章您可能感兴趣的文章:python PyTorch预训练示例Pytorch加载部分预训练模型的参数实例pytorch 更改预训练模型网络结构的
方法pytorch 在网络中添加可训练参数,修改预训练权重文件的方法详解PyTorch批训练及优化器比较pytorch 预训练层的使用方
法















weixin_38595850
- 粉丝: 7
- 资源: 902
上传资源 快速赚钱
我的内容管理 收起
我的资源 快来上传第一个资源
我的收益
登录查看自己的收益我的积分 登录查看自己的积分
我的C币 登录后查看C币余额
我的收藏
我的下载
下载帮助

会员权益专享
安全验证
文档复制为VIP权益,开通VIP直接复制

评论0