python zero_grad()

最新推荐文章于 2024-03-16 09:55:21 发布

Florence_Janie

最新推荐文章于 2024-03-16 09:55:21 发布

阅读量1.4w

点赞数 4

分类专栏： Python 人工智能

Python 同时被 2 个专栏收录

42 篇文章 4 订阅

订阅专栏

人工智能

23 篇文章 0 订阅

订阅专栏

有两种方式直接把模型的参数梯度设成0：

model.zero_grad()
optimizer.zero_grad() # 当optimizer=optim.Optimizer(model.parameters())时，两者等效

如果想要把某一Variable的梯度置为0，只需用以下语句：

Variable.grad.data.zero_()

# Zero the gradients before running the backward pass.
    model.zero_grad()

# Before the backward pass, use the optimizer object to zero all of the
# gradients for the variables it will update (which are the learnable weights
# of the model)
    optimizer.zero_grad()

优惠劵

Florence_Janie

关注关注

4
点赞
踩
18

收藏

觉得还不错? 一键收藏
0
评论
python zero_grad()

有两种方式直接把模型的参数梯度设成0：model.zero_grad()optimizer.zero_grad() # 当optimizer=optim.Optimizer(model.parameters())时，两者等效如果想要把某一Variable的梯度置为0，只需用以下语句：Variable.grad.data.zero_()# Zero the gradients ...
复制链接

扫一扫