当前位置: 代码迷 >> 综合 >> 【深度之眼】Pytorch框架班第五期-Week4【任务3】第一节:torch.optim.SGD
  详细解决方案

【深度之眼】Pytorch框架班第五期-Week4【任务3】第一节:torch.optim.SGD

热度:45   发布时间:2024-02-11 02:45:43.0

学习率

在这里插入图片描述
在这里插入图片描述

Momentum

Momentum(动量,冲量):结合当前梯度与上一次更新信息,用于当前更新

在这里插入图片描述
在这里插入图片描述

optim.SGD

optim.SGD(params, lr=<object object>, momentum=0,dampening=0, weight_decay=0,nesterov=False)

主要参数:
params:管理的餐胡祖
lr: 初始学习率
momentum: 动量系数,贝塔
weight_decay: L2正则化系数
nesterov: 是否采用NAG
在这里插入图片描述