当前位置: 代码迷 >> 综合 >> torch.sigmoid()、torch.nn.Sigmoid()和torch.nn.functional.sigmoid()三者之间的区别
  详细解决方案

torch.sigmoid()、torch.nn.Sigmoid()和torch.nn.functional.sigmoid()三者之间的区别

热度:59   发布时间:2024-02-02 09:58:01.0

在利用自定义损失函数进行损失计算的时候,需要使用到sigmoid函数。当在训练模型的时候,使用torch.nn.Sigmoid()对输出进行处理,但是提示__init__错误。我发现光sigmoid()就有三种调用的方式:torch.sigmoid(),torch.nn.Sigmoid()和torch.nn.functional.sigmoid()。

torch.sigmoid():

这是一个方法,包含了参数和返回值。
在这里插入图片描述

torch.nn.Sigmoid():

可以看到,这个是一个类。在定义模型的初始化方法中使用,需要在_init__中定义,然后在使用。
在这里插入图片描述

torch.nn.functional.sigmoid():

这其实是一个方法,可以直接在正向传播中使用,而不需要初始化。**在训练模型的过程中,也可以使用。**例如:
在这里插入图片描述
在这里插入图片描述

这三个sigmoid()实现的功能是一样的,没有区别。
  相关解决方案