__init__、forward、__call__三者怎么在pytorch中使用

本篇文章給大家分享的是有關__init__、forward、__call__三者怎么在pytorch中使用，小編覺得挺實用的，因此分享給大家學習，希望大家閱讀完這篇文章后可以有所收獲，話不多說，跟著小編一起來看看吧。

1）__init__主要用來做參數初始化用，比如我們要初始化卷積的一些參數，就可以放到這里面，這點和tf里面的用法是一樣的

2）forward是表示一個前向傳播，構建網絡層的先后運算步驟

3）__call__的功能其實和forward類似，所以很多時候，我們構建網絡的時候，可以用__call__替代forward函數，但它們兩個的區別又在哪里呢？

當網絡構建完之后，調__call__的時候，會去先調forward，即__call__其實是包了一層forward，所以會導致兩者的功能類似。

在pytorch在nn.Module中，實現了__call__方法，而在__call__方法中調用了forward函數：

https://github.com/pytorch/pytorch/blob/master/torch/nn/modules/module.py

2.代碼

import torch
import torch.nn as nn
import torch.nn.functional as F
 
class Net(nn.Module):
 def __init__(self, in_channels, mid_channels, out_channels):
 super(Net, self).__init__()
 self.conv0 = torch.nn.Sequential(
 torch.nn.Conv2d(in_channels, mid_channels, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1)),
 torch.nn.LeakyReLU())
 self.conv1 = torch.nn.Sequential(
 torch.nn.Conv2d(mid_channels, out_channels * 2, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1)))
 
 def forward(self, x):
 x = self.conv0(x)
 x = self.conv1(x)
 return x
 
class Net(nn.Module):
 def __init__(self, in_channels, mid_channels, out_channels):
 super(Net, self).__init__()
 self.conv0 = torch.nn.Sequential(
 torch.nn.Conv2d(in_channels, mid_channels, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1)),
 torch.nn.LeakyReLU())
 self.conv1 = torch.nn.Sequential(
 torch.nn.Conv2d(mid_channels, out_channels * 2, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1)))
 
 def __call__(self, x):
 x = self.conv0(x)
 x = self.conv1(x)
 return x

補充：torch/nn目錄結構以及__init__.py

torch/nn目錄結構以及init.py

torch/nn目錄結構

__init__.py：

from .modules import *
#nn.modules  導入modules目錄下內容 定義容器modules
from .parameter import Parameter
#nn.Parameter 導入parameter.py  定義parameter
from .parallel import DataParallel
#導入parallel目錄下data_parallel.py中的DataParallel類
from . import init
#nn.init   導入init.py   參數初始化
from . import utils
#nn.utils  導入utils目錄下內容 官網api下nn.utils下api

對于backends, functional.py, _functions 需要在代碼前重新Import

例如我們常用的

import torch.nn.functional as F 就是導入了functional.py

backends和_functions是functional.py實現各種函數時所用到的。

以上就是__init__、forward、__call__三者怎么在pytorch中使用，小編相信有部分知識點可能是我們日常工作會見到或用到的。希望你能通過這篇文章學到更多知識。更多詳情敬請關注億速云行業資訊頻道。