中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

pytorch中Sequential的使用方法

發布時間:2020-06-26 13:34:58 來源:億速云 閱讀:749 作者:Leah 欄目:開發技術

今天就跟大家聊聊有關pytorch中Sequential的使用方法,可能很多人都不太了解,為了讓大家更加了解,小編給大家總結了以下內容,希望大家根據這篇文章可以有所收獲。

class torch.nn.Sequential(* args)

一個時序容器。Modules 會以他們傳入的順序被添加到容器中。當然,也可以傳入一個OrderedDict。

為了更容易的理解如何使用Sequential, 下面給出了一個例子:

# Example of using Sequential
 
model = nn.Sequential(
     nn.Conv2d(1,20,5),
     nn.ReLU(),
     nn.Conv2d(20,64,5),
     nn.ReLU()
    )
# Example of using Sequential with OrderedDict
model = nn.Sequential(OrderedDict([
     ('conv1', nn.Conv2d(1,20,5)),
     ('relu1', nn.ReLU()),
     ('conv2', nn.Conv2d(20,64,5)),
     ('relu2', nn.ReLU())
    ]))

補充知識:pytorch 中 torch.optim.Adam 方法的使用和參數的解釋

class torch.optim.Adam(params, lr=0.001, betas=(0.9, 0.999), eps=1e-08, weight_decay=0)[source]

實現Adam算法。

它在Adam: A Method for Stochastic Optimization中被提出。

參數:

params (iterable) – 待優化參數的iterable或者是定義了參數組的dict

lr (float, 可選) – 學習率(默認:1e-3)

betas (Tuple[float, float], 可選) – 用于計算梯度以及梯度平方的運行平均值的系數(默認:0.9,0.999)

eps (float, 可選) – 為了增加數值計算的穩定性而加到分母里的項(默認:1e-8)

weight_decay (float, 可選) – 權重衰減(L2懲罰)(默認: 0)

個人理解:

lr:同樣也稱為學習率或步長因子,它控制了權重的更新比率(如 0.001)。較大的值(如 0.3)在學習率更新前會有更快的初始學習,而較小的值(如 1.0E-5)會令訓練收斂到更好的性能。

betas = (beta1,beta2)

beta1:一階矩估計的指數衰減率(如 0.9)。

beta2:二階矩估計的指數衰減率(如 0.999)。該超參數在稀疏梯度(如在 NLP 或計算機視覺任務中)中應該設置為接近 1 的數。

eps:epsilon:該參數是非常小的數,其為了防止在實現中除以零(如 10E-8)。

看完上述內容,你們對pytorch中Sequential的使用方法有進一步的了解嗎?如果還想了解更多知識或者相關內容,請關注億速云行業資訊頻道,感謝大家的支持。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

乡宁县| 巴里| 睢宁县| 秭归县| 九龙坡区| 永康市| 金华市| 于都县| 丰顺县| 萝北县| 新源县| 凤凰县| 新和县| 嵊州市| 扶沟县| 民丰县| 铁岭县| 石门县| 五家渠市| 康平县| 高安市| 渝中区| 云林县| 阜南县| 舞钢市| 渑池县| 鄂州市| 上犹县| 班戈县| 湖北省| 孝义市| 城步| 揭东县| 北安市| 泰安市| 尚志市| 呼和浩特市| 尚义县| 叙永县| 赤峰市| 十堰市|