溫馨提示×
您好，登錄后才能下訂單哦！
點擊 登錄注冊 即表示同意《億速云用戶服務條款》
您好，登錄后才能下訂單哦！
本篇內容主要講解“tensorflow查看梯度方式是什么”，感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷，實用性強。下面就讓小編來帶大家學習“tensorflow查看梯度方式是什么”吧!
1. 為什么要查看梯度
對于初學者來說網絡經常不收斂，loss很奇怪（就是不收斂），所以懷疑是反向傳播中梯度的問題
（1）求導之后的數（的絕對值）越來越小（趨近于0），這就是梯度消失
（2）求導之后的數（的絕對值）越來越大（特別大，發散），這就是梯度爆炸
所以說呢，當loss不正常時，可以看看梯度是否處于爆炸，或者是消失了，梯度爆炸的話，網絡中的W也會很大，人工控制一下（初始化的時候弄小點等等肯定還有其它方法，只是我不知道，知道的大神也可以稍微告訴我一下~~），要是梯度消失，可以試著用用resnet,densenet之類的
2. tensorflow中如何查看梯度
tf.gradients(y,x)這里的就是y對于x的導數（dy/dx）,x和y一定要有關聯哦~
直接tf.gradients(y_, weight1)就可以了~
到此，相信大家對“tensorflow查看梯度方式是什么”有了更深的了解，不妨來實際操作一番吧！這里是億速云網站，更多相關內容可以進入相關頻道進行查詢，關注我們，繼續學習！
免責聲明：本站發布的內容（圖片、視頻和文字）以原創、轉載和分享為主，文章觀點不代表本網站立場，如果涉及侵權請聯系站長郵箱：is@yisu.com進行舉報，并提供相關證據，一經查實，將立刻刪除涉嫌侵權內容。
