您好,登錄后才能下訂單哦!
在學習邏輯回歸的過程中,通過3D圖像可以直接觀察損失函數的收斂速度,對自行確定學習速率提供參考
損失函數公式:
Octave程序如下:
tx = linspace(100,-30,1000); %θ和X看做一個共同參數
ty = round(unifrnd(0,1,1,1000));% y的值僅僅為0或1,隨機生成1000個
m=length(tx);
[xx, yy] = meshgrid (tx, ty);
tz = -1 *( yy* log( sigmoid(xx) ) + (1 - yy ) * log( (1 - sigmoid(xx)) ) )/m; %h()就是sigmoid(),tz就是J(θ)
mesh (tx, ty, tz);
xlabel ("θX");
ylabel ("y");
zlabel ("J");
從圖中可以看到,J的收斂速度在開始比較大,后面越來越慢。對于學習速率的選擇開始要小,后面可以適度變大
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。