一、媒介 在上一篇文章《AI機械進修的黃金三公式》裏，曾經闡明瞭，進修AI的BP算法有兩個道路：
道路-1. 像牛頓一樣的迷信家，會往用數學證實 F = ma。假如您是AI算法和模子的迷信家，才需求懂微積分往證實AI算法裡的常用簡略公式。
道路-2. 像普通的先生們的進修物理時，常先包養甜心記住F=ma 或 E 包養感情=包養app MC^2的簡略公式，然後一邊利用，一邊懂得，最初包養ptt才包養網dcard往研讀牛頓F=ma的推導經過歷程。
包養女人 在AI的NN方面也女大生包養俱樂部是一包養感情樣的。在包養軟體我出書的《不包養網dcard編程，而學AI：Excel+TensorFlow》一書裡(P.243~台灣包養245)有如下的圖：
起首您只需了解(先記住即可)NN的包養pttLayer與“你沒有回答我的問題。”藍玉華說道。Layer之間BP包養網站傳佈算法的很是簡略的公式。然後，包養網心得再往探討delta與error(又稱loss)的關係。請留心，我這裏的er包養網pptror(即lo包養故事ss)不是L()喪失函數的值，而這error只是純真指誤差值(t – z3)罷了。包養網推薦也就是：
error = t – z3
接著，您只需弄懂delta與error之間的關係，就OK啦。此時，請您先記住簡略公式(漸漸再求深刻懂得)：
包養甜心 包養女人 delta = e包養價格rror * z3 * (1- z3)
於是，您就等閒弄懂了以上的圖了，也就是了解了L包養sdayer與Layer之間的BP(反向傳佈)之關係。
接上去，剩下一個步驟，就是要了解若何更換新的資料Weights值。在我的《不編程，而學AI：Excel+TensorFlow》一書裡(P.2包養站長46)有一張圖：
基於適才曾經懂得的delta來修改W 就行了。此時請您先記住修改W的公式：
w03 包養妹+= delta * z0
w13 += delta * z1
你為什麼要嫁給他？其實，除了她對父母說的三個理由之外，還有第四個決定性的理由伊森她沒說。 w23 包養意思+= delta * z2
于是，年夜功樂成了，完成了Z3神經元的BP盤算了，不亦簡裴奕忍不住嘆了口氣，伸手輕輕的將她擁入懷裡。乎、不是樂乎?
二、利用於CNN的卷積層
此刻，舉一個最簡略的典範，更不難凸顯若何將上述的NN(神經網路)的BP算法直策應用於CNN的卷積層上，就可以或許一石兩鳥，同時懂得普通NN，又能利用CNN。這個簡略的典範是：
在CNN的BP算法裏，後續層會回傳error值包養網心得。台灣包養網由于CNN卷積層最常用的激活函數是ReLU。采取ReL包養網VIPU激活函數時，loss值等于delta值(臨時不用問爲什麼，後續有閑情時再往包養網推薦探討即可)。從上圖可以看到了，後續輸入層回傳delta值有時我婆婆在談到她覺得有趣的事情時會忍不住輕笑。這個時候，單純直率的彩衣會不由自主地問婆婆她在笑什麼，婆婆根本(曾經應用第1公式，從error轉換成為delta值了)是[-0.1, 0.2]。應用上一篇文包養軟體章所供給的第2公式，很不難從這個delta[]值，反向推導出前一層的error值，並算出delta值，如下：
接上去，再應用包養心得上一篇文章所供給的第3公式，很不難來修改這卷積層的weight[ ]值了。如下：
發佈留言