Halcon深度學習前向傳播--前向傳播(forward)和反向傳播(backward)
2023-03-23 19:18 作者:專業(yè)于機器視覺visionman | 我要投稿
Halcon深度學習前向傳播--前向傳播(forward)和反向傳播(backward)

Halcon深度學習分為前向傳播(forward)和反向傳播(backward),其實兩者關系更像PID控制,如果你在大學是自動化相關專業(yè),對PID控制并不陌生。只要學過自動控制原理相關知識你肯定知道其中的奧秘。
傳播(forward)對應下圖的Plant/Process(開環(huán)計算),

作用于y(t)。
反向傳播(backward),相當于上圖中的PID(閉環(huán)計算)

反作用于輸入u(t)。
PID控制為了整個系統(tǒng)的穩(wěn)定性,自動對控制系統(tǒng)進行準確且迅速的校正。通過調整控制參數(比例增益、積分增益/時間、微分增益/時間)讓系統(tǒng)達到最佳的控制效果。
前向傳播(forward)和反向傳播(backward)是為了在初始權重和偏置的情況下的損失函數,以及損失函數對每個要學習的參數(權重參數和偏置參數)的導數,之后即可按照選定的學習率更新參數,然后不斷循環(huán)計算損失函數、更新參數直到達到迭代次數或者損失函數達到指定與之或者最小值。最終的目的,
對于Halcon深度學習來說,前向傳播(forward)和反向傳播(backward),是前向傳播算法(Forward propagation)與反向傳播算法(Back propagation)分別構成,就是由一些數學函數計算得出的,那么這些數學函數計算是深度學習重要研究對象。
對于Halcon深度學習來說,深度學習訓練來說,通過不斷前向傳播(forward)和反向傳播(backward),不斷獲得指定或者最小的迭代次數或者損失函數。
標簽: