這才是真正的調(diào)參
前段時間在知乎刷到關于調(diào)參的話題,里面很多大佬總結了這么多年來摸爬滾打形成的一套調(diào)參體系
調(diào)參這種東西真的是可以白嫖到自己項目中,幫助少走很多彎路
隨著研究的深入,會發(fā)現(xiàn)還真沒底氣說自己是稱職的「調(diào)參師」
調(diào)參的“參”,指的是模型超參數(shù),與參數(shù)是有所區(qū)別的,超參數(shù)可以決定某最優(yōu)問題的求解速率以及模型學習效果等。超參設的好,能幫助快速找到問題的(次)最優(yōu)解
調(diào)參的重要性相信身處這個領域的同學都明白,尤其現(xiàn)在網(wǎng)絡訓練的時間越來越長,調(diào)參顯得尤為重要
網(wǎng)上高贊回答大部分是幾年前發(fā)表的動態(tài),也沒有一個系統(tǒng)的整理
其實,今年年初的時候,谷歌大腦發(fā)布了一份全面的深度學習調(diào)參手冊
github.com/google-research/tuning_playbook
當時我也轉發(fā)了這個動態(tài),現(xiàn)在星標數(shù)已經(jīng)到了20.6K

并且也有熱心網(wǎng)友(@schrodingercatss)整理了中文版本
github.com/schrodingercatss/tuning_playbook_zh_cn

谷歌發(fā)布的這份指南總結了他們自己多年來訓練網(wǎng)絡的心得經(jīng)驗
該指南當時也得到了Geoffrey Hinton 等人的強烈推薦,Geoffrey Hinton 表示
大量的實踐經(jīng)驗被提煉成這份強大的深度學習模型調(diào)參指南
全篇主要分為四個章節(jié)

強烈建議像這種專業(yè)術語多的直接看英文原稿,一些細節(jié)上的理解與把握會更加精確
英文與中文PDF版本也已經(jīng)整理打包,方便有需求的同志獲取
公眾號【啥都會一點的研究生】后臺回復【調(diào)參】即可
30+頁而已,嫌少才是對的,恭喜你真的快成為合格的調(diào)參俠了~