在將門(mén)-TechBeat人工智能社區(qū)上線(xiàn)一周年之際，我們?cè)u(píng)選出Top30進(jìn)入「2021年度TechBeat紅人榜」，同時(shí)我們也潛心策劃了AI工作者人物專(zhuān)訪(fǎng)欄目「AI紅人薈」，帶大家更深入地了解他們個(gè)人成長(zhǎng)的心路歷程，感受來(lái)自青年科學(xué)家們的榜樣力量。

本次為大家?guī)?lái)的是——香港科技大學(xué)在讀博士·馬寧寧的故事。

「AI紅人薈」系列回顧：

王乃巖?|?葛藝瀟?|?杜少雷?|?石冠亞?|?胡慶擁?|?吳小毛?|?李昀燭

作者 | 冰攸児

一個(gè)人，一只貓，一輪疫情封鎖。

三項(xiàng)元素疊加的結(jié)果，是三篇頂級(jí)會(huì)議的頂級(jí)文章。

作為港科大&曠視聯(lián)合培養(yǎng)博士生，馬寧寧已然在畢業(yè)之前成功找到了自己追求簡(jiǎn)單高效的“科研風(fēng)格”。

計(jì)算機(jī)視覺(jué)和深度學(xué)習(xí)，是馬寧寧從本科到博士畢業(yè)一直在鉆研的領(lǐng)域。這是一門(mén)研究如何使機(jī)器“看”的科學(xué)，更進(jìn)一步的說(shuō)，就是指用攝影機(jī)和計(jì)算機(jī)代替人眼對(duì)目標(biāo)進(jìn)行識(shí)別、跟蹤和測(cè)量，并進(jìn)一步做圖像處理，用計(jì)算機(jī)將目標(biāo)處理成為更適合人眼觀察或傳送給儀器檢測(cè)的圖像，且試圖創(chuàng)建能夠從圖像或者多維數(shù)據(jù)中獲取“信息”的人工智能系統(tǒng)。

從手機(jī)的人臉識(shí)別解鎖、美顏濾鏡，到工業(yè)上的機(jī)器人和無(wú)人駕駛汽車(chē)，計(jì)算機(jī)視覺(jué)的成果已經(jīng)浸入了人們的日常生活。在馬寧寧看來(lái)，現(xiàn)在這個(gè)領(lǐng)域本質(zhì)上更像一種試驗(yàn)科學(xué)，有那么點(diǎn)像生物化學(xué)課題那種要更多通過(guò)實(shí)驗(yàn)檢驗(yàn)真理的學(xué)科，已經(jīng)不完全是一個(gè)純理論領(lǐng)域了。

計(jì)算機(jī)視覺(jué)的“煉丹”實(shí)驗(yàn)具有的隨機(jī)性和玄學(xué)性質(zhì)，讓這項(xiàng)任務(wù)本身充滿(mǎn)了未知和挑戰(zhàn)，這也恰恰是這個(gè)領(lǐng)域最大的魅力所在，每一組實(shí)驗(yàn)每一個(gè)嘗試都可能會(huì)出現(xiàn)意想不到的收獲。

這種未知性中，有著“一個(gè)晚上跑出的結(jié)果漲四個(gè)點(diǎn)”的驚喜，通過(guò)迭代式的布置實(shí)驗(yàn)，也能逐漸抽絲剝繭將內(nèi)部真正起作用的因素找出來(lái)，進(jìn)一步提升整體網(wǎng)絡(luò)效率……這樣的驚喜與挑戰(zhàn)一直吸引著馬寧寧，讓他在計(jì)算機(jī)視覺(jué)這條道路上不懈探索，持續(xù)進(jìn)步。

選擇讀博，在領(lǐng)域內(nèi)繼續(xù)深耕

2015年，本科期間的馬寧寧在英特爾研究院實(shí)習(xí)了六個(gè)月，在此快樂(lè)科研期間，一個(gè)導(dǎo)師兩個(gè)實(shí)習(xí)生的隊(duì)伍在一項(xiàng)國(guó)際比賽上獲得了第一名。那是ACM多模態(tài)交互國(guó)際會(huì)議的自然場(chǎng)景情緒識(shí)別比賽，參賽的隊(duì)伍包括微軟研究院、卡內(nèi)基梅隆大學(xué)等著名企業(yè)與高校。

朝夕相處的六個(gè)月中，團(tuán)隊(duì)一直在研究視頻中的人臉情緒識(shí)別。當(dāng)時(shí)計(jì)算機(jī)視覺(jué)領(lǐng)域用的視頻數(shù)據(jù)都是在實(shí)驗(yàn)室標(biāo)注好的，都是特別理想、特別規(guī)整的學(xué)習(xí)。但競(jìng)賽內(nèi)容是要對(duì)自然場(chǎng)景的視頻進(jìn)行識(shí)別，這些視頻來(lái)自生活中，或者電影里。

當(dāng)時(shí)馬寧寧剛剛接觸神經(jīng)網(wǎng)絡(luò)，實(shí)驗(yàn)過(guò)程中的主要任務(wù)是先學(xué)習(xí)入門(mén)，入門(mén)之后，就是要不斷調(diào)整網(wǎng)絡(luò)結(jié)構(gòu)，去刷點(diǎn)（漲點(diǎn)便是準(zhǔn)確率的提升）。整個(gè)項(xiàng)目讓馬寧寧熟悉了卷積神經(jīng)網(wǎng)絡(luò)，了解了科技大企業(yè)的運(yùn)作方式，也看到了自己的科研潛力。

于是，碩士期間，馬寧寧沒(méi)有丟掉之前的努力與成果，而是將計(jì)算機(jī)視覺(jué)的研究繼續(xù)了下去，并以一作身份發(fā)表了在業(yè)內(nèi)頗有影響力的ShuffleNet v2。

馬寧寧認(rèn)為，科研分很多種，一種是做具體應(yīng)用的、比較好玩的東西，還有一種是解決比較基礎(chǔ)性的東西。大家可能更愿意做好玩的應(yīng)用，做基礎(chǔ)性、短期內(nèi)難看到收益的東西的人相對(duì)比較少。但是一旦在這方面做出成果的話(huà)，就會(huì)有比較大的影響力。

ShuffleNet v2便屬于基礎(chǔ)模型的研發(fā)搭建，這個(gè)項(xiàng)目是馬寧寧在碩士期間完成的，在博士研究生時(shí)期，這個(gè)工作目前的單篇引用量已經(jīng)超過(guò)一千。ShuffleNet這個(gè)移動(dòng)端的卷積神經(jīng)網(wǎng)模型的兩個(gè)版本，算是將輕量級(jí)網(wǎng)絡(luò)推上了新的巔峰，而馬寧寧發(fā)表的v2分析了模型性能更直接的指標(biāo)：實(shí)際推理速度。根據(jù)不同硬件的實(shí)際速度從結(jié)構(gòu)設(shè)計(jì)角度全方面分析，通過(guò)實(shí)驗(yàn)證明和理論分析提出了設(shè)計(jì)高效模型的四條準(zhǔn)則，并根據(jù)這四條準(zhǔn)則設(shè)計(jì)了ShuffleNet v2。ShuffleNet v2中的通道分割也是創(chuàng)新點(diǎn)滿(mǎn)滿(mǎn)，和DenseNet有異曲同工之妙，在這里可以看到輕量模型和高精度模型的交匯。

這項(xiàng)工作在工業(yè)界也在被普遍使用。馬寧寧在清華計(jì)算機(jī)系的同學(xué)中，大多數(shù)都進(jìn)入了就業(yè)市場(chǎng)，比如后來(lái)每次遇到在字節(jié)AI Lab的同學(xué)時(shí)，對(duì)方都會(huì)提到ShuffleNet V2，說(shuō)在公司里很多人都在用ShuffleNet v2。

也就是在做完ShuffleNet V2的時(shí)候，馬寧寧感覺(jué)自己“已經(jīng)上道了，感覺(jué)上至少成為了子領(lǐng)域里比較專(zhuān)業(yè)的研究人員，也比較適合做這個(gè)方向”。

畢業(yè)之前，孫劍老師給馬寧寧推薦了港科大和曠視的聯(lián)合培養(yǎng)項(xiàng)目。了解之后，馬寧寧覺(jué)得項(xiàng)目和自己感興趣方向一致，在ShuffleNet v2之后，他也感到自己在這個(gè)方向上還有很多值得深挖的領(lǐng)域，所以選擇了繼續(xù)自己的學(xué)術(shù)道路。

疫情閉關(guān)九月，頂級(jí)論文三篇

疫情期間，馬寧寧和所有人一樣被關(guān)在了家里。

而他，是那個(gè)疫情期間悶聲干大事的人。九個(gè)月居家辦公，產(chǎn)出三篇頂會(huì)文章：兩篇ECCV（歐洲計(jì)算機(jī)視覺(jué)國(guó)際會(huì)議），一篇CVPR（IEEE國(guó)際計(jì)算機(jī)視覺(jué)與模式識(shí)別會(huì)議）。

對(duì)馬寧寧來(lái)說(shuō)，居家辦公的工作效率和舒適度比在實(shí)驗(yàn)室或公司還高。在實(shí)驗(yàn)室或公司里一天連坐八九個(gè)小時(shí)的效率，也比不上在家每天四五個(gè)小時(shí)的沉浸式工作。

早上8點(diǎn)到12點(diǎn)，晚上10點(diǎn)到2點(diǎn)，是他的兩個(gè)高效時(shí)段，準(zhǔn)備的白板根本不夠記錄相關(guān)的筆記和靈感，于是冰箱和洗衣機(jī)上也都充滿(mǎn)了記號(hào)筆的筆跡。

勞逸結(jié)合也成為了日常規(guī)律行為，工作時(shí)間之外，他也喜歡打球和吸貓。

馬寧寧的暹羅貓養(yǎng)了兩年，最初領(lǐng)回家的路上正好經(jīng)過(guò)了谷歌大樓，在想名字的時(shí)候谷歌的標(biāo)志恰好出現(xiàn)在眼前，也順勢(shì)成為了貓的名字。

“有一些朋友會(huì)在論文里掛貓的名字，但我這只貓（Google）不太方便掛名?！彪m然無(wú)法出現(xiàn)在論文致謝，Google還是給馬寧寧的科研帶來(lái)了很大的推動(dòng)力，為他緩解壓力、拓展思路。很多時(shí)候遇到瓶頸，馬寧寧只要吸兩口Google就能想到很靠譜的idea。

馬寧寧在疫情期間的這三篇論文在領(lǐng)域內(nèi)都已經(jīng)具有一定的影響力。曠視內(nèi)部對(duì)科研成果質(zhì)量的要求可以說(shuō)是幾乎達(dá)到了極致，在投稿之前，內(nèi)部會(huì)先審核，達(dá)不到高質(zhì)量要求的文章，是沒(méi)有投稿機(jī)會(huì)的。

“孫老師教育我們說(shuō)，既然一項(xiàng)工作你做得不好也要三四個(gè)月時(shí)間，把它做好也差不多這么幾個(gè)月的時(shí)間，那為什么不把它做好？”馬寧寧說(shuō)道。他讀博期間的導(dǎo)師之一，孫劍老師，從博士期間開(kāi)始就在培養(yǎng)他們的科研價(jià)值觀。

實(shí)際上，CVPR這類(lèi)會(huì)議每年會(huì)錄用上千篇文章，但真正能產(chǎn)生影響力的，每個(gè)領(lǐng)域內(nèi)可能就只有幾篇。而馬寧寧的目標(biāo)，是要成為這幾篇文章的作者。

曠視的團(tuán)隊(duì)在這方面也有著自己關(guān)于科研境界的共識(shí)：第一層境界是成果被人引用，并做論文分享，第二層更高的境界則是被寫(xiě)進(jìn)教科書(shū)。這種境界觀也指引著他們對(duì)自己團(tuán)隊(duì)發(fā)表成果的要求。

很多地方會(huì)讓學(xué)生在開(kāi)始時(shí)做一些練手項(xiàng)目，但馬寧寧所在的項(xiàng)目跳過(guò)了這個(gè)逐漸適應(yīng)的過(guò)程。剛?cè)腴T(mén)的他就需要產(chǎn)出top級(jí)別會(huì)議里的top質(zhì)量論文。

不僅發(fā)表的論文要達(dá)到頂級(jí)質(zhì)量，讀博期間的mentor也一直在強(qiáng)調(diào)獨(dú)立科研能力的重要性。在科研開(kāi)始階段著重鍛煉完成任務(wù)的能力之后，更要有自己獨(dú)立的科研見(jiàn)解和完整的獨(dú)立科研能力。方向、方法、實(shí)驗(yàn)、寫(xiě)作四個(gè)流程全部獨(dú)立完成，才能夠在內(nèi)部達(dá)到一個(gè)合格的標(biāo)準(zhǔn)。

更小、但更強(qiáng)、也得更優(yōu)雅

雖然現(xiàn)在已經(jīng)是一個(gè)可以九個(gè)月獨(dú)自鉆研出三篇頂級(jí)論文的科研能手，但實(shí)際上剛開(kāi)始單槍匹馬搞科研的時(shí)候，馬寧寧也有漫長(zhǎng)的適應(yīng)期，也陷入了他科研階段最長(zhǎng)的一次瓶頸期，用了半年多的時(shí)間去調(diào)整研究方向。

瓶頸項(xiàng)目的研究?jī)?nèi)容是下一代移動(dòng)端的神經(jīng)網(wǎng)絡(luò)。這個(gè)研究課題的探索目標(biāo)有三個(gè)：更小、更強(qiáng)、更優(yōu)雅。更小和更強(qiáng)本身就是矛盾的，一般來(lái)說(shuō)，模型更小一般效果會(huì)更差。前兩個(gè)目標(biāo)還好，但是，為了研究出真正好用的模型而不是使用已有技術(shù)的復(fù)雜堆砌，而是要造出更加簡(jiǎn)潔更加優(yōu)雅的網(wǎng)絡(luò)結(jié)構(gòu)。這三個(gè)設(shè)計(jì)目標(biāo)放在一起，就讓整個(gè)研究課題像是在爬象牙塔尖，越往后越難爬，要超越之前本身就很簡(jiǎn)單有效的高效網(wǎng)絡(luò)結(jié)構(gòu)。

這個(gè)項(xiàng)目從19年2月份一直瓶頸到了10月份。

十個(gè)月的時(shí)間內(nèi)，白天是無(wú)窮盡的頭腦風(fēng)暴，盡量窮盡所有能想到的細(xì)節(jié)和方法，在晚上布置下實(shí)驗(yàn)，再在第二天早晨收割結(jié)果。

對(duì)于馬寧寧來(lái)說(shuō)，檢查實(shí)驗(yàn)結(jié)果有如開(kāi)盲盒，在真正看到結(jié)果是相對(duì)未知的，計(jì)算機(jī)視覺(jué)的這種未知性也成為了這個(gè)領(lǐng)域最大的魅力所在。

每一個(gè)科研課題都是難啃的硬骨頭，目標(biāo)還是之前提到的，要做到非常優(yōu)雅，但必須非常漲點(diǎn)。雖然最后呈現(xiàn)的會(huì)是一些非常簡(jiǎn)潔優(yōu)雅的有效結(jié)構(gòu)，但研究期間會(huì)有很多優(yōu)秀的中間結(jié)果出來(lái)，但是本著最開(kāi)始的初衷，很多不錯(cuò)的成果沒(méi)有發(fā)表，而是不斷自問(wèn)能不能做得更好、更徹底。不過(guò)這些都儲(chǔ)存在知識(shí)技能庫(kù)里了，對(duì)后面科研也很有幫助。

如今輕車(chē)熟路的馬寧寧，表示計(jì)算機(jī)視覺(jué)的難點(diǎn)就是要不停去想，甚至對(duì)一些看起來(lái)想當(dāng)然的東西也要花時(shí)間深挖，既要腦洞夠大，又要足夠勤奮。

十個(gè)月后，量變終于引向了質(zhì)變。這塊前所未有的硬骨頭終于被馬寧寧啃下，成為了馬寧寧的又一篇代表作品。

可以說(shuō)，在曠視和導(dǎo)師的輔導(dǎo)下，馬寧寧建立起了一份追求簡(jiǎn)單本質(zhì)、又要做到最優(yōu)的科研觀。

Keep being?simple & effective

所有科研人都知道越復(fù)雜的東西堆到一起肯定會(huì)越容易漲點(diǎn)，幾個(gè)方法疊加在一起去做一個(gè)任務(wù)，效果比較容易提升。相反，對(duì)一個(gè)復(fù)雜的東西不斷剝離不斷簡(jiǎn)單化通常會(huì)掉點(diǎn)，但如果一個(gè)簡(jiǎn)單的東西能有漲點(diǎn)的效果，那大概率就是一個(gè)好東西了。

馬寧寧最近最喜歡的一個(gè)工作，就是這么一個(gè)“本質(zhì)”的激活函數(shù)模型。卷積神經(jīng)網(wǎng)絡(luò)分為幾個(gè)基本的部件，第一是卷積層、第二是歸一層，第三就是激活層。

馬寧寧提出的這個(gè)新的激活函數(shù)是基于已有模型的分析與探索，新的一般式不但形式簡(jiǎn)潔，而且在同一條件下能夠漲點(diǎn)很多，并且適用于多種不同任務(wù)。

好的科研工作往往能夠給后面的研究者帶來(lái)更多的啟發(fā)。一個(gè)好的研究，終極目的并不應(yīng)該僅僅是單純的借助技巧刷點(diǎn)，更應(yīng)該能引發(fā)新的思考、新的視角和新的分析，讓后面的研究員有更多的拓展空間。

今年3月，馬寧寧完成了博士論文答辯，即將進(jìn)入人生的又一個(gè)新階段。這個(gè)把《進(jìn)擊的巨人》中最強(qiáng)男人利威爾兵長(zhǎng)放在自己學(xué)校主頁(yè)的大男孩，會(huì)帶著這些年來(lái)的科研技能，繼續(xù)保持這種簡(jiǎn)單本質(zhì)、做到最優(yōu)（simple & effective)的精神。

- The End?-

關(guān)于TechBeat人工智能社區(qū)

TechBeat(www.techbeat.net)隸屬于將門(mén)創(chuàng)投，是一個(gè)薈聚全球華人AI精英的成長(zhǎng)社區(qū)。我們希望為AI人才打造更專(zhuān)業(yè)的服務(wù)和體驗(yàn)，加速并陪伴其學(xué)習(xí)成長(zhǎng)。期待這里可以成為你學(xué)習(xí)AI前沿知識(shí)的高地，分享自己最新工作的沃土，在AI進(jìn)階之路上的升級(jí)打怪的根據(jù)地！

更多詳細(xì)介紹>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ