本周為TechBeat人工智能社區(qū)第280期線上Talk！北京時間2月25日(周四)晚8點，美國東北大學助理教授—王言治博士的talk將準時在TechBeat人工智能社區(qū)上線！

他與大家分享的主題是“如何實現(xiàn)最優(yōu)的移動端神經(jīng)網(wǎng)絡加速”，將介紹其團隊最近的工作“CoCoPIE”，通過壓縮——編譯協(xié)同設計，以克服限制，實現(xiàn)邊緣設備上最佳的深度神經(jīng)網(wǎng)絡加速性能。

Talk·信息

▼

主題：如何實現(xiàn)最優(yōu)的移動端神經(jīng)網(wǎng)絡加速

嘉賓：美國東北大學助理教授 王言治

上線時間：北京時間?2月25日 (周四) 20:00

地點：TechBeat人工智能社區(qū)

http://www.techbeat.net/

長按識別二維碼，一鍵完成預約！

Talk·提綱

▼

移動與嵌入式計算設備已經(jīng)成為深度學習的關鍵載體，以促進機器智能的普及。然而，由于邊緣設備上的計算/存儲資源有限，如何在邊緣設備上實現(xiàn)深度神經(jīng)網(wǎng)絡的實時推理是一個公認的挑戰(zhàn)。為了克服這一挑戰(zhàn)，人們已經(jīng)研究了深度神經(jīng)網(wǎng)絡的模型壓縮，包括權重剪枝與權重量化。然而，目前關于深度神經(jīng)網(wǎng)絡壓縮的工作受限于難以同時滿足高精度與高硬件性能的雙重要求。

本次Talk介紹了我們最近的工作CoCoPIE，其內容代表了通過壓縮——編譯協(xié)同設計，以克服上述限制，實現(xiàn)邊緣設備上最佳的深度神經(jīng)網(wǎng)絡加速性能。我們提出了新型的細粒度結構化剪枝方案，包括模式化權重剪枝、塊狀權重剪枝等。在編譯器的幫助下，它們可以同時實現(xiàn)高硬件性能（類似于通道剪枝），同時保持零精度損失，這是之前的工作無法做到的。

同樣，我們提出了新穎的量化方案，實現(xiàn)了接近2位權重量化的超高硬件性能，同時幾乎沒有精度損失。通過CoCoPIE框架，我們能夠在現(xiàn)有的移動設備上實現(xiàn)實時深度神經(jīng)網(wǎng)絡任務的執(zhí)行，包括物體檢測、姿勢估計、活動檢測、語音識別等，與之前的工作相比，速度提升了近180倍。

綜合演示請參考以下鏈接:

https://space.bilibili.com/573588276?from=search&;seid=11881710196887435131

Talk·參考資料

▼

這是本次分享中將會提及的資料，建議提前預習哦！

1. “CoCoPIE: Making Mobile AI Sweet as PIE — Compression-Compilation Co-Design Goes a Long Way” (Communications of the ACM Featured Article) is on Arxiv.?

https://arxiv.org/pdf/2003.06700.pdf

2. YOLObile: Real-Time Object Detection on Mobile Devices via Compression-Compilation Co-Design（AAAI 2021）

https://arxiv.org/pdf/2009.05697.pdf

3. RT3D: Achieving Real-Time Execution of 3D Convolutional Neural Networks on Mobile Devices（AAAI 2021）

https://arxiv.org/pdf/2007.09835.pdf

4. An Image Enhancing Pattern-based Sparsity for Real-Time Inference on Mobile Devices（ECCV 2020）

https://arxiv.org/pdf/2001.07710.pdf

5. RTMobile: Beyond Real-time Mobile Acceleration of RNNs for Speech Recognition（DAC 2020）

https://arxiv.org/pdf/2002.11474.pdf

6. PCONV: the missing but desirable sparsity in DNN weight pruning for real-time execution on mobile device（AAAI 2020）

https://arxiv.org/abs/1909.05073

7. PatDNN: Achieving real-time DNN execution on mobile devices with pattern-based weight pruning（ASPLOS 2020）

https://arxiv.org/abs/2001.00138v1

8. Towards Real-Time DNN Inference on Mobile Platforms with Model Pruning and Compiler Optimization（IJCAI 2020）

https://arxiv.org/pdf/2004.11250.pdf

9. Wootz: A Compiler-based Framework for Fast CNN Pruning via Composability（PLDI 2019）

https://people.engr.ncsu.edu/xshen5/Publications/pldi2019.pdf

Talk·提問交流

▼

方式 ①

在Talk界面下的【交流區(qū)】參與互動！留下你的打call??和問題??，和更多小伙伴們共同討論，說不定就被講者直接翻牌解答了呢！

你的每一次貢獻，我們都會給予你相應的i豆積分，還會有驚喜獎勵哦！

方式 ②

在本文留言區(qū)直接提出你的問題，或掃描下方二維碼提問！問題被選中的小伙伴們將獲得一個紅包獎勵！

Talk·嘉賓介紹

▼

王言治，現(xiàn)為美國東北大學電子與計算機工程系助理教授。他于2009年獲得清華大學學士學位，2014年獲得南加州大學博士學位。他的研究方向為深度學習應用的模型壓縮與平臺加速。自2018年09月以來，他的研究成果創(chuàng)造了在各大代表性深度神經(jīng)網(wǎng)絡上最高的模型壓縮率。他在基于AQFP超導的深度神經(jīng)網(wǎng)絡加速方面的工作是迄今為止所有硬件設備中能效最高的。他最近的研究成果CoCoPIE可以利用現(xiàn)成的移動設備在幾乎所有的深度學習應用上實現(xiàn)實時性能，其加速性能超過同類型其他各類加速框架的達180倍。

他的工作被廣泛發(fā)表在頂級會議和期刊上（如：AAAI、ICML、CVPR、ICLR、IJCAI、ECCV、ICDM、ACM MM、DAC、ICCAD、ASPLOS、ISCA、MICRO、HPCA、PLDI、ICS、PACT、ISSCC、FPGA、LCTES、CCS、VLDB、PACT、ICDCS、Infocom、C-ACM、JSSC、TComputer、TCAS-I、TCAD、JSAC、TNNLS等)，被引用超過8300次。他發(fā)表的論文曾獲5次最佳論文獎和頂級論文獎，1篇Communications of ACM專題文章，另有10次最佳論文提名和4次熱門論文獎。他曾獲美國陸軍青年研究員計劃獎（YIP）、馬薩諸塞州橡子創(chuàng)新獎（Acorn Innovation Award）、謝明學者獎（Ming Hsieh Scholar Award），以及谷歌、英特爾、MathWorks、Snap等公司的其他研究獎項。他的3名博士/博士后學生成為康涅狄格大學、克萊姆森大學和德克薩斯農(nóng)工大學（Corpse Christi）的終身制教師。

長按識別二維碼，一鍵完成預約！

關于TechBeat人工智能社區(qū)

▼

TechBeat(www.techbeat.net)是一個薈聚全球華人AI精英的成長社區(qū)。 我們希望為AI人才打造更專業(yè)的服務和體驗，加速并陪伴其學習成長。期待這里可以成為你學習AI前沿知識的高地，分享自己最新工作的沃土，在AI進階之路上的升級打怪的根據(jù)地！? ??

更多詳細介紹>>https://mp.weixin.qq.com/s/jGSmWWoQcNalUaJmMyj1Yw