本期為TechBeat人工智能社區(qū)第510期線上Talk！

北京時間7月5日(周三)20:00，?新加坡國立大學(xué)博士—侯皓文的Talk將準(zhǔn)時在TechBeat人工智能社區(qū)開播！他與大家分享的主題是:?“RWKV論文解讀?-?在Transformer時代重塑RNN”，屆時將解密RWKV注意力機制。

Talk·信息
▼

主題：RWKV論文解讀?-?在Transformer時代重塑RNN

嘉賓：新加坡國立大學(xué)博士 侯皓文

時間：北京時間?7月5日(周三)20:00
地點：TechBeat人工智能社區(qū)
http://www.techbeat.net/

Talk·介紹

▼

RWKV作為一種新型的大語言模型架構(gòu)，具有O(1)的推理復(fù)雜度，將會降低大模型的硬件限制和部署成本，將推動大模型進行一次架構(gòu)遷移！

Talk大綱

1. 研究背景

2. 模型架構(gòu)

3. 關(guān)鍵結(jié)果

4. 總結(jié)與展望

5. 代碼解密RWKV注意力機制

Talk·預(yù)習(xí)資料

▼

論文鏈接：

https://arxiv.org/abs/2305.13048

Talk·提問交流
▼

在Talk界面下的【交流區(qū)】參與互動！留下你的打call??和問題??，和更多小伙伴們共同討論，被講者直接翻牌解答！

你的每一次貢獻，我們都會給予你相應(yīng)的i豆積分，還會有驚喜獎勵哦！

Talk·嘉賓介紹

▼

2017年畢業(yè)于新加坡國立大學(xué)，獲得博士學(xué)位。隨后，他加入了騰訊擔(dān)任應(yīng)用研究員，致力于搜索、自然語言處理和多模態(tài)領(lǐng)域的研究和實踐。在微信搜索、微信支付和微信視頻號等項目中扮演了重要角色。他參與了多個算法項目的落地，為騰訊的核心業(yè)務(wù)快速發(fā)展提供了有力支持。他的研究和實踐貢獻了搜索引擎、語言處理和多模態(tài)技術(shù)的發(fā)展，并為用戶提供了更好的體驗。目前，作為RWKV基金會的成員，繼續(xù)在相關(guān)領(lǐng)域進行研究和貢獻。他持續(xù)關(guān)注最新的技術(shù)趨勢，并致力于推動科技創(chuàng)新和社會進步。

個人主頁:?

https://www.linkedin.com/in/haowen-hou/

-The End-

關(guān)于TechBeat人工智能社區(qū)

TechBeat (www.techbeat.net) 是一個薈聚全球華人AI精英的成長社區(qū)。 我們希望為AI人才打造更專業(yè)的服務(wù)和體驗，加速并陪伴其學(xué)習(xí)成長。 期待這里可以成為你學(xué)習(xí)AI前沿知識的高地，分享自己最新工作的沃土，在AI進階之路上的升級打怪的根據(jù)地！?