Talk預(yù)告 | 瀾舟科技NLP算法工程師華菁云:孟子輕量化NLP預(yù)訓(xùn)練模型及其應(yīng)用

本期為TechBeat人工智能社區(qū)第370期線上Talk。
北京時(shí)間12月22日(周三)晚8點(diǎn),瀾舟科技NLP算法工程師——華菁云的Talk將準(zhǔn)時(shí)在TechBeat人工智能社區(qū)開播!
她與大家分享的主題是: “孟子輕量化NLP預(yù)訓(xùn)練模型及其應(yīng)用?”,屆時(shí)將主要介紹孟子預(yù)訓(xùn)練的輕量化模型技術(shù)和基于孟子預(yù)訓(xùn)練模型的三個(gè)具體應(yīng)用。
Talk·信息
主題:孟子輕量化NLP預(yù)訓(xùn)練模型及其應(yīng)用
嘉賓:瀾舟科技NLP算法工程師 華菁云
時(shí)間:北京時(shí)間?12月22日?(周三) 20:00
地點(diǎn):TechBeat人工智能社區(qū)
http://www.techbeat.net/

完整版怎么看?
掃描下方二維碼,或復(fù)制鏈接https://datayi.cn/w/bR7D2j2Po至瀏覽器,一鍵完成預(yù)約!上線后會(huì)在第一時(shí)間收到通知哦~?
Talk·提綱
預(yù)訓(xùn)練成為了認(rèn)知智能的核心技術(shù)。2017年推出的Transformer,催生了BERT、GPT、T5等預(yù)訓(xùn)練模型。預(yù)訓(xùn)練+微調(diào)技術(shù)可以一套技術(shù)解決不同語言NLP、不同的NLP任務(wù),有效地提升了開發(fā)效率,這標(biāo)志著NLP進(jìn)入到工業(yè)化實(shí)施階段。孟子模型基于輕量級(jí)、高效訓(xùn)練研究路線,有利于快速、低成本地落地現(xiàn)實(shí)業(yè)務(wù)場景。
1. 介紹孟子預(yù)訓(xùn)練的輕量化模型技術(shù);
2. 介紹基于孟子預(yù)訓(xùn)練模型的三個(gè)具體應(yīng)用:機(jī)器翻譯、營銷文案生成、金融搜索引擎等。
Talk·參考資料
這是本次分享中將會(huì)提及的資料,建議提前預(yù)習(xí)哦!
孟子開源項(xiàng)目:?
https://github.com/Langboat/Mengzi
孟子預(yù)訓(xùn)練模型發(fā)布:
https://huggingface.co/Langboat
孟子預(yù)訓(xùn)練模型arXiv技術(shù)報(bào)告:
https://arxiv.org/abs/2110.06696
Talk·提問交流
通過以下兩種方式提問都將獲得微信現(xiàn)金紅包獎(jiǎng)勵(lì)哦!
方式 ①
在Talk界面下的【交流區(qū)】參與互動(dòng)!留下你的打call??和問題??,和更多小伙伴們共同討論,被講者直接翻牌解答!

你的每一次貢獻(xiàn),我們都會(huì)給予你相應(yīng)的i豆積分,還會(huì)有驚喜獎(jiǎng)勵(lì)哦!
方式 ②
在本文留言區(qū)直接提出你的問題,或掃描下方二維碼提問!

Talk·嘉賓介紹

瀾舟科技NLP算法工程師
華菁云,目前于瀾舟科技進(jìn)行NLP算法研究,算法研究期間登頂中文語言理解權(quán)威評(píng)測基準(zhǔn)CLUE榜單,并開源了自研的孟子系列預(yù)訓(xùn)練模型。她曾參與國家自然科學(xué)基金會(huì)項(xiàng)目,研究課題為“超分辨率圖像重建技術(shù)”;曾參與工信部智能制造2025工業(yè)互聯(lián)網(wǎng)重大示范項(xiàng)目,研究方向?yàn)锳I工業(yè)大數(shù)據(jù);于創(chuàng)新工場AI工程院進(jìn)行NLP算法研究,研究課題為“NLP技術(shù)輔助一級(jí)市場進(jìn)行投資決策”,并使用AI技術(shù)賦能世界各地公司。登頂中文語言理解權(quán)威評(píng)測基準(zhǔn)CLUE榜單;《Mengzi: Towards Lightweight yet Ingenious Pre-trained Models for Chinese》(arXiv)。
個(gè)人主頁:https://github.com/huajingyun


關(guān)于TechBeat人工智能社區(qū)
TechBeat (www.techbeat.net) 是一個(gè)薈聚全球華人AI精英的成長社區(qū)。 我們希望為AI人才打造更專業(yè)的服務(wù)和體驗(yàn),加速并陪伴其學(xué)習(xí)成長。 期待這里可以成為你學(xué)習(xí)AI前沿知識(shí)的高地,分享自己最新工作的沃土,在AI進(jìn)階之路上的升級(jí)打怪的根據(jù)地!
更多詳細(xì)介紹>>https://mp.weixin.qq.com/s/pTbCK_MeTk05jK2yx1RTrQ